IA et Kubernetes

Comme tant d’autres dans l’industrie technologique, l’intelligence artificielle (IA) est devenue une priorité dans mon travail quotidien. J'ai commencé à comprendre comment « l'IA » s'intègre dans le monde de Kubernetes - et vice versa. Cet article lancera une série dans laquelle j'explore ce que j'apprends sur l'IA et Kubernetes.

Types de charges de travail d'IA sur Kubernetes

Pour décrire les charges de travail d'IA que les ingénieurs exécutent sur Kubernetes, nous avons besoin d'une certaine terminologie. Dans cet article, je vais décrire deux principaux types de charges de travail : la formation et l'inférence. Chacun de ces deux termes décrit un aspect différent du travail effectué par les ingénieurs de plateforme pour donner vie aux charges de travail d'IA. Dans cet article, je mettrai en évidence deux rôles dans le cheminement du concept à la production pour les charges de travail d’IA. Les ingénieurs de plate-forme comblent le fossé entre les Data Scientists qui conçoivent les modèles et les utilisateurs finaux qui interagissent avec des implémentations formées des modèles conçus par ces Data Scientists.

Les Data Scientists conçoivent des modèles tandis que les Platform Engineers ont un rôle important à jouer pour les faire fonctionner sur du matériel.

Il y a beaucoup de travail à faire avant d'arriver à l'étape d'exécution d'un modèle d'IA en production. Les data scientists choisissent le type de modèle, mettent en œuvre le modèle (la structure du « cerveau » du programme), choisissent les objectifs du modèle et collectent probablement des données de formation. Les...
[Courte citation de 8% de l'article original]