L’un des plus grands obstacles – et des points clés que l’échec peut se produire – dans l’intelligence artificielle (IA) dans la transition du projet de test à la production. La mise à l’échelle du stockage est essentielle, mais il en va de même pour s’assurer que toutes les pièces techniques et organisationnelles se réunissent.
Dans ce podcast, nous parlons avec le CTO Sven Oehme du fabricant de stockage de stockage DDN sur les principaux défis techniques et organisationnels pour mettre l’IA dans la production, les rôles clés dans ce processus et la façon d’assurer un progrès en douceur de la preuve de concept (POC) à la production dans l’IA. La clé de cela, dit Oehme, est de rassembler tous les domaines de l’infrastructure informatique ainsi que le leadership de niveau C.
Quels sont les principaux obstacles techniques pour mettre l’IA en production?
Donc, ce que nous avons vu avec les clients, c’est qu’ils commencent généralement par un très petit POC. Les POC sont très faciles à configurer. Il y a un grand nombre de fournisseurs que vous pouvez sélectionner pour faire en sorte que quelque chose se passe dans l’IA, mais où nous voyons la plus grande difficulté, c’est quand les gens essaient de prendre des choses du POC ou de test en pleine production. C’est là que de nombreux défis apparaissent pour eux.
Les défis peuvent concerner les performances – les systèmes qu’ils choisissent pour aller en production ne fonctionnent tout simplement pas [well] assez. Il y a [also] Personne généralement l’évolutivité si vous testez quelque chose à petite échelle.
Les choses sont beaucoup plus faciles si vous allez aller à 100, 1 000 ou dizaines de 1 000 GPU comme certains clients pour obtenir une échelle de production complète. Vous voyez beaucoup de problèmes différents à grande échelle, donc un point clé consiste à choisir un fournisseur qui a réellement une technologie déployée réussie à très grande échelle car, généralement, lorsque vous allez en production, c’est là que se produit l’échelle réelle et c’est là que les problèmes typiques apparaissent.
Quels sont les principaux obstacles organisationnels à mettre l’IA en production?
Si vous prenez l’IA en production, les obstacles organisationnels sont généralement que beaucoup de choses différentes se réunissent. Il est différent des projets informatiques où le consommateur ou l’utilisateur final dit: «Je veux intégrer cette nouvelle application» ou «Je veux faire fonctionner cette suite commerciale supplémentaire pour moi».
L’IA a plus d’exigences [that need] Intégration très serrée de toutes les infrastructures en termes de matériel ainsi que d’intégration des écosystèmes. [It is] Différent des projets informatiques traditionnels – un projet d’IA a besoin d’une intégration beaucoup plus stricte entre ses différents aspects.
Vous avez besoin de personnes du côté réseautage; Les gens qui ont quelque chose à voir avec le côté stockage ainsi que le côté calcul de l’infrastructure. Et puis vous avez également généralement besoin des utilisateurs finaux, des scientifiques des données ou des personnes qui écrivent l’application qui utilise l’infrastructure d’IA, et vous devez les rassembler.
Ainsi, l’un des grands obstacles organisationnels que nous voyons est qu’il existe des limites établies au sein des entreprises où elles ont des zones segmentées de l’infrastructure du côté matériel et logiciels. Pour les projets d’IA, il est absolument déterminant de rassembler toutes ces personnes sur une seule table afin d’avoir un déploiement réussi.
Comment pouvons-nous résumer les principales différences entre les projets pilotes d’IA et l’IA en production?
L’essentiel est vraiment que les choses semblent beaucoup plus simples sur le POC ou le stade pilote qu’ils ne sont réellement dans une véritable production à part entière.
Donc, si vous démarrez un projet, vous devriez depuis le début à ce à quoi il ressemblerait en pleine production. [You should] Assurez-vous que lorsque vous faites un pilote, il vise à cela, que l’architecture est évolutive et que ce que vous déployez pourra travailler à petite échelle mais aussi à très grande échelle.
Existe-t-il un modèle technique ou opérationnel que les clients peuvent utiliser pour s’assurer qu’ils passent avec succès vers le fonctionnement dans les projets d’IA?
La clé est d’avoir un point focal pour le projet [that can] Tirez les ressources et les maux de divers domaines. Si vous ne pouvez pas former une équipe holistique qui le fait, vous avez au moins besoin d’avoir quelqu’un qui est en charge qui organise et amène toutes les bonnes personnes à la table.
L’IA touche généralement de nombreuses zones différentes des infrastructures. Ce n’est pas un projet informatique traditionnel, et vous avez donc besoin d’une intégration beaucoup plus stricte entre les différentes équipes et organisations pour avoir un résultat réussi.
Quel rôle dans l’organisation ou dans l’organisation informatique prendrait généralement cela? Ou sont-ils de nouveaux rôles?
Eh bien, il y a clairement de nouveaux rôles qui apparaissent. Mais ce que nous voyons, c’est que les projets les plus réussis sont ceux qui sont motivés par la création de valeur commerciale.
Donc, généralement ceci [would be] Un sponsor exécutif de niveau C qui dit: «Nous voulons tirer parti de l’IA pour créer une valeur commerciale réelle.» Ce sont ceux qui sont généralement les plus réussis car ils sont tirés du point de vue de la rentabilité des revenus et qui lui donne le bon objectif, le bon niveau d’investissement et également le bon parrainage exécutif pour s’assurer que cela se fait avec priorité.
Vous pouvez très facilement surmonter les obstacles au sein des organisations ou des barrages routiers qui sont beaucoup plus difficiles à résoudre à un niveau inférieur.