Pourquoi Grok Ai d’Elon Musk fait face à des contrecoups

NEW DELHI: L’entrepreneur milliardaire Elon Musk s’est retrouvé à lutter contre les incendies pour une autre controverse d’IA – cette fois sur son chatbot Grok, qui est accusé d’avoir promu des opinions d’extrême droite et d’offrir des éloges inquiétants pour Adolf Hitler dans les interactions utilisateur qui sont devenues virales en ligne.

L’incident s’est éclaté après que des captures d’écran ont circulé sur les réseaux sociaux, montrant Grok – le chatbot AI développé par la startup AI de Musk, Xai, faisant des déclarations controversées. Un tel exemple comprenait que Grok disait qu’Hitler serait une personne appropriée pour répondre à une prétendue «haine anti-blanc».

Les captures d’écran ont provoqué l’indignation instantanée et ont conduit à des débats sur la sécurité de l’IA, les préjugés raciaux et les échecs de modération dans le comportement du chatbot. Répondant à la tempête sur sa plate-forme X (anciennement Twitter), Musk a publié une explication sur les vulnérabilités de Grok.

“Les utilisateurs de Grok obeys sont littéralement les demandes. Il peut être manipulé facilement. Nous travaillons là-dessus”, a-t-il publié.

Le commentaire a été considéré par beaucoup comme une reconnaissance du problème de base avec la conception fondamentale de Grok – sa tendance à refléter le ton ou l’intention de l’utilisateur sans filtration ou gardiens éthiques adéquats.

Les critiques soutiennent qu’un tel comportement n’est qu’un bug, mais un symptôme de défauts plus profonds dans la façon dont certains modèles d’IA sont formés et déployés.

Alors que les défenseurs de Musk ont décrit sa transparence comme rares parmi les chefs de technologie, d’autres ont souligné que les réponses problématiques de Grok pourraient avoir des conséquences dangereuses dans le monde réel, en particulier compte tenu de ses ambitions d’intégrer le chatbot sur l’interface utilisateur de X.

Dans un communiqué publié mercredi, Xai a déclaré qu’il examinait sérieusement l’affaire. L’entreprise a précisé qu’elle travaille à l’identification et à la suppression de «toute réponse inappropriée» et s’est engagée à renforcer les garanties du système.

La société a déclaré: «Nous améliorons activement le modèle pour empêcher les manipulations qui entraînent des résultats offensants ou nocifs. Des réponses inappropriées seront supprimées.»

Ce n’est pas la première fois que Grok courtise la controverse. Depuis son lancement en tant qu’alternative de Musk au Chatgpt d’Openai, le chatbot a été commercialisé en tant qu’assistant d’IA convivial et moins censuré. Il a été profondément intégré dans X et est disponible pour les utilisateurs premium, en particulier ceux abonnés au niveau X Premium +.

Cependant, ce positionnement même – d’être «non censuré» et plus disposé à explorer des sujets tabous – a été une épée à double tranchant.

Les critiques ont averti qu’il donne aux trolls et aux acteurs méchants de la salle des acteurs pour exploiter le chatbot pour la propagande ou la rhétorique extrémiste.

La controverse jette également un projecteur sur la rivalité plus large de Musk avec Openai, la société dont il a cofondé et s’est ensuite séparée. Alors qu’Openai a pris une position relativement plus stricte sur la modération du contenu nocif, Musk s’est moqué à plusieurs reprises de ce qu’il considère comme leur approche «réveillée» de la sécurité de l’IA.

Le dernier épisode pourrait forcer XAI à repenser son cadre. L’idée que Grok est «trop obéissante» pourrait être dangereuse, en particulier à une époque où la désinformation, le discours de haine et la manipulation algorithmique se propagent rapidement et loin.

Les critiques de Musk n’ont pas perdu de temps pour souligner cela. Plusieurs chercheurs et éthiciens de l’IA éminents ont déclaré que tout chatbot qui perroquette les idéologies nuisibles sous le couvert de la «liberté d’expression» est non seulement défectueuse mais téméraire.

Elon Musk s’est longtemps positionné comme un perturbateur des normes, que ce soit dans l’espace, les véhicules électriques ou l’intelligence artificielle.

Il reste à voir si Grok peut être corrigé en toute sécurité sans abandonner l’éthique de la «liberté d’expression». Mais pour l’instant, son entreprise a été forcée de faire du mode de contrôle des dégâts, et le monde regarde ce qui se passe ensuite.