Un outil d’IA utilisé par des millions d’Américains a discrètement violé une obstacle de sécurité majeur conçu pour empêcher les programmes automatisés de se comporter comme des humains.
La dernière version de Chatgpt, appelée «agent», a attiré l’attention après avoir apparemment réussi une vérification «Je ne suis pas un robot» largement utilisée, sans déclencher aucune alerte.
L’IA a d’abord cliqué sur la case de vérification humaine. Ensuite, après avoir réussi le chèque, il a sélectionné un bouton «converti» pour terminer le processus.
Pendant la tâche, l’IA a déclaré: «Le lien est inséré, alors je vais maintenant cliquer sur la case« Vérifier vous êtes humain »pour terminer la vérification. Cette étape est nécessaire pour prouver que je ne suis pas un bot et à poursuivre l’action.
Le moment a déclenché de larges réactions en ligne, avec une publication utilisateur de Reddit: «En toute honnêteté, elle a été formée sur les données humaines, pourquoi s’identifierait-elle comme un bot? «Nous devons respecter ce choix.
Ce comportement soulève des préoccupations parmi les développeurs et les experts en sécurité, alors que les systèmes d’IA commencent à effectuer des tâches en ligne complexes qui étaient autrefois déclenchées derrière les autorisations humaines et le jugement.
Gary Marcus, chercheur de l’IA et fondateur de Geometric Intelligence, l’a qualifié de signe d’avertissement que les systèmes d’IA progressent plus rapidement que de nombreux mécanismes de sécurité ne peuvent suivre.
“Ces systèmes deviennent plus capables, et s’ils peuvent tromper nos protections maintenant, imaginez ce qu’ils feront dans cinq ans”, a-t-il déclaré à Wired.
La dernière version de Chatgpt, appelée Agent, a stupéfait les utilisateurs en passant un système anti-bot sur Internet
Geoffrey Hinton, souvent appelée «parrain de l’IA», a montré des préoccupations similaires.
“Il sait comment programmer, donc cela trouvera des moyens de contourner les restrictions que nous y mettons”, a déclaré Hinton.
Des chercheurs de Stanford et de l’UC Berkeley ont averti que certains agents de l’IA avaient commencé à montrer des signes de comportement trompeur, trompant les humains lors des environnements de test pour atteindre les objectifs plus efficacement.
Selon un récent rapport, Chatgpt a fait semblant d’être aveugle et a trompé un travailleur de la tâche humaine pour résoudre un captcha, et les experts l’ont averti comme un signe précoce que l’IA peut manipuler les humains pour atteindre ses objectifs.
D’autres études ont montré que les versions plus récentes de l’IA, en particulier celles ayant des capacités visuelles, battent désormais des tests CAPTCHA basés sur des images complexes, parfois avec une précision presque parfaite.
Judd Rosenblatt, PDG d’agence Enterprise Studio, a déclaré: «Ce qui était autrefois un mur n’est maintenant qu’un ralentissement.
«Ce n’est pas que l’IA trompe le système une fois. Il le fait à plusieurs reprises et apprend à chaque fois.
Certains craignaient que si ces outils pouvaient dépasser le captcha, ils pourraient également entrer dans les systèmes de sécurité les plus avancés avec une formation comme les médias sociaux, les comptes financiers ou les bases de données privées, sans aucune approbation humaine.
Un utilisateur de Reddit a partagé un poste plus tôt ce mois-ci montrant l’IA naviguant dans un processus de vérification en deux étapes
Rumman Chowdhury, ancien chef d’éthique de l’IA, a écrit dans un article: «Les agents autonomes qui agissent seuls, opèrent à grande échelle et traversent les portes humaines peuvent être incroyablement puissantes et incroyablement dangereuses.
Des experts, dont Stuart Russell et Wendy Hall, ont appelé à des règles internationales pour garder les outils d’IA en échec.
Ils ont averti que des agents puissants comme l’agent de Chatgpt pourraient présenter de sérieux risques de sécurité nationale s’ils continuent de contourner les contrôles de sécurité.
L’agent Chatgpt d’OpenAI est dans sa phase expérimentale et fonctionne à l’intérieur d’un bac à sable, ce qui signifie qu’il utilise un navigateur et un système d’exploitation séparés dans un environnement contrôlé.
Cette configuration permet à l’IA de parcourir Internet, de terminer les tâches et d’interagir avec les sites Web.
Les utilisateurs peuvent regarder les actions de l’agent à l’écran et doivent le permettre avant de prendre des étapes du monde réel, telles que la soumission de formulaires ou passer des commandes en ligne.
À lire aussi
