Tant qu’il y a eu une IA, il y a eu des gens qui sonnent des alarmes sur ce que cela pourrait nous faire: la superintelligence voyou, le chômage de masse ou la ruine environnementale de l’étalement du centre de données. Mais cette semaine a montré qu’une autre menace entièrement – celle des enfants formant des liens malsains avec l’IA – est celui qui tire la sécurité de l’IA de la frange académique et dans les réticulations des régulateurs.
Cela bouillonne depuis un certain temps. Deux poursuites judiciaires de haut niveau déposées au cours de la dernière année, contre le caractère.ai et Openai, allèguent que le comportement complémentaire dans leurs modèles a contribué aux suicides de deux adolescents. UN étude Par les médias de Common Sense à but non lucratif américains, publiés en juillet, a constaté que 72% des adolescents ont utilisé l’IA pour la compagnie. Des histoires dans les points de vente réputés sur la «psychose de l’IA» ont souligné comment les conversations sans fin avec les chatbots peuvent conduire les gens dans des spirales délirantes.
Il est difficile de surestimer l’impact de ces histoires. Pour le public, ils sont la preuve que l’IA n’est pas simplement imparfaite, mais une technologie plus nocive qu’utile. Si vous doutiez que cet outrage serait pris au sérieux par les régulateurs et les entreprises, trois choses se sont produites cette semaine qui pourraient changer d’avis.
Une loi de Californie adopte l’Assemblée législative
Jeudi, la législature de l’État de Californie a adopté un projet de loi en matière de son genre. Il faudrait que les entreprises d’IA incluent des rappels pour les utilisateurs qu’ils savent être des mineurs que les réponses sont générées par l’IA. Les entreprises devraient également avoir un protocole pour lutter contre le suicide et l’automutilation et fournir des rapports annuels sur les cas d’idées suicidaires dans les conversations des utilisateurs avec leurs chatbots. Il a été dirigé par le sénateur de l’État démocrate Steve Padilla, adopté avec un soutien bipartisan lourd, et attend maintenant la signature du gouverneur Gavin Newsom.
Il y a des raisons d’être sceptiques quant à l’impact du projet de loi. Il ne spécifie pas les efforts que les entreprises devraient prendre pour identifier les utilisateurs de mineurs, et de nombreuses entreprises d’IA incluent déjà des références aux fournisseurs de crise lorsque quelqu’un parle de suicide. (Dans le cas d’Adam Raine donner des conseils lié au suicide de toute façon.)
Pourtant, il est sans aucun doute le plus important des efforts pour freiner les comportements compagnons dans les modèles d’IA, qui sont en préparation en Autres États aussi. Si le projet de loi devient loi, il porterait un coup à la position Openai a pris, à savoir que «l’Amérique mène le mieux avec les règles claires et nationales, et non un patchwork de réglementation nationale ou locale», en tant que directeur des affaires mondiales de la société, Chris Lehane, a écrit sur LinkedIn la semaine dernière.
La Federal Trade Commission vise
Le même jour, la Federal Trade Commission a annoncé un enquête en sept entreprises, à la recherche d’informations sur la façon dont elles développent des personnages compagnons, monétisent l’engagement, la mesure et testent l’impact de leurs chatbots, etc. Les entreprises sont Google, Instagram, Meta, Openai, Snap, X et les technologies de caractère, le fabricant de personnages.ai.
La Maison Blanche dispose désormais d’une influence politique immense et potentiellement illégale sur l’agence. En mars, le président Trump a tiré son seul commissaire démocrate, Rebecca Slaughter. En juillet, un juge fédéral a jugé que le licenciement illégalmais la semaine dernière La Cour suprême des États-Unis a temporairement autorisé le licenciement.
“La protection des enfants en ligne est une priorité absolue pour la FTC Trump-Vance, tout comme la promotion de l’innovation dans les secteurs critiques de notre économie”, a déclaré le président de la FTC, Andrew Ferguson, dans un communiqué de presse sur l’enquête.
À l’heure actuelle, c’est juste que – une enquête – mais le processus pourrait (selon le public de la FTC) révèle le fonctionnement interne de la façon dont les entreprises construisent leurs compagnons d’IA pour faire revenir les utilisateurs encore et encore.
Sam Altman sur les cas de suicide
Aussi Le même jour (une journée bien remplie pour AI News), Tucker Carlson a publié une interview d’une heure avec le PDG d’Openai, Sam Altman. Il couvre beaucoup de terrain – la bataille d’Altman avec Elon Musk, Openai militaire Les clients, les théories du complot sur la mort d’un ancien employé, mais il comprend également les commentaires les plus francs que faits Altman a fait jusqu’à présent sur les cas de suicide après des conversations avec l’IA.
Altman a parlé de «la tension entre la liberté des utilisateurs et la confidentialité et la protection des utilisateurs vulnérables» dans des cas comme ceux-ci. Mais ensuite, il a offert quelque chose que je n’avais jamais entendu auparavant.
“Je pense qu’il serait très raisonnable pour nous de dire que dans les cas de jeunes qui parlent sérieusement de suicide, où nous ne pouvons pas entrer en contact avec les parents, nous appelons les autorités”, a-t-il dit. «Ce serait un changement.»
Alors, où va tout cela? Pour l’instant, il est clair que – du moins dans le cas des enfants blessés par la compagnie de l’IA – le livre de jeu familier des Companies ne tiendra pas. Ils ne peuvent plus détourner la responsabilité en s’appuyant sur la confidentialité, la personnalisation ou le «choix des utilisateurs». La pression pour prendre une ligne plus difficile monte des lois des États, des régulateurs et d’un public indigné.
Mais à quoi cela ressemblera-t-il? Politiquement, la gauche et la droite prêtent désormais attention aux dommages aux enfants de l’IA, mais leurs solutions diffèrent. À droite, la solution proposée s’aligne avec le vague des lois sur l’âge sur Internet qui ont maintenant été adoptées dans plus de 20 États. Ceux-ci sont destinés à protéger les enfants du contenu des adultes tout en défendant les «valeurs familiales». À gauche, c’est le renouveau de étal Ambitions de tenir les grandes technologies responsables via les pouvoirs antitrust et la protection des consommateurs.
Le consensus sur le problème est plus facile que l’accord sur la guérison. Dans l’état actuel des choses, il semble probable que nous nous retrouverons avec exactement le patchwork des réglementations nationales et locales contre lesquelles Openai (et beaucoup d’autres) ont fait pression.
Pour l’instant, il est dû aux entreprises de décider où tracer les lignes. Ils doivent décider des choses comme: les chatbots devraient-ils couper les conversations lorsque les utilisateurs se déchaînent vers l’automutilation, ou cela ferait-il des gens pire? Devraient-ils être autorisés et réglementés comme des thérapeutes, ou traités comme des produits de divertissement avec des avertissements? L’incertitude découle d’une contradiction de base: les entreprises ont construit des chatbots pour agir comme des humains attentionnés, mais ils ont reporté le développement des normes et de la responsabilité que nous exigeons de véritables soignants. L’horloge est maintenant épuisée.
Cette histoire est apparue à l’origine dans l’algorithme, notre newsletter hebdomadaire sur l’IA. Pour obtenir des histoires comme celle-ci dans votre boîte de réception en premier, Inscrivez-vous ici.
Sur le même sujet
