Les principaux dirigeants de l’intelligence artificielle, dont le PDG d’OpenAI, Sam Altman, se sont joints mardi à d’autres experts et professeurs pour exhorter les décideurs politiques à considérer la technologie comme l’un des risques les plus graves pour l’humanité.
“Atténuer le risque d’extinction de l’IA devrait être une priorité mondiale aux côtés d’autres risques à l’échelle de la société tels que les pandémies et la guerre nucléaire”, ont écrit plus de 350 signataires dans une lettre publié par le Center for AI Safety (CAIS) à but non lucratif.
Outre Altman, ils comprenaient les PDG des sociétés d’IA DeepMind et Anthropic, ainsi que des dirigeants de Microsoft et Google.
Parmi eux se trouvaient également Geoffrey Hinton et Yoshua Bengio – deux des trois soi-disant « parrains de l’IA » qui ont reçu le prix Turing 2018 pour leur travail sur l’apprentissage en profondeur – et des professeurs d’institutions allant de Harvard à l’Université chinoise de Tsinghua.
Une déclaration du CAIS a pointé du doigt Meta, où travaille le troisième parrain de l’IA, Yann LeCun, pour ne pas avoir signé la lettre.
La lettre a coïncidé avec la réunion du Conseil du commerce et de la technologie entre les États-Unis et l’UE en Suède, où les politiciens devraient parler de la réglementation de l’IA.
Bengio et Elon Musk, ainsi que plus de 1 000 autres experts et dirigeants de l’industrie, avait déjà cité des risques potentiels pour la société en avril.
Les développements récents de l’IA ont créé des outils qui, selon les partisans, peuvent être utilisés dans des applications allant du diagnostic médical à la rédaction de mémoires juridiques, mais cela a fait craindre que la technologie ne conduise à des violations de la vie privée, à de puissantes campagnes de désinformation et à des problèmes avec les “machines intelligentes” pensant par elles-mêmes. .
Le pionnier de l’IA, Hinton, a déclaré plus tôt à Reuters que l’IA pourrait constituer une menace “plus urgente” pour l’humanité que le changement climatique.
La semaine dernière, Altman a qualifié l’IA de l’UE – les premiers efforts pour créer une réglementation pour l’IA – de surréglementation et a menacé de quitter l’Europe. Il a renversé sa position quelques jours après les critiques des politiciens.
La présidente de la Commission européenne, Ursula von der Leyen, rencontrera Altman jeudi.
Geoffrey Hinton, pionnier canado-britannique de l’intelligence artificielle, a déclaré avoir quitté Google en raison de découvertes récentes sur l’IA qui lui ont fait réaliser qu’elle constituait une menace pour l’humanité. La correspondante en chef de la CBC, Adrienne Arseualt, parle au “parrain de l’IA” des risques encourus et s’il existe un moyen de les éviter.
#Lintelligence #artificielle #présente #risque #dextinction #préviennent #les #responsables #techniques #les #experts
2023-05-30 16:01:11
