Diffusion stable
Jeudi, le président de Microsoft, Brad Smith, a annoncé que sa plus grande appréhension à propos de l’IA tournait autour de la préoccupation croissante pour faux faux et des médias synthétiques conçus pour tromper, Rapports Reuters.
Smith a fait ses remarques tout en révélant son “plan pour la gouvernance publique de l’IA” dans un discours à Planète Monde, un musée des arts du langage à Washington, DC. Ses inquiétudes surviennent alors que les discussions sur la réglementation de l’IA sont de plus en plus courantes, suscitées en grande partie par la popularité du ChatGPT d’OpenAI et un tournée politique par le PDG d’OpenAI, Sam Altman.
Smith a exprimé son désir d’urgence dans la formulation de moyens de différencier les photos ou vidéos authentiques de celles créées par l’IA lorsqu’elles pourraient être utilisées pour fins illicitesen particulier en permettant la désinformation déstabilisatrice de la société.
“Nous allons devoir aborder les problèmes liés aux deepfakes. Nous allons devoir aborder en particulier ce qui nous préoccupe dans la plupart des opérations de cyber-influence étrangères, les types d’activités qui ont déjà lieu par le gouvernement russe, les Chinois, les Iraniens », a déclaré Smith, selon Reuters. “Nous devons prendre des mesures pour nous protéger contre la modification de contenus légitimes dans le but de tromper ou d’escroquer les gens grâce à l’utilisation de l’IA.”
Smith a également fait pression pour l’introduction de licences pour les formes critiques d’IA, arguant que ces licences devraient comporter des obligations de protection contre les menaces à la sécurité, qu’elles soient physiques, de cybersécurité ou nationales. “Nous aurons besoin d’une nouvelle génération de contrôles à l’exportation, au moins l’évolution des contrôles à l’exportation que nous avons, pour garantir que ces modèles ne sont pas volés ou utilisés d’une manière qui violerait les exigences du pays en matière de contrôle des exportations”, a-t-il déclaré.
La semaine dernière, Altman apparu au Sénat américain et a exprimé ses inquiétudes au sujet de l’IA, affirmant que l’industrie naissante doit être réglementée. Altman, dont la société OpenAI est soutenue par Microsoft, a plaidé pour une coopération mondiale sur l’IA et des incitations au respect de la sécurité.
Dans son discours de jeudi, Smith a fait écho à ces sentiments et a insisté sur le fait que les gens doivent être tenus responsables des problèmes causés par l’IA. Il a demandé instamment que des mesures de sécurité soient mises en place sur les systèmes d’IA contrôlant les infrastructures critiques, comme le réseau électrique et l’approvisionnement en eau, afin d’assurer une surveillance humaine.
Dans un effort pour maintenir la transparence autour des technologies d’IA, Smith a exhorté les développeurs à développer un système de type “connaissez votre client” pour surveiller de près la façon dont les technologies d’IA sont utilisées et informer le public sur le contenu créé par l’IA, ce qui facilite la identifier le contenu fabriqué. Dans ce sens, des entreprises telles que Adobe, Googleet Microsoft travaillent tous sur des moyens de filigrane ou autrement étiqueter le contenu généré par l’IA.
Les deepfakes font l’objet de recherches chez Microsoft depuis des années. En septembre, le directeur scientifique de Microsoft, Eric Horvitz rédigé un document de recherche sur les dangers des deepfakes interactifs et de la création d’histoires synthétiques, sujets également abordés dans un article 2020 dans FastCompany par cet auteur, qui a également mentionné les efforts antérieurs de Microsoft pour détecter les deepfakes.
Pendant ce temps, Microsoft est simultanément pousser pour inclure du texte– et la technologie d’IA générative basée sur l’image dans ses produits, notamment Office et Windows. C’est lancement brutal d’un chatbot Bing inconditionné et sous-testé (basé sur une version de GPT-4) en février a stimulé réactions profondément émotionnelles de ses utilisateurs. Ça aussi ravivé les peurs latentes que la superintelligence qui domine le monde est peut-être juste au coin de la rue, une réaction qui certains critiques affirment fait partie d’une campagne de marketing consciente des fournisseurs d’IA.
La question demeure donc : qu’est-ce que cela signifie lorsque des entreprises comme Microsoft vendent le produit même contre lequel elles nous mettent en garde ?
