Bruxelles, le 16 novembre 2023. L’Irish Council for Civil Liberties (ICCL) a déposé une plainte auprès du Médiateur européen, accusant la Commission européenne de ne pas divulguer l’utilisation d’outils d’intelligence artificielle générative dans l’élaboration de documents officiels.
- L’ICCL affirme qu’un lien généré par ChatGPT a été inclus dans une réponse de la Commission à une demande d’accès aux documents.
- L’organisation s’inquiète du potentiel d’inexactitudes des systèmes d’IA et de l’obligation pour les institutions européennes de fournir des informations fiables.
- La Commission européenne assure disposer de directives internes strictes concernant l’utilisation de l’IA, avec une surveillance humaine systématique.
La plainte de l’Irish Council for Civil Liberties (ICCL) met en lumière une question émergente concernant la transparence de l’utilisation de l’intelligence artificielle au sein des institutions européennes. L’ICCL a découvert, suite à une demande d’accès aux documents, qu’au moins un lien avait été généré à l’aide de ChatGPT, un outil d’IA développé par OpenAI. Cette découverte soulève des interrogations sur la fiabilité des informations diffusées par la Commission.
Selon le Dr Kris Shrishak, chercheur principal à l’ICCL Enforce, les organismes publics tels que la Commission européenne doivent impérativement être transparents quant à l’utilisation d’outils d’IA générative, même lorsque les résultats sont vérifiés par du personnel.
« Les organismes publics comme la Commission européenne devraient toujours être transparents et divulguer si un outil d’IA générative est utilisé dans un document public, même si les résultats de ces outils ont été évalués par leur personnel. »
Dr Kris Shrishak, chercheur principal à l’ICCL Enforce
Il souligne également la nécessité de préciser les outils utilisés pour garantir une transparence totale.
« Dans une telle divulgation, des détails spécifiques sur les outils doivent également être mentionnés par souci de transparence. »
Dr Kris Shrishak, chercheur principal à l’ICCL Enforce
Interrogée, la Commission européenne a réagi en affirmant disposer de directives claires pour son personnel concernant l’utilisation interne de l’IA. Un porte-parole a précisé que la Commission utilise également son propre outil basé sur la technologie GPT.
« Nous disposons de notre propre outil GPT […] nous utilisons l’IA dans notre travail quotidien, mais il y a toujours une surveillance humaine. »
Porte-parole de la Commission européenne
La Commission assure que l’IA est utilisée de manière responsable et que ses directives internes ont été mises à jour en mai 2023.
Cette plainte intervient alors que l’utilisation de l’IA générative se répand rapidement dans de nombreux secteurs, y compris l’administration publique. La question de la transparence et de la fiabilité des informations générées par ces outils devient donc cruciale pour maintenir la confiance des citoyens.