Vous n’avez pas besoin de savoir coder pour créer votre propre chatbot IA. Depuis début novembre, soit peu avant le chaos dans l’entreprise déplié—OpenAI a laissé quelqu’un créer et publier leurs propres versions personnalisées de ChatGPT, connus sous le nom de « GPT ». Des milliers ont été créés : un GPT « nomade » donne des conseils sur le travail et la vie à distance, un autre prétend rechercher 200 millions d’articles universitaires pour répondre à vos questions, et un autre encore fera de vous un personnage Pixar.
Cependant, ces GPT personnalisés peuvent également être contraints de divulguer leurs secrets. Les chercheurs et technologues en sécurité qui enquêtent sur les chatbots personnalisés leur ont fait divulguer les instructions initiales qui leur ont été données lors de leur création, et ont également découvert et téléchargé les fichiers utilisés pour personnaliser les chatbots. Les informations personnelles ou les données exclusives des personnes peuvent être mises en danger, affirment les experts.
“Les problèmes de confidentialité liés aux fuites de fichiers doivent être pris au sérieux”, déclare Jiahao Yu, chercheur en informatique à l’Université Northwestern. “Même s’ils ne contiennent pas d’informations sensibles, ils peuvent contenir des connaissances que le concepteur ne souhaite pas partager avec d’autres, et [that serves] comme élément central du GPT personnalisé.
Avec d’autres chercheurs de Northwestern, Yu a testé plus de 200 GPT personnalisés, et a trouvé « étonnamment simple » de révéler des informations à leur sujet. « Notre taux de réussite était de 100 % pour les fuites de fichiers et de 97 % pour l’extraction des invites système, réalisables avec des invites simples qui ne nécessitent pas de connaissances spécialisées en ingénierie des invites ou en red-teaming », explique Yu.
GPT personnalisés sont, de par leur conception même, faciles à réaliser. Les personnes disposant d’un abonnement OpenAI peuvent créer des GPT, également appelés agents IA. OpenAI dit les GPT peuvent être créés pour un usage personnel ou publiés sur le Web. La société prévoit que les développeurs pourront éventuellement gagner de l’argent en fonction du nombre de personnes utilisant les GPT.
Pour créer un GPT personnalisé, il vous suffit de envoyez un message à ChatGPT et dites ce que vous voulez que le bot personnalisé fasse. Vous devez lui donner des instructions sur ce que le bot doit ou ne doit pas faire. Un robot capable de répondre à des questions sur les lois fiscales américaines peut recevoir pour instruction de ne pas répondre à des questions sans rapport ou à des réponses sur les lois d’autres pays, par exemple. Vous pouvez télécharger des documents contenant des informations spécifiques pour donner au chatbot une plus grande expertise, par exemple en alimentant les fichiers du robot fiscal américain sur le fonctionnement de la loi. La connexion d’API tierces à un GPT personnalisé peut également contribuer à augmenter les données auxquelles il peut accéder et le type de tâches qu’il peut effectuer.
