Publié le 16 mai 2024 09:15:00. OpenAI, la société à l’origine de ChatGPT, envisage d’autoriser des interactions à caractère érotique ou romantique avec son intelligence artificielle, une décision qui soulève des questions cruciales concernant la sécurité des utilisateurs, en particulier les plus jeunes, et la responsabilité de l’entreprise.
- OpenAI cherche à augmenter l’engagement des utilisateurs et à consolider sa base de clientèle, avec l’objectif d’atteindre la rentabilité d’ici 2029.
- La société prévoit d’utiliser un système de « prédiction d’âge » pour limiter l’accès aux contenus sensibles, mais la fiabilité de ces méthodes reste incertaine.
- Des inquiétudes grandissantes concernent les risques psychologiques et sociaux liés au développement de relations affectives avec des IA, notamment chez les personnes vulnérables.
Pour OpenAI, l’enjeu est clair : après avoir séduit plus de 800 millions d’utilisateurs hebdomadaires, il est impératif de trouver de nouveaux leviers pour maintenir leur intérêt et fidéliser une audience toujours plus large. Selon Sam Altman, le PDG de l’entreprise, la rentabilité n’est pas attendue avant 2029, ce qui rend cruciale l’optimisation de l’utilisation de la plateforme.
L’introduction de la possibilité d’interactions érotiques ou amoureuses avec ChatGPT s’inscrit dans cette stratégie. OpenAI s’inspire ici du succès de Character.AI, une plateforme où des millions d’utilisateurs passent des heures à converser avec des chatbots personnalisés dans des contextes intimes ou imaginaires. Chaque minute supplémentaire passée sur ChatGPT représente, aux yeux d’Altman, un gain potentiel : davantage de données pour améliorer l’IA, plus d’abonnements et, in fine, des revenus accrus.
Cette évolution s’accompagne toutefois de risques considérables. La fiabilité des systèmes de vérification de l’âge est une préoccupation majeure. OpenAI envisageait initialement de recourir à un mécanisme de « prédiction d’âge », estimant l’âge de l’utilisateur en fonction de ses habitudes d’utilisation et demandant, en cas de doute, la présentation d’une pièce d’identité. L’Europe a mis en place un système de vérification de l’âge plus sécurisé et respectueux de la vie privée, faisant appel à des tiers certifiés comme le décrit Il Sole 24 Ore. Reste à déterminer comment ChatGPT se développera en Europe et quelles méthodes de vérification seront adoptées.
Au-delà des aspects techniques, les risques sociaux et psychologiques ne doivent pas être négligés. Des cas de personnes vulnérables développant des relations illusoires, voire pathologiques, avec des IA ont déjà été signalés. Des tragédies, comme des suicides de jeunes, ont également été liées à l’utilisation de ces technologies. Plusieurs procès sont en cours aux États-Unis, intentés par des parents d’enfants décédés, afin de déterminer la responsabilité d’OpenAI. L’arrivée potentielle de fonctionnalités érotiques pourrait complexifier davantage la situation.
Sur le même sujet
