Les points de vente informatiques chinois expérimentaient leurs versions du ChatGPT après que Microsoft et Google aient annoncé leurs innovations. Fichier | Crédit photo : Reuters
La police chinoise a arrêté un homme pour avoir prétendument généré de fausses nouvelles d’un accident de train et les avoir diffusées en ligne en utilisant la technologie de l’intelligence artificielle pour “concocter des informations” et les publier sur plusieurs comptes, dans ce qui a été signalé comme la première arrestation en Chine pour utilisation abusive de ChatGPT.
La police de la province du Gansu, dans le nord-ouest du pays, a déclaré dimanche dans un communiqué qu’un suspect du nom de Hong avait été arrêté pour “avoir utilisé la technologie de l’intelligence artificielle pour concocter des informations fausses et fausses”.
Lire aussi | La frénésie ChatGPT balaie la Chine alors que les entreprises se bousculent pour des options locales
L’affaire a d’abord attiré l’attention de la cyberdivision d’un bureau de police de comté lorsqu’ils ont repéré un faux article de presse affirmant que neuf personnes avaient été tuées dans un accident de train local le 25 avril, le South China Morning Post basé à Hong Kong rapporté lundi.
Les responsables de la cybersécurité du comté de Kongtong ont trouvé l’article publié simultanément par plus de 20 comptes sur Baijiahao, une plateforme de style blog gérée par le géant chinois des moteurs de recherche Baidu.
Les histoires avaient reçu plus de 15 000 clics au moment où elles ont été portées à l’attention des autorités, a-t-il déclaré.
Le département de la sécurité publique du Gansu a déclaré que Hong était soupçonné du crime de “provoquer des querelles et de provoquer des troubles”, une accusation passible normalement d’une peine maximale de cinq ans. Mais dans les cas jugés particulièrement graves, les contrevenants peuvent être emprisonnés pendant 10 ans et se voir infliger des peines supplémentaires, le Poste signalé.
C’est la première fois que le public est informé d’une arrestation par les autorités chinoises après que les premières dispositions de Pékin visant à réglementer l’utilisation de la technologie “deepfake” sont officiellement entrées en vigueur en janvier, a-t-il déclaré.
La police a déclaré avoir retracé l’origine de l’article jusqu’à une société appartenant au suspect Hong, qui exploitait des plateformes de médias personnelles enregistrées à Shenzhen, dans la province du Guangdong, dans le sud de la Chine. Environ 10 jours plus tard, une équipe de police a fouillé la maison de Hong et son ordinateur et l’a détenu.
Le communiqué indique que Hong a avoué avoir contourné la fonction de vérification des doublons de Baijiahao pour publier sur plusieurs comptes qu’il avait acquis. Il a saisi les éléments des histoires sociales tendances en Chine des années passées dans ChatGPT pour produire rapidement différentes versions de la même fausse histoire et les a téléchargées sur ses comptes Baijiahao, a-t-il déclaré.
Bien que ChatGPT ne soit pas directement disponible pour les adresses IP chinoises, les utilisateurs chinois peuvent toujours accéder à son service s’ils disposent d’une connexion VPN fiable.
Les points de vente informatiques chinois expérimentaient leurs versions du ChatGPT après que Microsoft et Google aient annoncé leurs innovations.
La Chine surveille de près ses médias sociaux à travers des pare-feu, en particulier Sina Weibo, qui compte plus de 592 millions d’utilisateurs pour s’assurer qu’aucun contenu critique contre le Parti communiste chinois (PCC) au pouvoir.
Le principal régulateur chinois de l’Internet craint depuis longtemps que le développement et l’utilisation incontrôlés de la technologie de synthèse profonde ne conduisent à son utilisation dans des activités criminelles telles que les escroqueries en ligne ou la diffamation.
Alors que ChatGPT est devenu viral ces derniers mois, les forces de l’ordre chinoises ont exprimé à plusieurs reprises des soupçons, voire des avertissements, à propos de la technologie.
Dans l’un des premiers commentaires sur le chatbot fait par l’appareil de sécurité chinois, la police de Pékin a spécifiquement averti le public en février de se méfier des “rumeurs” générées par ChatGPT, le Poste signalé.
