L’intelligence artificielle, présentée comme une révolution, pourrait être plus vulnérable qu’on ne le pense. Une nouvelle étude révèle que la qualité des données d’entraînement a un impact significatif sur les performances des modèles de langage, soulevant des questions sur leur fiabilité à long terme.
Des chercheurs de l’Université Purdue, de l’Université du Texas à Austin et de la Texas A&M University ont mené des expériences sur quatre modèles linguistiques à grande dimension (LLM) pour tester l’hypothèse de la « pourriture cérébrale LLM ». Cette théorie suggère qu’une exposition continue à des textes de faible qualité peut entraîner une dégradation des capacités cognitives de ces modèles.
L’étude a démontré que l’utilisation de données de mauvaise qualité affecte la capacité des intelligences artificielles à produire un contenu pertinent et cohérent. Les chercheurs ont constaté que même une réintroduction progressive de données de meilleure qualité n’a entraîné qu’une amélioration minime des performances.
Ce constat est particulièrement préoccupant à l’heure où de plus en plus d’entreprises cherchent à intégrer l’IA pour automatiser des tâches ou augmenter la productivité de leurs employés. Si les intelligences artificielles sont alimentées par des contenus de faible qualité, comme ceux que l’on trouve fréquemment sur les réseaux sociaux, elles risquent de reproduire et d’amplifier ces mêmes défauts.
Les chercheurs soulignent que les réseaux sociaux, souvent décrits comme des espaces où s’expriment les aspects les plus sombres de la nature humaine, pourraient être une source particulièrement problématique pour l’entraînement des IA. Ils comparent ces contenus à de la « malbouffe » pour le cerveau, soulignant leur manque de valeur cognitive.
L’étude met en garde contre un scénario où les intelligences artificielles se nourriraient en permanence de leur propre production, créant ainsi un cercle vicieux de dégradation de la qualité. « Si tous les contenus en ligne étaient construits par des intelligences artificielles, celles-ci pourraient se retrouver à se nourrir de ce qu’elles ont déjà produit », expliquent les chercheurs.
Pour aller plus loin
