L’IA se déchaîne parmi les futures perturbations dans un rapport du gouvernement

De l’intelligence artificielle à l’effondrement des écosystèmes, un nouveau rapport du gouvernement canadien présente 35 perturbations qui pourraient ébranler le pays dans un avenir proche.

“Ces perturbations sont des événements et des circonstances potentiels qui pourraient affecter notre société et son fonctionnement, ainsi que la façon dont les gens vivent, travaillent et se connectent”, indique le rapport. “Plus que jamais, le monde est rempli d’incertitude et d’imprévisibilité.”

Selon le rapport, ces perturbations pourraient se faire sentir d’ici trois ans. Les 10 principales perturbations présentant la probabilité et l’impact combinés les plus élevés sont :

1. Les gens ne peuvent pas dire ce qui est vrai et ce qui ne l’est pas – trois ans

2. La biodiversité est perdue et les écosystèmes s’effondrent – ​​sept ans

3. L’intervention d’urgence est débordée – six ans

4. Les cyberattaques désactivent les infrastructures critiques – quatre ans

5. Les milliardaires dirigent le monde – cinq ans

6. L’intelligence artificielle se déchaîne – six ans

7. Les ressources naturelles vitales sont rares – huit ans

8. La mobilité sociale descendante est la norme – cinq ans

9. Effondrement des systèmes de santé – six ans

10. Les systèmes démocratiques s’effondrent – ​​six ans

Concernant la principale perturbation – « les gens ne peuvent pas dire ce qui est vrai et ce qui ne l’est pas » – le rapport souligne la capacité de l’IA à générer un contenu réaliste et source de division.

“La mésinformation et la désinformation rendent presque impossible de savoir ce qui est faux ou réel”, indique le rapport. “Il est beaucoup plus difficile de savoir à quoi ou à qui faire confiance.”

Le “Des perturbations à l’horizon” le rapport a été créé par Horizons de politiques Canadaune organisation fédérale qui fournit une prospective stratégique pour aider à renforcer la prise de décision future du gouvernement.

Bien que bon nombre des 35 perturbations soient interdépendantes, elles sont organisées en cinq catégories : société, économie, environnement, santé et politique/géopolitique.

“Les personnes extrêmement riches utilisent leurs plateformes, leurs entreprises, leurs fondations et leurs investissements pour façonner les politiques publiques, en imposant leurs valeurs et croyances individuelles et en contournant les principes de gouvernance démocratique”, explique une section sur les milliardaires.

“Les régimes autoritaires sont bien plus nombreux que les démocraties et la lutte entre les deux idéologies est compliquée dans de nombreux pays”, déclare une section sur la démocratie. “Certains pays autoritaires connaissent régulièrement des manifestations en faveur de la démocratie, tandis que dans de nombreux pays démocratiques, des responsables dûment élus adoptent des lois qui démantèlent les principales institutions démocratiques.”

Les perturbations varient également en gravité, depuis « la guerre mondiale éclate » jusqu’à « les hommes sont en crise ».

“Les garçons et les hommes sont confrontés à des niveaux sans précédent d’abandon scolaire, de chômage et de solitude alors que les rôles traditionnels de genre sont remis en question”, prédit le rapport.

D’autres perturbations potentielles incluent : les antibiotiques ne fonctionnent plus, la nourriture est rare, la guerre civile éclate aux États-Unis et les armes biologiques artisanales deviennent virales.

“Une perturbation pourrait avoir des conséquences en cascade dans des domaines inattendus, et la survenance d’une perturbation pourrait en déclencher d’autres”, indique le rapport. “Même s’il n’est pas garanti que les perturbations évoquées dans ce rapport se produiront, elles sont plausibles et les ignorer peut comporter des risques dans divers domaines politiques.”

« Des perturbations à l’horizon » fait suite à un rapport similaire de 2023 de la Gendarmerie royale du Canada qui décrivait des tendances troublantes auxquelles il fallait se préparer au Canada, notamment le changement climatique, la désinformation, la méfiance du gouvernement et une récession mondiale.

“Cela va nous faire tout remettre en question”

Francis Syms est doyen associé du département de technologies de l’information et des communications au Humber College de Toronto. Pour Syms – dont les travaux portent sur la cybersécurité, l’intelligence artificielle et la gestion des risques – l’IA représente à la fois un outil puissant et une menace « réelle » avec des implications considérables pour bon nombre des perturbations mentionnées dans le rapport.

“Je pense que ce genre de choses se produit et qu’il est important que le gouvernement commence à en parler”, a déclaré Syms à CTVNews.ca. “Il va y avoir des fermes de contenu qui ne font en réalité que créer de la désinformation. Cela va simplement, je pense, générer de plus en plus de bruit et de confusion.”

Philip Mai est codirecteur du Social Media Lab de l’Université métropolitaine de Toronto, où il étudie la désinformation, la propagande et les théories du complot.

“Pour moi, la plus grande préoccupation est qu’à mesure que ces choses se propagent dans la société, notre niveau de confiance dans ce qui est réel et ce qui ne l’est pas va s’infiltrer dans tout ce que nous faisons, et le problème est que cela va nous amener à nous remettre en question. tout”, a déclaré Mai à CTVNews.ca. “Le génie est sorti de la bouteille. Ces outils sont utiles, mais… comme la plupart des outils, ils ont des conséquences inattendues.”

Syms estime que la technologie open source, la réglementation et l’éducation joueront un rôle essentiel pour aider les gens à reconnaître la réalité en ligne.

“Alors peut-être faudrait-il s’assurer que les gens du secondaire comprennent de quoi il s’agit, ou de l’école primaire”, a-t-il ajouté. “Je pense que c’est un problème en cours, mais c’est quelque chose de nouveau que nous n’avons jamais abordé auparavant.”

Selon Mai, les décideurs politiques devront prêter une attention particulière à l’évolution de la technologie de l’IA.

“C’est comme avant d’inventer l’airbag… nous en sommes maintenant au stade où il existe une voiture et nous attendons d’autres accidents de voiture avant que les gens réclament les ceintures de sécurité et les airbags”, a déclaré Mai. “Ces choses sont publiées plus rapidement que les lois ne peuvent suivre et il nous faudra le reste de cette décennie pour comprendre ce que l’IA peut et ne peut pas faire.”