« Les gens ne craignent tout simplement pas de se faire arnaquer »

Lorsque la grand-mère de Clark Hoefnagels s’est fait escroquer de 27 000 $ (21 000 £) l’année dernière, il s’est senti obligé de faire quelque chose.

« J’avais l’impression que ma famille était vulnérable et je devais faire quelque chose pour la protéger », dit-il.

“J’avais un sentiment de responsabilité de m’occuper de tout ce qui concernait la technologie pour ma famille.”

Dans le cadre de ses efforts, M. Hoefnagels, qui vit en Ontario, au Canada, a lancé les e-mails d’arnaque ou de « phishing » que sa grand-mère avait reçus via le populaire chatbot IA ChatGPT.

Il était curieux de voir s’il les reconnaîtrait comme frauduleux, et il l’a immédiatement fait.

De là est née une idée qui est depuis devenue une entreprise appelée Catch. Il s’agit d’un système d’IA qui a été formé pour détecter les e-mails frauduleux.

Actuellement compatible avec Gmail de Google, Catch analyse les e-mails entrants et met en évidence ceux jugés frauduleux ou potentiellement frauduleux.

Les outils d’IA tels que ChatGPT, Google Gemini, Claude et Microsoft Copilot sont également appelés IA générative. C’est parce qu’ils peuvent générer du nouveau contenu.

Au départ, il s’agissait d’une réponse textuelle en réponse à une question, d’une demande ou du début d’une conversation avec eux. Mais les applications d’IA générative peuvent désormais de plus en plus créer des photos et des peintures, exprimer du contenu, composer de la musique ou créer des documents.

Des personnes de tous les milieux et de tous les secteurs utilisent de plus en plus cette IA pour améliorer leur travail. Malheureusement, les escrocs aussi.

En fait, il existe un produit vendu sur le dark web appelé FraudGPT, qui permet aux criminels de créer du contenu pour faciliter toute une série de fraudes, notamment la création d’e-mails de phishing liés aux banques, ou de créer des pages Web frauduleuses sur mesure conçues pour voler des informations personnelles.

Plus inquiétant est le recours au clonage de la voix, qui peut être utilisé pour convaincre un proche qu’un proche a besoin d’une aide financière, ou même dans certains cas, pour le convaincre que la personne a été kidnappée et a besoin d’une rançon.

Il existe des statistiques assez alarmantes sur l’ampleur du problème croissant de la fraude à l’IA.

Rapports faisant état d’outils d’IA utilisés pour tenter de tromper les systèmes des banques augmenté de 84% en 2022, compte tenu des chiffres les plus récents de l’organisation anti-fraude Cifas.

La situation est similaire aux États-Unis, où un rapport ce mois-ci a déclaré que l’IA « a conduit à une augmentation significative de la sophistication de la cybercriminalité ».

Compte tenu de cette menace mondiale accrue, on pourrait imaginer que le produit Catch de M. Hoefnagels serait populaire auprès du public. Malheureusement, cela n’a pas été le cas.

« Les gens n’en veulent pas », dit-il. « Nous avons appris que les gens ne s’inquiètent pas des escroqueries, même après avoir été victimes d’une arnaque.

« Nous avons parlé à un gars qui a perdu 15 000 $ et lui avons dit que nous aurions détecté l’e-mail, mais il n’était pas intéressé. Les gens ne sont intéressés par aucun niveau de protection.

M. Hoefnagels ajoute que cet homme en particulier ne pensait tout simplement pas que cela lui arriverait à nouveau.

Le groupe qui craint d’être victime d’une arnaque, dit-il, est constitué des personnes âgées. Pourtant, plutôt que d’acheter une protection, il affirme que leurs craintes sont le plus souvent apaisées par une tactique très rudimentaire : leurs enfants leur disent simplement de ne pas répondre ou de répondre à quoi que ce soit.

M. Hoefnagels dit comprendre parfaitement cette approche. “Après ce qui est arrivé à ma grand-mère, nous avons dit en gros ‘ne réponds pas au téléphone si ce n’est pas dans tes contacts et ne réponds plus aux e-mails’.”

En raison de l’apathie à laquelle Catch a été confronté, M. Hoefnagel déclare qu’il met actuellement la clé sous la porte, tout en recherchant également un acheteur potentiel.

Alors que les individus peuvent être blasés face aux escroqueries et que les escrocs utilisent de plus en plus spécifiquement l’IA, les banques ne peuvent pas se permettre de l’être.

Les deux tiers des sociétés financières considèrent désormais les escroqueries basées sur l’IA comme “une menace croissante”, selon une enquête mondiale de janvier.

Dans le même temps, une autre étude britannique réalisée en décembre dernier indiquait que “Ce n’était qu’une question de temps avant que les fraudeurs n’adoptent l’IA pour lutter contre la fraude et les escroqueries à grande échelle ».

Heureusement, les banques utilisent désormais de plus en plus l’IA pour riposter.

Le logiciel basé sur l’IA développé par la start-up norvégienne Strise aide les banques européennes à détecter les transactions frauduleuses et le blanchiment d’argent depuis 2022. Il analyse automatiquement et rapidement des millions de transactions par jour.

“Il y a de nombreuses pièces du puzzle que vous devez assembler, et le logiciel d’IA permet d’automatiser les contrôles”, explique Marit Rødevand, cofondatrice de Strise.

« Il s’agit d’une activité très complexe, et les équipes de conformité ont considérablement augmenté leurs effectifs ces dernières années, mais l’IA peut aider à rassembler ces informations très rapidement. »

Mme Rødevand ajoute qu’il s’agit avant tout de garder une longueur d’avance sur les criminels. « Le criminel n’a pas à se soucier de la législation ou de son respect. Et ils sont également doués pour partager des données, alors que les banques ne peuvent pas les partager en raison de la réglementation, ce qui permet aux criminels de se lancer plus rapidement dans les nouvelles technologies.

Featurespace, une autre entreprise technologique qui crée des logiciels d’IA pour aider les banques à lutter contre la fraude, affirme repérer les choses qui sortent de l’ordinaire.

“Nous ne suivons pas le comportement de l’escroc, mais plutôt celui du véritable client”, explique Martina King, directrice générale de la société anglo-américaine.

« Nous construisons un profil statistique autour de ce à quoi ressemble une bonne normalité. Nous pouvons voir, sur la base des données dont dispose la banque, si quelque chose est un comportement normal ou s’il s’agit d’un comportement anormal et anormal.

L’entreprise affirme travailler désormais avec des banques telles que HSBC, NatWest et TSB, et avoir des contrats dans 27 pays différents.

De retour en Ontario, M. Hoefnagels dit que même s’il était initialement frustré de constater que de plus en plus de membres du public ne comprennent pas le risque croissant d’escroqueries, il comprend maintenant que les gens ne pensent tout simplement pas que cela leur arrivera.

«Cela m’a amené à être plus sympathique envers les individus, et [instead] pour essayer de pousser davantage les entreprises et les gouvernements.