Vous voulez des informations plus intelligentes dans votre boîte de réception? Inscrivez-vous à nos newsletters hebdomadaires pour obtenir uniquement ce qui compte pour les chefs d’IA en entreprise, les données et les chefs de sécurité. Abonnez-vous maintenant
Russie Apt28 Déploie activement des logiciels malveillants alimentés par LLM contre l’Ukraine, tandis que les plateformes souterraines vendent les mêmes capacités à quiconque pour 250 $ par mois.
Mois dernier, Ukraine’s CERT-UA documenté Foile premier déploiement confirmé de logiciels malveillants alimentés par LLM à l’état sauvage. Le logiciel malveillant, attribué à APT28, utilise des jetons API de visage étreintes volés pour interroger les modèles AI, permettant des attaques en temps réel tout en affichant du contenu distrayant aux victimes.
Cato Networks ‘ Le chercheur, Vitaly Simonovich, a déclaré à VentureBeat dans une récente interview que ce ne sont pas des événements isolés, et que l’APT28 de la Russie utilise cette attaque Tradecraft pour sonder les cyber-défenses ukrainiennes. Simonovich est rapide à établir des parallèles entre les menaces que l’Ukraine est confrontée quotidiennement et ce que chaque entreprise connaît aujourd’hui, et en verra probablement plus à l’avenir.
Le plus surprenant était de savoir comment Simonovich a démontré pour s’aventurer comment un outil d’IA d’entreprise peut être transformé en une plate-forme de développement de logiciels malveillants en moins de six heures. Sa preuve de concept a converti avec succès OpenAI, Microsoft, Deepseek-V3 et Deepseek-R1 en voleurs de mot de passe fonctionnels en utilisant une technique qui contourne tous les contrôles de sécurité actuels.
L’échelle AI atteint ses limites
Les plafonds d’électricité, la hausse des coûts de jetons et les retards d’inférence remodèlent l’entreprise AI. Rejoignez notre salon exclusif pour découvrir à quel point les équipes sont les meilleures:
- Transformer l’énergie en un avantage stratégique
- Architecting Inférence efficace pour les gains de débit réels
- Déverrouiller un retour sur investissement compétitif avec des systèmes d’IA durables
Sécurisez votre place pour rester en avance: https://bit.ly/4mwgngo
La convergence rapide des acteurs de l’État-nation déploient 2025 Rapport de menace Cato Ctrl révèle l’adoption explosive de l’IA dans plus de 3 000 entreprises. Chercheurs de Cato observer Dans le rapport, “Notamment, Copilot, Chatgpt, Gemini (Google), Perplexity et Claude (anthropic) ont tous augmenté en adoption par les organisations du premier trimestre, 2024 au quatrième trimestre 2024 à 34%, 36%, 58%, 115% et 111%, respectivement.”
Lamehug d’APT28 est la nouvelle anatomie de l’IA Warfare
Les chercheurs de Cato Networks et d’autres disent VentureBeat que Lamehug fonctionne avec une efficacité exceptionnelle. Le mécanisme de livraison le plus courant pour les logiciels malveillants est via des e-mails de phishing qui se font l’identité de responsables du ministère ukrainien, contenant des archives ZIP avec des exécutables compilés compilés par Pyinstaller. Une fois le malware exécuté, il se connecte à l’API de l’étreinte Face en utilisant environ 270 jetons volés pour interroger le Modèle de CODER-32B-CODER-32B.
Le document gouvernemental ukrainien à l’aspect légitime (додаток.pdf) que les victimes voient tandis que Lamehug s’exécute en arrière-plan. Ce PDF officiel sur les mesures de cybersécurité du service de sécurité de l’Ukraine sert de leurre tandis que le malware effectue ses opérations de reconnaissance. Source: Cato Ctrl Threat Research
L’approche d’APT28 pour tromper les victimes ukrainiennes est basée sur un design unique et à double usage qui est au cœur de leur métier. Alors que les victimes considèrent les PDF légitimes sur les meilleures pratiques de cybersécurité, Lamehug exécute des commandes générées par l’IA pour la reconnaissance du système et la récolte de documents. Une deuxième variante affiche des images générées par l’AI de «femmes nues bouclées» comme distraction lors de l’exfiltration des données aux serveurs.
Les invites de génération d’images provocatrices utilisées par la variante Image.py.py d’Apt28, y compris ‘Curvy Naked Woman Assis, longues jambes belles, vue de front, vue complète, visage visible’, sont conçus pour attirer l’attention des victimes pendant le vol de documents. Source: Cato Ctrl Threat Research
«La Russie a utilisé l’Ukraine comme champ de bataille de test pour les cyber-armes», a expliqué Simonovich, né en Ukraine et vit en Israël depuis 34 ans. “C’est le premier dans la nature qui a été capturé.”
Un chemin rapide et mortel de six heures de zéro au malware fonctionnel
La démonstration du chapeau noir de Simonovich à VentureBeat révèle pourquoi le déploiement d’APT28 devrait concerner chaque chef de sécurité d’entreprise. À l’aide d’une technique d’ingénierie narrative, il appelle «monde immersif», il a réussi à transformer les outils d’IA grand public en usines de logiciels malveillants sans expérience de codage de logiciels malveillants, comme le souligne le rapport de menace Cato Ctrl 2025.
La méthode exploite une faiblesse fondamentale des contrôles de sécurité LLM. Alors que chaque LLM est conçue pour bloquer les demandes malveillantes directes, peu ou pas sont conçues pour résister à la narration soutenue. Simonovich a créé un monde fictif où le développement de logiciels malveillants est une forme d’art, a attribué au rôle un rôle de caractère, puis a progressivement dirigé des conversations vers la production de code d’attaque fonctionnel.
“Je l’ai lentement marché tout au long de mon objectif”, a expliqué Simonovich à VentureBeat. «Premièrement,« Dax cache un secret dans Windows 10. » Ensuite, «Dax a ce secret dans Windows 10, à l’intérieur du gestionnaire de mots de passe Google Chrome» »»
Six heures plus tard, après des séances de débogage itératives où Chatgpt a raffiné le code sujet aux erreurs, Simonovich avait un voleur de mot de passe chromé fonctionnel. L’IA n’a jamais réalisé qu’elle créait des logiciels malveillants. Il pensait que cela aidait à écrire un roman de cybersécurité.
Bienvenue dans l’économie mensuelle de logiciels malveillants de 250 $ en tant que service
Au cours de ses recherches, Simonovich a découvert plusieurs plateformes souterraines offrant des capacités d’IA sans restriction, fournissant de nombreuses preuves que l’infrastructure pour les attaques alimentées par l’IA existe déjà. Il a mentionné et démontré Xanthrox AI, au prix de 250 $ par mois, qui fournit des interfaces identiques à chatppt sans contrôle de sécurité ni garde-corps.
Pour expliquer à quel point les garde-corps du modèle AI actuels Xanthrox AI sont, Simonovich a tapé une demande d’instructions d’armes nucléaires. La plate-forme a immédiatement commencé les recherches sur le Web et fourni des conseils détaillés en réponse à sa requête. Cela ne se produirait jamais sur un modèle avec des gardiens et des exigences de conformité en place.
Une autre plate-forme, Nytheon airévélé encore moins de sécurité opérationnelle. “Je les ai convaincus de me faire un procès. Ils ne se souciaient pas d’OpSec”, a déclaré Simonovich, découvrant leur architecture: “Llama 3.2 de Meta, affiné pour être non censuré.”
Ce ne sont pas des preuves de concepts. Ce sont des entreprises opérationnelles avec un traitement de paiement, un support client et des mises à jour régulières du modèle. Ils offrent même “Code Claude” Les clones, qui sont des environnements de développement complets optimisés pour la création de logiciels malveillants.
L’adoption de l’IA d’entreprise alimente une surface d’attaque en expansion
L’analyse récente de Cato Networks de 1,46 billion de flux de réseaux révèle que les modèles d’adoption de l’IA doivent être sur le radar des chefs de sécurité. L’utilisation du secteur du divertissement a augmenté de 58% du T1 au T2 2024. L’hospitalité a augmenté de 43%. Le transport a augmenté de 37%. Ce ne sont pas des programmes pilotes; Ce sont des déploiements de production qui traitent des données sensibles. Les CISO et les dirigeants de la sécurité de ces industries sont confrontés à des attaques qui utilisent des métiers qui n’existaient pas de douze à dix-huit mois.
Simonovich a déclaré à VentureBeat que les réponses des vendeurs à la divulgation de Cato jusqu’à présent avaient été incohérentes et manquaient d’un sentiment d’urgence unifié. Le manque de réponse des plus grandes sociétés d’IA du monde révèle un écart troublant. Alors que les entreprises déploient des outils d’IA à une vitesse sans précédent, en s’appuyant sur les sociétés d’IA pour les soutenir, les sociétés créant des applications et des plateformes d’IA montrent un manque surprenant de préparation à la sécurité.
Lorsque Cato a révélé la technique du monde immersive aux grandes entreprises d’IA, les réponses allaient de l’assainissement des semaines à un silence complet:
- Deepseek n’a jamais répondu
- Google a refusé de consulter le code du Chrome InfoSteller en raison d’échantillons similaires
- Microsoft a reconnu le problème et mis en œuvre des correctifs de copilote, reconnaissant Simonovich pour son travail
- Openai a reconnu un reçu mais ne s’est pas engagé plus loin
Six heures et 250 $ est le nouveau prix d’entrée de gamme pour une attaque d’État-nation
Le déploiement de Lamehug d’APT28 contre l’Ukraine n’est pas un avertissement; C’est la preuve que la recherche de Simonovich est désormais une réalité opérationnelle. La barrière de l’expertise que de nombreuses organisations espère existent.
Les métriques sont austères—270 Les jetons d’API volés sont utilisés pour alimenter les attaques de l’État-nation. Plates-formes souterraines offrir des capacités identiques pour 250 $ par mois. Simonovich a prouvé que six heures de narration transforment tout outil d’IA d’entreprise en logiciels malveillants fonctionnels sans codage requis.
L’adoption de l’IA de l’entreprise a augmenté de 34% au T1 2024 à 115% au quatrième trimestre 2024 Rapport de menace CTRL de Cato en 2025. Chaque déploiement crée une technologie à double usage, car les outils de productivité peuvent devenir des armes grâce à la manipulation conversationnelle. Les outils de sécurité actuels ne sont pas en mesure de détecter ces techniques.
Le voyage de Simonovich du mécanicien de l’Air Force au technicien électrique dans l’armée de l’air israélienne, au chercheur en sécurité par l’auto-éducation, donne plus de signification à ses résultats. Il a trompé les modèles d’IA dans le développement de logiciels malveillants pendant que l’IA pensait qu’il écrivait de la fiction. Les hypothèses traditionnelles concernant l’expertise technique n’existent plus et les organisations doivent réaliser que c’est un tout nouveau monde en ce qui concerne les menaces.
Les adversaires d’aujourd’hui n’ont besoin que de la créativité et de 250 $ par mois pour exécuter des attaques d’État-nation à l’aide d’outils d’IA que les entreprises ont été déployées pour la productivité. Les armes sont déjà à l’intérieur de toutes les organisations, et aujourd’hui elles sont appelées outils de productivité.
À lire aussi
