Protection des données

Publié le 29 septembre 2025 à 00h48. Les organisations, de tous secteurs, sont confrontées à une vulnérabilité croissante face aux menaces cybernétiques, exacerbée par l’essor rapide de l’intelligence artificielle (IA) et la complexité des chaînes d’approvisionnement logicielles. Le mois de sensibilisation à la cybersécurité est l’occasion de rappeler l’importance d’une vigilance accrue.

• Une faille de sécurité a été identifiée dans la plateforme Agentforce AI de Salesforce, potentiellement exposant les données clients.
• Les experts soulignent l’incapacité actuelle des modèles d’IA générative à distinguer les instructions des données, ouvrant la voie à des manipulations.
• La sécurisation de la chaîne d’approvisionnement logicielle est devenue un enjeu majeur, illustré par la vulnérabilité Shai Hulud.

La multiplication des outils basés sur l’IA au sein des entreprises pose de nouveaux défis en matière de sécurité. Les chercheurs ont récemment mis en évidence une vulnérabilité dans la plateforme Agentforce AI de Salesforce, qui pourrait permettre un accès non autorisé aux données de gestion de la relation client (CRM). Ce problème illustre les inquiétudes grandissantes concernant l’IA générative, et plus particulièrement sa difficulté à différencier les instructions des données d’entrée – une limitation commune à de nombreuses plateformes d’agents d’IA.

Brian Soby, directeur de la technologie et cofondateur d’Appomni, met en garde contre les risques inhérents aux modèles d’IA génératifs actuels. « L’état actuel de l’IA générative est tel que les modèles ne sont pas capables de distinguer les instructions des données. Nous observons ce même type de problème sur chaque plateforme d’agent d’IA », explique-t-il. Il se réfère à des découvertes récentes lors de conférences spécialisées et des recherches menées par Appomni, qui ont révélé des scénarios exploitables sur d’autres plateformes SaaS (Software as a Service).

Selon M. Soby, les organisations doivent se concentrer sur la compréhension des capacités et de l’impact potentiel des agents d’IA dans leurs environnements informatiques. Il souligne que ces agents peuvent être manipulés pour effectuer des actions malveillantes : « Les organisations doivent considérer les capacités et le champ d’action des agents d’IA comme un indicateur clé du risque. Il est inévitable que les agents soient trompés et utilisés de manière indésirable. » Il recommande également d’investir dans une surveillance continue pour détecter les comportements risqués ou malveillants des systèmes basés sur l’IA.

Parallèlement, la prolifération de l’IA dans les différentes fonctions de l’entreprise complexifie la visibilité et la gouvernance du réseau. Chaim Mazal, directeur de la sécurité chez Gigamon, insiste sur la nécessité d’une surveillance en temps réel et de politiques d’adoption structurées pour l’IA. « Alors que les attaquants utilisent l’IA pour échapper à la détection, les responsables de la sécurité doivent réagir avec autant de force. La priorité est désormais double : obtenir une visibilité en temps réel sur le volume croissant du trafic réseau lié à l’IA et établir une gouvernance claire sur la manière dont l’IA est adoptée au sein de l’entreprise », commente M. Mazal.

« De nombreuses entreprises se tournent désormais vers des données au niveau des paquets, associées à des métadonnées, pour restaurer la visibilité, renforcer les défenses et s’assurer que les outils d’IA fonctionnent avec des informations fiables. Ce mois-ci nous rappelle que le rôle des responsables de la sécurité a évolué. Nous sommes désormais responsables de la défense contre les menaces de l’IA et de l’utilisation stratégique et sécurisée de cette technologie. »

Chaim Mazal, directeur de la sécurité chez Gigamon

Dans le secteur financier, où la protection des données est soumise à une réglementation stricte et où la réputation est primordiale, l’importance de cadres de cybersécurité robustes est particulièrement évidente. Peter Waring, directeur de la technologie chez Javln, compare une bonne sécurité à la fermeture d’une grange avant que le cheval ne s’échappe. « Une seule violation peut nuire à la réputation, perturber les opérations et entraîner des sanctions réglementaires. L’avantage d’une plateforme SaaS sécurisée et basée sur le cloud est qu’elle s’adapte à l’évolution des menaces. Les courtiers n’ont pas besoin d’être des experts en cybersécurité ; des contrôles tels que l’authentification multifacteur et une approche axée sur la sécurité sont essentiels. »

Enfin, l’accélération de la transformation numérique expose de plus en plus la chaîne d’approvisionnement logicielle aux attaques. Des incidents récents, comme la vulnérabilité Shai Hulud, soulignent la nécessité d’une intégrité logicielle intégrée et d’une vigilance accrue tout au long du développement et des opérations. Itzik Swissa, directeur principal et responsable du pays ANZ chez JFROG, insiste sur la nécessité de changements culturels et procéduraux dans les pratiques de sécurité : « La cybersécurité ne relève plus uniquement du responsable de la sécurité des systèmes d’information (CISO). En dotant les développeurs et les équipes opérationnelles des bons outils et de la bonne formation, les organisations favorisent une culture où la sécurité logicielle est une priorité. » Pour M. Swissa, l’intégration précoce de la sécurité dans le code source (approche “Shift-Left”) et l’application de politiques automatisées sont cruciales pour une livraison logicielle fiable.

Sunny Rao, vice-président directeur de l’APAC chez JFROG, souligne l’augmentation de la surface d’attaque due à l’utilisation de multiples outils de sécurité fragmentés. « Sur les marchés dynamiques et hautement réglementés de la région Asie-Pacifique, les chaînes d’approvisionnement logicielles sont devenues à la fois plus complexes et plus vulnérables. Des pratiques de sécurité fragmentées – où 70 % des organisations utilisent sept outils ou plus, avec plus de la moitié présentant des angles morts de plus de dix ans que les attaquants peuvent exploiter. L’incident Shai-Hulud en est un exemple, démontrant comment les exploits basés sur l’automatisation peuvent se propager rapidement et causer des dommages généralisés. »

M. Rao plaide pour des contrôles axés sur les politiques et une approche unifiée : « La sécurité de la chaîne d’approvisionnement logicielle n’est plus un problème informatique ; c’est un impératif commercial stratégique. Pour les entreprises de l’APAC, où la conformité et la souveraineté des données sont non négociables, la résilience dépend de contrôles axés sur les politiques dès l’entrée et d’une source unique de vérité dans tout l’écosystème. » Il estime qu’assurer la provenance et l’auditabilité à chaque étape est essentiel pour des versions logicielles vérifiable sécurisées et conformes.

La convergence de l’IA, du SaaS et de la complexité de la chaîne d’approvisionnement crée un nouveau paysage de risques qui exige une sensibilisation et une action interfonctionnelles. Les experts en cybersécurité s’accordent à dire qu’une résilience durable ne pourra être atteinte qu’en intégrant la sécurité dans les environnements technologiques, qu’il s’agisse des agents d’IA, de l’infrastructure réseau ou du code logiciel.