Insights

En cette période d'Halloween, les entreprises ont de nombreuses raisons d'avoir peur et d'examiner de plus près la manière dont elles utilisent l'intelligence artificielle. Cette technologie offre de réels avantages, mais elle fournit également aux criminels de nouveaux moyens de tromper les gens et engendre des risques pour la sécurité lorsqu'elle est mise en œuvre sans contrôles appropriés.

Un agent IA capable de lire votre boîte de réception, de mettre à jour les fiches clients ou d’exécuter du code a besoin de bien plus qu’un ensemble d’instructions bien rédigées. Il a besoin de limites claires quant à ce à quoi il peut accéder, ce qu’il peut modifier et ce qu’il peut partager.

Chaque année en octobre, des organisations et des particuliers du monde entier célèbrent le Mois de la sensibilisation à la cybersécurité, une occasion de renforcer les défenses informatiques et d’adopter des habitudes quotidiennes plus sûres.

Autrefois, la cybersécurité reposait sur un périmètre clairement défini. Les entreprises protégeaient leurs locaux, leurs réseaux et leurs centres de données en contrôlant ce qui pouvait y entrer ou en sortir. Ce modèle a été bouleversé par le cloud computing, le télétravail, les applications SaaS, les appareils mobiles, l'accès par des tiers et l'intelligence artificielle.

Pour les organisations qui élaborent une stratégie d'IA d'entreprise, l'essentiel est de ne pas se limiter à l'interface. Les dirigeants doivent comprendre la différence entre un modèle d'IA, l'application qui l'entoure et les agents capables d'agir en son nom.

L’intelligence artificielle a transformé la vitesse, l’ampleur et la complexité des cyberrisques. Les attaquants peuvent utiliser l’IA pour automatiser la reconnaissance, identifier les vulnérabilités, mettre au point des campagnes d’ingénierie sociale convaincantes et accélérer certaines étapes du processus d’attaque. Parallèlement, les organisations déploient des systèmes d’IA générative et agentique capables d’accéder à des données sensibles, à des applications métier et à des flux de travail critiques.

La plupart des calendriers de mise en conformité indiquent que la loi sur la cyber-résilience (Cyber Resilience Act) entrera en vigueur en décembre 2027. C’est à cette date que s’appliqueront les dispositions de fond du règlement : sécurité dès la conception, documentation technique, évaluation de la conformité et marquage CE.

L'IA transforme les cyberattaques. Elle peut accélérer la phase de reconnaissance, aider les pirates à analyser les vulnérabilités potentielles, améliorer les campagnes de hameçonnage, créer des identités synthétiques convaincantes et traiter d'énormes quantités d'informations bien plus rapidement qu'un pirate humain ne pourrait le faire à lui seul. Mais il y a un point important qui risque de passer inaperçu au milieu de tout ce débat sur les cybermenaces alimentées par l'IA.

Le plan d’action de la Commission européenne sur la cybersécurité et l’intelligence artificielle, publié au début du mois, expose la manière dont l’UE entend répondre aux menaces et saisir les opportunités liées à l’IA.

Pour la première fois en 19 ans, l'exploitation des vulnérabilités a dépassé le vol d'identifiants en tant que principal vecteur d'accès initial aux violations de sécurité. L'IA est l'une des raisons qui expliquent cette évolution.

L'intelligence artificielle est devenue le sujet technologique phare de ces deux dernières années. Elle domine les discussions dans les conseils d'administration, les réunions avec les investisseurs, les messages des fournisseurs, les lancements de produits et les ordres du jour des conférences. On affirme à tous les secteurs que l'IA va transformer leur mode de fonctionnement, leur compétitivité et leur gestion des risques.La cybersécurité ne fait pas exception.

L'arrivée de Mythos AI a suscité un débat intense dans le secteur de la cybersécurité. Des chercheurs en sécurité aux médias grand public, la conversation a oscillé entre la fascination, la peur et l'indifférence, certains affirmant que nous avons déjà vu un tel battage médiatique.