Apparue dans les forums en ligne au début des années 2010, la théorie de l'internet mort suggérait que l'interaction humaine authentique sur l'internet avait atteint son apogée, les robots, les algorithmes et les systèmes automatisés commençant à dominer l'activité en ligne.

À l'époque, il était facile de rejeter cette théorie. Aujourd'hui, il est plus difficile de l'ignorer. L'essor des contenus générés par l'IA, des réseaux de robots à grande échelle et des plateformes pilotées par des algorithmes a accéléré cette transformation. Ce qui était autrefois un internet dirigé par l'homme est de plus en plus façonné par des machines qui produisent du contenu destiné à être consommé par d'autres machines.

Pour la cybersécurité, ce changement introduit de nouveaux risques. Lorsque des identités peuvent être créées à grande échelle, que des contenus peuvent être générés instantanément et que des "deepfakes" peuvent reproduire des voix et des visages avec une grande précision, les signaux de confiance traditionnels commencent à s'effondrer.

Le défi n'est plus seulement de détecter les menaces. Il s'agit de déterminer ce qui est réel en premier lieu.

Qu'est-ce que la théorie de l'internet mort ?

Au fond, cette théorie suggère que l'activité humaine est diluée par des systèmes automatisés. Concrètement, cela se traduit par un environnement numérique où l'authenticité est plus difficile à établir et où la confiance ne peut plus être présumée.

Historiquement, même les activités malveillantes comportaient des limites humaines. Les attaquants devaient consacrer du temps à l'élaboration de courriels d'hameçonnage, à la création de personas ou à la reconnaissance. Il y avait des contraintes liées à l'échelle, à la cohérence et à l'effort. Aujourd'hui, ces contraintes disparaissent.

L'automatisation permet aux acteurs légitimes et malveillants d'opérer à grande vitesse et à grande échelle. L'IA peut générer du contenu instantanément, les robots peuvent simuler l'engagement et des identités synthétiques peuvent être créées et maintenues avec un minimum d'effort. Cela crée un paysage où le volume d'activité augmente, mais où la proportion de signaux significatifs générés par des humains diminue.

Pour les équipes de sécurité, cela représente un défi fondamental. La détection ne consiste plus seulement à identifier les intentions malveillantes. Il s'agit de valider l'authenticité d'une interaction, d'une identité ou d'un élément d'information.

Comment le contenu généré par l'IA redessine le paysage des menaces

L'IA a considérablement réduit les obstacles à la production de contenus numériques convaincants. Ce qui nécessitait autrefois des compétences et des efforts peut désormais être réalisé avec un minimum de moyens. Cela a eu un impact direct sur le paysage des menaces.

Les campagnes de phishing, par exemple, ont évolué rapidement. Les courriels génériques et mal rédigés ont été remplacés par des messages très ciblés qui reflètent le ton de l'organisation, la terminologie de l'industrie et même les styles de communication individuels. Les attaquants peuvent générer des variations à grande échelle, ce qui rend les méthodes de détection traditionnelles moins efficaces.

Au-delà du phishing, l'IA est utilisée pour créer des écosystèmes entiers de contenus malveillants. Les sites web frauduleux peuvent être alimentés par des articles d'apparence crédible. De fausses critiques peuvent être générées en grandes quantités. La documentation technique, les rapports de violation et les avis peuvent être fabriqués pour tromper à la fois les utilisateurs et les professionnels de la sécurité.

Ce changement affecte également les opérations d'influence. Les récits générés par l'IA peuvent être adaptés en temps réel, conçus pour des publics spécifiques et amplifiés par des réseaux automatisés. Il en résulte une forme de manipulation plus dynamique et plus difficile à détecter.

À mesure que les contenus synthétiques deviennent impossibles à distinguer des contenus légitimes, la base de référence de ce qui semble digne de confiance continue de changer. La probabilité que les contenus malveillants passent inaperçus s'en trouve accrue.

Médias synthétiques et "deepfakes" dans la fraude et l'usurpation d'identité

L'une des évolutions les plus préoccupantes est la montée en puissance des médias synthétiques. La technologie Deepfake, le clonage vocal et l'imagerie générée par l'IA ne sont plus expérimentaux. Elles sont activement utilisées dans des campagnes de fraude, d'usurpation d'identité et de désinformation.

Il existe déjà des cas documentés où des attaquants ont utilisé une voix générée par l'IA pour se faire passer pour des cadres supérieurs et autoriser des transferts financiers. Dans des scénarios plus avancés, de fausses vidéos ont été utilisées pendant des appels en direct pour renforcer la tromperie.

Ces attaques exploitent un aspect fondamental de la confiance humaine. Les gens sont conditionnés à croire ce qu'ils voient et entendent. Lorsqu'un visage familier apparaît à l'écran ou qu'une voix reconnaissable donne des instructions, l'instinct pousse à lui faire confiance.

Cela crée de nouveaux risques pour les organisations :

L'usurpation de l'identité d'un dirigeant peut être réalisée en temps réel, en contournant les contrôles traditionnels basés sur le courrier électronique.
Le clonage vocal peut être utilisé pour créer un sentiment d'urgence et de pression dans les demandes financières.
Le contenu vidéo manipulé peut influencer les décisions ou nuire à la réputation.
Les campagnes de désinformation peuvent tirer parti de visuels synthétiques pour façonner la perception.

Contrairement aux formes antérieures d'ingénierie sociale, ces techniques ne sont pas limitées par les capacités humaines. Elles peuvent être générées, affinées et déployées à grande échelle.

Pourquoi les modèles de confiance traditionnels s'effondrent-ils ?

De nombreuses pratiques de sécurité existantes reposent sur des signaux de confiance implicites. Il s'agit notamment de reconnaître le ton de l'expéditeur, de faire confiance à des adresses électroniques connues ou de s'appuyer sur une confirmation visuelle pendant la communication. Dans un environnement piloté par l'IA, ces signaux ne sont plus fiables.

L'IA peut reproduire les styles d'écriture et le ton avec une grande précision. Elle peut générer des messages qui correspondent aux modèles de communication interne. Elle peut produire des fichiers audio et vidéo qui imitent de manière convaincante des individus réels. Dans le même temps, des techniques telles que l'usurpation de domaine et la compromission de comptes brouillent encore davantage la frontière entre les activités légitimes et malveillantes.

En conséquence, les organisations font l'expérience d'un effondrement des modèles de confiance traditionnels. La familiarité n'est plus une base suffisante pour la confiance. La vérification doit devenir explicite, cohérente et techniquement appliquée.

Cette évolution nécessite un changement d'état d'esprit. Au lieu de se demander si quelque chose "semble correct", les organisations doivent se demander si cela peut être vérifié de manière indépendante.

Comment les attaquants tirent parti de la génération automatisée d'identités

Une autre évolution majeure est la montée en puissance des identités synthétiques. Les attaquants ne sont plus limités à l'utilisation d'informations d'identification volées ou de comptes compromis. Ils peuvent créer des identités entièrement nouvelles qui semblent légitimes dès le départ.

Ces identités peuvent être développées au fil du temps. Elles permettent d'établir une présence sur les médias sociaux, d'interagir avec d'autres utilisateurs et d'asseoir sa crédibilité. Comme elles sont générées de manière programmatique, elles peuvent être créées en grand nombre et gérées avec un minimum d'effort.

Cela permet toute une série de scénarios d'attaque :

Les réseaux de robots peuvent amplifier des récits ou manipuler la perception du public.
Les comptes frauduleux peuvent interagir avec les systèmes de service à la clientèle ou les plateformes financières.
Les campagnes d'ingénierie sociale à long terme peuvent être basées sur la confiance et la familiarité.

La possibilité de générer des identités à grande échelle supprime un obstacle majeur qui limitait auparavant les attaquants. Elle complique également la détection, car ces identités peuvent ne pas présenter les signes habituels de compromission.

Contrôles pratiques pour valider les identités et les communications

Dans cet environnement en constante évolution, les organisations doivent abandonner la confiance implicite au profit d'une validation structurée.

• Il est essentiel de disposer d'une garantie d'identité solide. L'authentification multifactorielle, la liaison des appareils et l'analyse comportementale fournissent des couches de vérification supplémentaires au-delà des simples informations d'identification. Ces contrôles permettent de s'assurer que l'accès est accordé sur la base de multiples facteurs indépendants.
• La vérification hors bande devrait être la norme pour les actions à haut risque. Les transactions financières, les modifications des données de paiement ou les demandes sensibles doivent être confirmées par un canal distinct et fiable. Cela réduit le risque qu'une seule communication compromise conduise à une attaque réussie.
• Les principes deconfiance zéro sont de plus en plus pertinents. Plutôt que de supposer une confiance basée sur la localisation ou l'historique, l'accès doit être vérifié en permanence. Chaque demande doit être évaluée dans son contexte, sans hypothèses implicites.
• Les signatures numériques peuvent aider à établir l'authenticité. La vérification cryptographique garantit que les communications et les documents n'ont pas été modifiés et qu'ils proviennent d'une source fiable.
• Les organisations devraient également investir dans des capacités de sensibilisation et de détection des médias synthétiques. Les employés doivent comprendre que le fait de voir ou d'entendre une personne familière n'est plus une preuve d'identité suffisante.

Enfin, les contrôles des transactions, tels que les flux d'approbation, les seuils et les délais, peuvent constituer une protection supplémentaire. Ces mesures introduisent des frictions là où c'est le plus important, réduisant ainsi la probabilité d'une fraude rapide et à fort impact.

Protéger la prise de décision dans un environnement dominé par l'IA

À mesure que le volume de contenu synthétique augmente, l'intégrité des processus de prise de décision devient une préoccupation essentielle.

Les organisations doivent s'assurer que les décisions ne sont pas fondées sur des informations non vérifiées ou manipulées. Cela nécessite une approche disciplinée de la validation des données.

La fiabilité des sources d'information doit être évaluée. Dans la mesure du possible, les données critiques doivent être recoupées sur plusieurs canaux indépendants. Cela réduit le risque d'agir sur la base d'informations fausses ou trompeuses.

La supervision humaine reste essentielle. Si l'automatisation peut faciliter l'analyse, les décisions à fort impact doivent faire appel au jugement d'un expert. Cela permet d'identifier les incohérences que les systèmes automatisés pourraient négliger.

La segmentation des données peut également jouer un rôle. Séparer les données internes fiables des données externes réduit l'exposition aux informations contaminées. Cela est particulièrement important pour les organisations qui utilisent des modèles d'IA formés sur des ensembles de données mixtes.

Des voies d'escalade claires doivent être établies pour les scénarios inhabituels ou à haut risque. Les employés doivent savoir quand et comment vérifier les demandes qui sortent des schémas habituels.

En fin de compte, l'objectif est de s'assurer que les processus de prise de décision restent résilients, même si l'environnement d'information devient plus complexe.

Les organisations qui reconnaissent cette évolution et adaptent leurs stratégies de sécurité en conséquence seront mieux placées pour gérer les risques. Celles qui continuent à s'appuyer sur des hypothèses dépassées en matière d'authenticité et de confiance risquent de se trouver de plus en plus exposées.

L'internet n'est pas encore mort. Il évolue. La cybersécurité doit évoluer avec lui.

Si vous êtes préoccupé par l'une des menaces décrites dans ce blog ou si vous avez besoin d'aide pour déterminer les mesures à prendre pour vous protéger des menaces les plus importantes auxquelles votre organisation est confrontée, veuillez contacter votre gestionnaire de compte, ou bienprenez contact avec nouspour savoir comment vous pouvez protéger votre organisation.