Pour les organisations qui élaborent une stratégie d'IA d'entreprise, l'essentiel est de ne pas se limiter à l'interface. Les dirigeants doivent comprendre la différence entre un modèle d'IA, l'application qui l'entoure et les agents capables d'agir en son nom.
L’IA d’entreprise désigne l’utilisation de l’intelligence artificielle au sein d’une organisation pour améliorer la prise de décision, automatiser les processus, assister les collaborateurs, servir les clients ou créer de nouveaux produits et services.
Cela peut inclure des applications courantes telles que les assistants d’IA générative et les copilotes sur le lieu de travail, ainsi que des systèmes plus sophistiqués intégrés aux données internes, aux applications et aux flux de travail de l’entreprise. De plus en plus, cela inclut également des agents IA capables d’accomplir des tâches en plusieurs étapes avec une intervention humaine limitée.
Si cette technologie est puissante, son adoption réussie ne se résume pas au simple choix d’une plateforme d’IA populaire. Les organisations doivent prendre en compte les données utilisées, le modèle fournissant l’intelligence, l’application contrôlant l’interaction, les systèmes auxquels elle se connecte et les contrôles de sécurité régissant ses capacités.
L’intelligence artificielle, l’apprentissage automatique et les réseaux neuronaux existent depuis des décennies.
Les premières architectures de réseaux neuronaux pouvaient reconnaître des motifs, mais avaient souvent du mal à traiter efficacement de longues séquences d'informations. Les « transformers » ont introduit un mécanisme appelé « auto-attention », qui permet à un modèle d'évaluer la pertinence des différents éléments d'une entrée lors de la génération d'une sortie.
Cela a permis de former les modèles plus efficacement sur des ensembles de données extrêmement volumineux. Cela a également permis aux modèles de conserver davantage de contexte, d’identifier des relations complexes et d’appliquer des schémas appris dans un domaine à des tâches relevant d’un autre domaine.
L’architecture des « Transformers » a jeté les bases des grands modèles linguistiques (LLM) et des applications d’IA générative désormais adoptées par les entreprises. Il en a résulté une transition de systèmes d’IA relativement restreints vers des plateformes capables de générer du contenu, d’analyser des informations, d’aider à la prise de décision et de prendre en charge des flux de travail de plus en plus complexes.
Les modèles d’IA ne comprennent pas les mots, les images ou les sons comme le font les humains. Ils traitent des représentations numériques de l’information.
Le texte saisi dans un LLM est divisé en unités appelées « tokens ». Ces tokens sont convertis en représentations numériques qui permettent au modèle d’identifier des schémas et des relations entre eux. Au cours de l’entraînement, les tokens qui apparaissent régulièrement dans des contextes similaires sont associés au sein d’un espace mathématique multidimensionnel.
Par exemple, les mots « chat » et « chien » sont susceptibles d’être représentés de manière plus proche que « chat » et « voiture ». Bien que « chat » et « voiture » se ressemblent à l’écrit, les chats et les chiens sont plus fréquemment évoqués dans des contextes comparables liés aux animaux, aux animaux de compagnie, à l’alimentation et au comportement.
L’IA multimodale applique des principes similaires à d’autres formes d’information, notamment les images, l’audio et la vidéo. Les caractéristiques visuelles, les sons et le langage peuvent être transposés en représentations numériques compatibles, ce qui permet à un modèle d’associer la photo d’un chat au mot écrit « chat ».
Cela permet aux applications d’IA de décrire des images, d’interpréter la parole et de répondre à des questions sur une vidéo. Cependant, le modèle se contente toujours de reconnaître et de reproduire des schémas. Il ne perçoit ni ne comprend le monde comme le ferait une personne.
Le modèle d’IA est le moteur sous-jacent qui reçoit des données d’entrée et génère un résultat. L’application d’IA fournit l’interface, stocke les informations pertinentes, gère les accès, relie le modèle à d’autres systèmes et détermine comment son résultat est présenté ou utilisé.
Une analogie simple consiste à considérer le modèle comme le cerveau et l’application comme le corps. Le modèle fournit la capacité sous-jacente, tandis que l’application permet à cette capacité d’interagir avec les utilisateurs, les informations et les systèmes numériques.
Des produits tels que ChatGPT, Microsoft Copilot, Claude et Gemini sont des applications complètes. Chacune combine un ou plusieurs modèles d’IA avec une interface utilisateur, un stockage de données, des contrôles d’accès, des politiques de sécurité, des intégrations et des composants logiciels supplémentaires.
Un même modèle sous-jacent peut être utilisé au sein de nombreuses applications différentes, notamment :
Comprendre cette distinction aide les organisations à prendre de meilleures décisions stratégiques et en matière de sécurité. Déployer un chatbot basé sur l’IA n’est pas la même chose que d’intégrer en toute sécurité un modèle d’IA dans des systèmes internes. Chaque cas d’utilisation présente des exigences différentes en matière d’identité, de protection des données, d’accès, de surveillance et de gouvernance.
Lorsqu’un collaborateur utilise une application d’IA, le modèle ne représente qu’une partie d’une pile technologique plus large. L’application peut collecter des informations sur l’utilisateur, conserver des conversations, se connecter à des bases de données, appeler des API externes et accéder à des systèmes d’entreprise.
Cela signifie que la sécurité d’un service d’IA d’entreprise dépend de bien plus que du modèle lui-même. Les organisations doivent comprendre :
Une application d’IA reste une application. Elle comporte une infrastructure, des interfaces, des bases de données, des dépendances et des autorisations d’accès que des attaquants pourraient tenter d’exploiter. Les principes existants en matière de sécurité des applications, de sécurité du cloud, de sécurité des identités et de protection des données restent essentiels.
L'IA introduit de nouvelles voies d'attaque et de nouveaux risques opérationnels, mais elle ne rend pas superflus les contrôles de sécurité établis.
Chaque modèle a une limite quant à la quantité d’informations qu’il peut traiter simultanément. C’est ce qu’on appelle sa « fenêtre de contexte ». Tant les informations fournies au modèle que la réponse qu’il génère consomment une partie de cette capacité.
À mesure qu’une conversation s’allonge, une application peut être amenée à supprimer, compresser ou résumer les informations antérieures. Cela explique pourquoi les assistants IA semblent parfois oublier des instructions ou contredire des détails fournis précédemment.
Les limites de la fenêtre contextuelle ont des conséquences importantes pour l’IA d’entreprise. Si des instructions critiques, des exigences de sécurité ou des règles métier sont supprimées du contexte, la qualité et la sécurité du résultat peuvent s’en trouver compromises. Les organisations ne doivent pas partir du principe qu’un système d’IA retiendra de manière fiable chaque instruction tout au long d’un processus complexe ou prolongé.
L’IA donne les meilleurs résultats lorsqu’elle est appliquée à un problème clairement défini et qu’elle dispose d’un contexte pertinent et fiable.
Les premières démonstrations d’outils de codage basés sur l’IA ont produit des résultats impressionnants à partir d’instructions relativement courtes. Cela a conduit à des prédictions généralisées selon lesquelles l’IA remplacerait rapidement les développeurs de logiciels. Cependant, à mesure que les organisations se sont lancées dans des projets plus complexes, les limites sont apparues plus clairement.
Le code généré par l’IA peut contenir des vulnérabilités, faire référence à des composants logiciels inexistants, exposer des identifiants ou introduire des erreurs logiques dissimulées derrière une syntaxe techniquement convaincante. Un agent peut également modifier des parties d’une application qu’il n’avait pas pour instruction de changer, ou supprimer un contrôle de sécurité défaillant au lieu de résoudre le problème sous-jacent.
Des risques similaires apparaissent dans d’autres domaines. Les rapports générés par l’IA peuvent inclure des affirmations plausibles mais inexactes, tandis que les images générées peuvent présenter des incohérences physiques évidentes pour un examinateur averti.
Ces résultats sont influencés par plusieurs facteurs, notamment :
Plus la tâche est importante, plus il est nécessaire de disposer de données fiables, de limites bien définies et d’une supervision humaine éclairée.
Un agent IA est un système logiciel qui utilise un modèle d’IA pour atteindre un objectif, prendre des décisions et effectuer des actions à travers des outils ou des systèmes connectés.
Un chatbot classique se contente principalement de répondre à une invite. Un agent IA peut être capable d’interpréter une demande, d’élaborer un plan, de récupérer des informations, d’appeler des API, de mettre à jour des enregistrements, de communiquer avec d’autres systèmes et d’évaluer si la tâche a été menée à bien.
Cela confère aux agents un potentiel de transformation pour l’automatisation des processus métier. Cela les rend également considérablement plus puissants – et potentiellement plus dangereux – qu’un assistant d’IA générative autonome.
Le risque associé à un agent IA dépend fortement de ce à quoi il peut accéder et de ce qu’il est autorisé à faire. Un agent connecté à des informations publiques présente un risque différent de celui qui peut accéder aux dossiers clients, modifier des configurations cloud, valider des paiements ou déployer des logiciels.
L’IA générative et les agents IA peuvent aider les organisations à automatiser des processus complexes, à améliorer la productivité et à créer de nouveaux services. Pour tirer parti de ces avantages, il faut toutefois comprendre de manière réaliste comment la technologie fonctionne et où se situent ses limites.
Le modèle, l’application, les données, l’infrastructure et les systèmes connectés doivent être évalués comme un environnement unique. Les équipes de sécurité doivent disposer d’une visibilité sur la manière dont les informations circulent au sein de cet environnement, sur les identités autorisées à y accéder et sur les actions qu’un système d’IA est autorisé à effectuer.
Integrity360 aide les organisations à évaluer et à gérer les risques de cybersécurité liés à l’adoption de l’IA. En réunissant une expertise dans les domaines des risques cybernétiques et de l’assurance, de la sécurité des identités, de la sécurité du cloud et des applications, de la protection des données, des tests d’intrusion, de la réponse aux incidents et de la sécurité gérée, nous aidons les entreprises à introduire l’IA au sein d’un cadre de sécurité contrôlé et résilient.
Qu’une organisation évalue un cas d’utilisation de l’IA, déploie des assistants sur le lieu de travail ou connecte des agents autonomes à des systèmes critiques, la sécurité doit être intégrée dès le début du processus.
Vous envisagez d’introduire l’IA au sein de votre organisation ? Contactez Integrity360 pour évaluer votre niveau de préparation en matière de sécurité de l’IA, protéger vos données sensibles et mettre en place les contrôles nécessaires à une adoption sécurisée et responsable.
Qu'est-ce que la sécurité de l'IA en entreprise ?
La sécurité de l’IA en entreprise consiste à protéger les modèles, les applications, les données, les identités, l’infrastructure et les intégrations impliqués dans l’utilisation de l’intelligence artificielle par une organisation. Elle combine des contrôles de cybersécurité éprouvés avec des mesures conçues pour faire face aux menaces spécifiques à l’IA et aux risques opérationnels.
Quelle est la différence entre un modèle d’IA et une application d’IA ?
Un modèle d’IA traite des données d’entrée et génère des résultats. Une application d’IA fournit l’interface, stocke le contexte, gère les utilisateurs et relie le modèle aux données, aux outils et aux systèmes métier.
Les grands modèles linguistiques sont-ils intelligents ?
Les grands modèles linguistiques peuvent générer des réponses sophistiquées en reconnaissant des schémas et en prédisant des séquences appropriées de tokens. Ils ne possèdent ni conscience, ni compréhension, ni jugement humains, et leurs résultats peuvent être inexacts.
Qu’est-ce qu’un agent IA ?
Un agent IA est un système logiciel qui utilise un modèle d'IA pour planifier et exécuter des tâches à travers des outils ou des applications connectés. Contrairement à un chatbot classique, il peut être autorisé à récupérer des informations, à mettre à jour des systèmes ou à lancer des actions.
Quels sont les principaux risques liés à la sécurité de l’IA ?
Les principaux risques comprennent la fuite de données sensibles, l'octroi de droits excessifs aux agents, l'injection de prompts, les API non sécurisées, la vulnérabilité du code généré par l’IA, la faiblesse des contrôles d’identité, la compromission par des tiers et l’insuffisance de la surveillance ou du contrôle humain.
Comment les entreprises peuvent-elles utiliser l’IA en toute sécurité ?
Les entreprises doivent commencer par définir des cas d’utilisation précis, mettre en place une gouvernance, classer et protéger les données, appliquer le principe du « privilège minimal », sécuriser les intégrations, surveiller l’activité de l’IA et maintenir l’approbation humaine pour les actions à fort impact.