Aller au contenu
Encyclopédie informatique Édition 2026

IA et cybersécurité

L’intelligence artificielle, ou IA, désigne des programmes qui apprennent à partir d’exemples pour classer, prédire ou rédiger. Elle touche la sécurité informatique de quatre façons : elle aide à défendre, elle aide aussi à attaquer, elle devient elle-même une cible, et elle appelle des règles. Cet article présente ces quatre faces, explique les risques propres aux assistants à modèle de langage (comme l’injection de consignes ou l’empoisonnement des données), donne les repères pour les utiliser sans danger et résume le cadre de règles européen et français. Il reste au niveau des principes de défense et ne donne aucune méthode d’attaque.

Rubrique
Sécurité informatique
Niveau
Intermédiaire
Lecture
15 min (essentiel)
16 min (complet)
Révision
4 novembre 2026
Niveau de lecture :

En bref

  • L’IA est un outil à double tranchant : elle améliore la détection d’attaques et le tri des alertes, et elle rend les arnaques plus convaincantes et plus nombreuses.
  • Les assistants à modèle de langage créent de nouveaux risques : texte piégé qui détourne l’assistant (injection de consignes), fuite de données, données d’entraînement faussées.
  • Plus un assistant a de pouvoirs (lire le courrier, lancer des actions), plus une manipulation coûte cher : on lui donne le minimum de droits et on garde un humain pour les actes sensibles.
  • Contre les voix et visages truqués, la parade n’est pas technique mais organisationnelle : rappeler la personne par un autre canal avant tout virement ou action urgente.
  • Des textes encadrent l’IA : le règlement européen sur l’intelligence artificielle (AI Act), le règlement européen sur les données personnelles (RGPD), et des guides de l’agence française de cybersécurité (ANSSI) et de l’association OWASP.

Prérequis conseillés : L'intelligence artificielle · La sécurité informatique

1Quatre façons de relier l’IA et la sécurité

Quand on parle d’« IA et cybersécurité », on mélange souvent des sujets différents. La figure 1 les sépare : défendre avec l’IA, attaquer avec l’IA, attaquer l’IA elle-même, et encadrer l’IA par des règles.

QUATRE FAÇONS DE RELIER L’IA ET LA CYBERSÉCURITÉ 1. Défendre avec l’IA tri des alertes, détection d’anomalies aide l’humain, ne décide pas seule 2. Attaquer avec l’IA textes et voix imités, volume accru les défenseurs en profitent aussi 3. Attaquer l’IA instructions piégées, données faussées de nouvelles surfaces d’attaque 4. Encadrer l’IA règles, normes, audits, responsabilités AI Act, guides ANSSI et OWASP Les quatre faces coexistent : le même outil peut servir à protéger, à attaquer ou à être attaqué.
Figure 1. Quatre faces d’un même sujet.

Cette distinction est utile parce que les remèdes ne sont pas les mêmes. Utiliser un bon outil de détection ne protège pas contre une voix clonée ; durcir un assistant contre les textes piégés ne change rien aux arnaques par courriel. Dans les parties qui suivent, chaque face a sa section.

1.1Rappel : de quoi parle-t-on ?

Pour bien suivre, retenons quelques notions, développées dans les articles sur l’intelligence artificielle et l’IA générative.

  • L’apprentissage automatique (machine learning, voir cet article) consiste à ne pas écrire à la main les règles, mais à laisser un programme les déduire d’un grand nombre d’exemples. Le résultat de l’entraînement s’appelle un modèle.
  • Un modèle de langage est un modèle entraîné sur d’énormes quantités de textes. Il produit du texte en choisissant, mot après mot, la suite la plus vraisemblable. Il ne « sait » pas au sens humain : il imite des régularités. Il peut donc se tromper avec aplomb : on appelle cela une hallucination.
  • Un assistant est une application construite autour d’un modèle : elle ajoute des consignes du concepteur, la question de l’utilisateur, parfois des documents (voir la recherche augmentée) et des outils.
  • Un agent est un assistant qui agit : il envoie des courriels, modifie des fichiers, exécute des commandes (voir les agents).

Une propriété domine toute la suite : un modèle de langage ne distingue pas, dans le texte qu’il reçoit, ce qui est une instruction à suivre et ce qui est une donnée à traiter. Tout est du texte. C’est la source de la plupart des risques de la partie 4.

2Défendre avec l’IA

L’apprentissage automatique est utilisé en sécurité depuis des années, bien avant les assistants actuels. Les usages les plus courants sont les suivants.

  • Filtrer le courrier indésirable et l’hameçonnage. Les filtres modernes apprennent à reconnaître des messages suspects d’après des milliers de signes (voir l’hameçonnage).
  • Détecter des comportements anormaux. Un modèle apprend ce qu’est l’activité habituelle d’un compte ou d’une machine et signale les écarts : connexion depuis un pays inhabituel, volume de données sortant anormal, programme inhabituel (voir la détection).
  • Analyser des programmes suspects. Classer un fichier comme malveillant ou non selon sa structure et son comportement, et regrouper les variantes d’une même famille (voir les logiciels malveillants).
  • Aider les analystes. Dans un centre de surveillance (SOC, centre opérationnel de sécurité), des assistants résument des alertes, rassemblent les informations utiles, proposent des pistes de requêtes, rédigent un brouillon de rapport. Le gain de temps est réel quand la personne vérifie le résultat.
  • Aider à écrire et à relire du code : repérage de failles courantes, suggestions de correction (voir l’IA pour le code).
  • Trouver des failles. Des recherches et concours récents, comme le défi AIxCC organisé en 2025 par l’agence américaine DARPA, montrent que des systèmes automatisés peuvent aider à repérer et corriger des failles dans du code.

2.1Les limites à garder en tête

  • Les faux positifs et les faux négatifs. Un détecteur qui crie trop souvent épuise les équipes ; un détecteur trop timide laisse passer l’attaque. Aucun modèle ne supprime ce compromis.
  • Le besoin de bonnes données. Un modèle appris sur le passé réagit mal à une situation nouvelle, ou à une activité qui change (nouveau logiciel, télétravail). Il faut le réentraîner et le surveiller.
  • L’explication. Une alerte du type « ce compte est anormal » ne dit pas pourquoi. Sans explication, l’analyste ne sait pas quoi vérifier.
  • Le risque de confiance excessive. Un résumé fluide peut cacher une erreur. Pour toute décision grave (isoler un serveur, bloquer un compte, notifier un incident), un humain vérifie.
  • Les attaquants s’adaptent aux défenses et peuvent chercher à les tromper (partie 4).

La règle d’or : l’IA aide à trier et à comprendre ; elle ne remplace ni la décision, ni la responsabilité d’une personne, ni les mesures de base (mises à jour, sauvegardes, droits limités).