Aller au contenu
Encyclopédie informatique Édition 2026

L'intelligence artificielle

Partie 3 sur 3

Niveau de lecture :

7Les enjeux de société

  • Le travail : l’IA automatise des tâches, d’abord répétitives, désormais aussi intellectuelles : rédaction, traduction, programmation, analyse. Elle transforme des métiers plus qu’elle ne les supprime en bloc, mais les effets sur l’emploi sont débattus et inégaux selon les secteurs (voir les métiers de l’informatique).
  • L’information : textes, images et vidéos générés rendent plus facile la production de fausses informations et d’hypertrucages, ces contenus truqués de façon réaliste (en anglais deepfakes) ; il devient plus difficile de croire ce que l’on voit.
  • La vie privée : l’IA a besoin de données, souvent personnelles, et permet des formes nouvelles de surveillance, comme la reconnaissance faciale dans l’espace public (voir la vie privée).
  • La création : l’entraînement des modèles sur des œuvres protégées, sans l’accord de leurs auteurs, fait l’objet de nombreux procès et débats (voir le droit d’auteur).
  • La concentration et la souveraineté : les modèles les plus puissants sont développés par un petit nombre d’entreprises, surtout américaines et chinoises ; l’Europe cherche à préserver son autonomie, notamment avec des entreprises comme la société française Mistral AI et des modèles ouverts.
  • Les risques majeurs : une partie des chercheurs et des dirigeants du domaine estime que des systèmes beaucoup plus puissants pourraient échapper au contrôle humain ou être détournés pour des usages catastrophiques ; d’autres jugent ces craintes exagérées et s’inquiètent davantage des dommages actuels. Des instituts publics d’évaluation de la sécurité de l’IA ont été créés dans plusieurs pays, dont la France en 2025.

8Le cadre européen

L’Union européenne a adopté en 2024 le premier grand texte de loi sur l’IA, le règlement sur l’intelligence artificielle, souvent appelé par son nom anglais, AI Act (voir le règlement européen sur l’IA). Il classe les usages selon leur niveau de risque (figure 3) :

  • les usages à risque inacceptable sont interdits depuis février 2025 : notation sociale des citoyens, manipulation exploitant les vulnérabilités des personnes, reconnaissance des émotions sur le lieu de travail ou à l’école, la plupart des usages de la reconnaissance faciale en temps réel dans l’espace public ;
  • les usages à haut risque, comme le tri des candidatures, l’attribution de crédits, l’évaluation des élèves ou certains dispositifs médicaux, doivent respecter des exigences strictes : qualité des données, documentation, contrôle humain, robustesse, cybersécurité ;
  • les usages à risque limité sont soumis à des obligations de transparence : l’utilisateur doit savoir qu’il dialogue avec une IA, et les contenus générés doivent être signalés ;
  • les autres usages, à risque minimal, comme les filtres anti-spam ou les jeux vidéo, sont libres.
LE RÈGLEMENT EUROPÉEN SUR L’IA : QUATRE NIVEAUX DE RISQUE Inacceptable : interdit notation sociale, manipulation Haut risque : exigences strictes recrutement, crédit, éducation, santé Risque limité : transparence dialogue avec une IA, contenus générés Risque minimal : libre anti-spam, jeux vidéo, correcteurs S’y ajoutent des obligations propres aux grands modèles d’IA à usage général.
Figure 3. Le règlement européen encadre l’IA selon le niveau de risque de chaque usage.

Les fournisseurs des grands modèles à usage général, ceux qui servent de base à de nombreuses applications, ont des obligations propres depuis août 2025 : documentation, respect du droit d’auteur, et, pour les plus puissants, évaluation et réduction des risques systémiques. L’application s’échelonne dans le temps : en juillet 2026, un règlement complémentaire a reporté à décembre 2027 l’essentiel des obligations des systèmes à haut risque, et à août 2028 celles des produits qui intègrent de l’IA. En France, la CNIL (Commission nationale de l’informatique et des libertés) veille au respect du RGPD, le règlement général sur la protection des données, par les systèmes d’IA qui traitent des données personnelles (voir le RGPD).

La France s’est dotée d’une stratégie nationale pour l’IA en 2018, à la suite d’un rapport du mathématicien et député Cédric Villani. Elle dispose d’une recherche publique reconnue, autour de l’INRIA (Institut national de recherche en sciences et technologies du numérique) et du CNRS (Centre national de la recherche scientifique), du supercalculateur public Jean Zay, et d’entreprises qui développent leurs propres modèles, comme Mistral AI, fondée en 2023, ou le laboratoire de recherche à but non lucratif Kyutai. Paris a accueilli en février 2025 le Sommet pour l’action sur l’intelligence artificielle, qui a réuni des dirigeants du monde entier, et l’État a créé la même année un institut national chargé d’évaluer la sécurité des systèmes d’IA.

9L’IA et la cybersécurité

Pour la cybersécurité, l’IA joue trois rôles à la fois, détaillés dans un article dédié (voir IA et cybersécurité) :

  • un outil pour les défenseurs : détection des comportements anormaux sur un réseau, tri des alertes, analyse des logiciels malveillants, recherche de failles dans le code avant les attaquants ;
  • une arme pour les attaquants : courriels d’hameçonnage sans fautes et personnalisés, voix et vidéos truquées pour des escroqueries, automatisation de la recherche de failles ;
  • une nouvelle cible : les systèmes d’IA ont leurs propres faiblesses, que les attaquants exploitent (coin cyber).

Cette course est engagée : les mêmes progrès qui permettent de trouver plus vite les failles d’un logiciel pour les corriger permettent aussi de les trouver pour les exploiter. Les organisations doivent donc à la fois utiliser l’IA pour se défendre et protéger leurs propres systèmes d’IA.

Sécurité de l’information

Le coin cyber

Les systèmes d’IA sont des logiciels, avec toutes les failles des logiciels, plus des faiblesses qui leur sont propres : on peut tromper un modèle, l’empoisonner ou le détourner. Les attaques sont décrites ici dans leur principe seulement.

C.1Tromper un modèle

Les exemples adverses sont des données modifiées de façon imperceptible pour un humain, mais qui font se tromper un modèle : quelques autocollants sur un panneau routier peuvent suffire à le faire mal reconnaître par un système de vision. Pour les modèles de langage, l’équivalent est l’injection de prompt : des instructions cachées dans un texte, une page Web ou un document que le modèle doit traiter, qui détournent son comportement, par exemple pour lui faire divulguer des informations ou exécuter une action non voulue (voir les agents d’IA).

C.2Empoisonner ou voler

  • L’empoisonnement des données consiste à glisser des exemples piégés dans les données d’entraînement, pour que le modèle apprenne un comportement caché : laisser passer certains logiciels malveillants, réagir à un mot déclencheur.
  • L’extraction consiste à interroger massivement un modèle pour en reconstituer une copie, ou pour retrouver des données personnelles mémorisées pendant l’entraînement.
  • La chaîne d’approvisionnement des modèles est elle aussi une cible : un modèle téléchargé sur une plateforme de partage peut contenir du code malveillant dans son fichier, ou avoir été modifié (voir les modèles ouverts).

C.3L’IA au service des escrocs

Début 2024, un employé du bureau de Hong Kong d’un grand cabinet d’ingénierie britannique a effectué une quinzaine de virements, pour un total d’environ 25 millions de dollars, après une visioconférence avec son directeur financier et d’autres collègues… tous fabriqués par hypertrucage. Les voix et les visages truqués rendent caduques les vérifications fondées sur la reconnaissance d’un interlocuteur : seules des procédures, comme un rappel sur un numéro connu ou une double validation des paiements, protègent (voir l’ingénierie sociale).

C.4Idée reçue

« Une IA est objective : elle ne fait que calculer. » Faux. Un modèle reflète les données sur lesquelles il a été entraîné, les choix de ceux qui l’ont conçu et les objectifs qu’on lui a fixés. Il peut reproduire des biais, se tromper avec assurance et être manipulé. Ses résultats doivent être évalués, contrôlés et, pour les décisions importantes, validés par un humain.

C.5Bonnes pratiques

Utilisateur

  • Vérifier les informations produites par une IA en proportion des enjeux ; ne jamais lui confier de données confidentielles sans autorisation.
  • Se méfier des appels, messages et vidéos qui demandent une action urgente, même si la voix ou le visage semblent familiers.
  • Garder la décision finale pour les choix importants.

Organisation

  • Recenser les usages de l’IA, évaluer leurs risques, y compris au regard du règlement européen.
  • Traiter les systèmes d’IA comme des logiciels à sécuriser : provenance des modèles, contrôle des données, droits limités, journalisation.
  • Former les équipes aux escroqueries par hypertrucage et instaurer des procédures de double validation.

Référentiels : ANSSI, Recommandations de sécurité pour un système d’IA générative (2024) · NIST, AI Risk Management Framework (2023) · ISO/IEC 42001:2023, systèmes de management de l’IA · Règlement (UE) 2024/1689 sur l’intelligence artificielle.

Références

  1. A. M. Turing, « Computing Machinery and Intelligence », Mind, vol. 59, 1950.
  2. S. Russell, P. Norvig, Intelligence artificielle, 4e éd., Pearson France, 2021.
  3. Y. LeCun, Quand la machine apprend, Odile Jacob, 2019.
  4. A. Vaswani et al., « Attention Is All You Need », NeurIPS, 2017.
  5. Règlement (UE) 2024/1689 du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle, 2024.

Voir aussi

Citer cet article

« L'intelligence artificielle », Encyclopédie informatique, révision du 26 octobre 2026.