Aller au contenu
Encyclopédie informatique Édition 2026

Le règlement européen sur l'IA

Partie 6 sur 6

Niveau de lecture :

11IA et sécurité informatique

Le règlement n’est pas un texte de cybersécurité, mais la sécurité y tient une place importante. Pour les systèmes à haut risque, l’article 15 exige un niveau approprié d’exactitude, de robustesse et de cybersécurité. Le texte cite expressément des menaces propres à l’IA, que la sécurité classique ne couvre qu’en partie (voir la sécurité de l’intelligence artificielle) :

  • l’empoisonnement des données : corrompre les exemples d’entraînement pour fausser le comportement du système ;
  • l’empoisonnement du modèle ou l’insertion de comportements cachés dans un modèle récupéré ailleurs ;
  • les exemples piégés : des entrées fabriquées pour induire une erreur du modèle, parfois invisibles à l’œil ;
  • les attaques sur la confidentialité : extraire du modèle des données personnelles ou des secrets de fabrication ;
  • les défauts du modèle lui-même : réponses erronées, instructions cachées dans des textes que le système lit.

Pour s’en protéger, les fournisseurs doivent prévoir des mesures techniques proportionnées : maîtrise de la provenance des données et des modèles, contrôle des accès, tests adverses (des spécialistes cherchent volontairement à faire échouer le système), journalisation, plan de réponse aux incidents. On retrouve les bases de la sécurité des systèmes d’information, appliquées à une nouvelle cible.

Autres liens utiles : un incident grave impliquant une IA à haut risque est à signaler à l’autorité ; un système d’IA intégré à un produit connecté peut aussi relever du règlement sur la cyber-résilience (voir le règlement sur la cyber-résilience) ; et une organisation qui entre dans le champ de NIS 2 (voir la directive NIS 2) doit traiter l’IA comme une partie de sa chaîne d’approvisionnement numérique.

Pour s’exercer

Exercice 5 : la mention d’un agent de discussion

Une mairie met en ligne un assistant virtuel qui répond aux questions des habitants. Que doit-elle prévoir au titre de l’article 50 ? Que doit-elle conserver à l’esprit pour limiter les erreurs ?

Voir la réponse

Informer clairement, au début de l’échange, que la personne parle à une IA (sauf si c’est évident). Les contenus générés doivent être marqués côté fournisseur. Pour limiter les erreurs : borner le sujet, citer ses sources, proposer un accès à un agent humain, contrôler les réponses sur les sujets sensibles (droits, délais, montants), car la mairie reste responsable de ce que dit son outil.

Exercice 6 : un risque de sécurité propre à l’IA

Un modèle de détection de fraude bancaire est réentraîné chaque semaine sur les opérations de la semaine passée. Quel risque spécifique à l’IA voyez-vous, et quelles mesures proposez-vous ?

Voir la réponse

Un attaquant qui peut injecter de fausses opérations « normales » peut orienter le modèle pour qu’il ignore plus tard une fraude (empoisonnement des données). Mesures : contrôler la provenance et la qualité des données de réentraînement, détecter les dérives brutales, garder une version précédente validée pour comparer, limiter les accès en écriture aux données, tester le nouveau modèle sur un jeu de référence avant mise en service, journaliser et faire valider par un humain les changements significatifs.

12Un texte parmi d’autres : données personnelles et droit commun

Le règlement sur l’IA ne remplace pas le droit existant : il s’y ajoute. Le règlement général sur la protection des données (voir le RGPD) s’applique à tout système d’IA qui traite des données personnelles : raison juridique qui autorise le traitement, information des personnes, collecte limitée au nécessaire, droit d’accès, limites des décisions entièrement automatisées. L’article 22 du RGPD donne déjà à chacun le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé qui produit des effets juridiques ou le touche de manière significative, sauf exceptions et garanties. La CNIL a publié des recommandations sur le développement de systèmes d’IA respectueux de la vie privée.

S’y ajoutent le droit de la consommation, le droit du travail (information du comité social et économique, l’instance qui représente le personnel, avant l’introduction d’outils de surveillance ou d’évaluation), le droit d’auteur (voir le droit d’auteur), le droit de la non-discrimination, et la responsabilité civile. L’IA ne crée pas de zone de non-droit : une entreprise reste responsable de ce que fait son outil, qu’elle l’ait conçu ou acheté (voir l’anecdote sur le robot de compagnie aérienne).

13Se mettre en conformité : une démarche

Voici un parcours pour une organisation qui utilise ou développe de l’IA et veut savoir où elle en est.

  1. Faire l’inventaire de tous les systèmes d’IA utilisés ou développés, y compris ceux cachés dans des logiciels achetés (un outil de recrutement, un module de détection de fraude, un assistant intégré à la messagerie).
  2. Déterminer son rôle pour chacun : fournisseur, déployeur, importateur, distributeur. Un même système peut mettre l’organisation dans plusieurs rôles.
  3. Classer le risque : l’usage est-il interdit, à haut risque, soumis à transparence, ou minimal ? Noter la raison du classement.
  4. Supprimer ou remplacer tout usage interdit (notamment la reconnaissance d’émotions des salariés).
  5. Préparer le haut risque : gestion des risques, qualité des données, documentation, journaux, supervision humaine, tests de sécurité. Demander à ses fournisseurs leur calendrier et leurs preuves de conformité.
  6. Mettre en place la transparence : mentions « vous échangez avec une IA », marquage des contenus produits, politique pour les images et sons truqués.
  7. Former les personnes concernées (culture de l’IA) et garder la preuve de la formation.
  8. Organiser la gouvernance : un responsable, une procédure pour ajouter un nouvel outil, un registre à jour, un point régulier avec la direction (voir gouvernance, risques et conformité).
  9. Surveiller : suivre les incidents, les évolutions du texte, les normes techniques, les recommandations des autorités.

Ce parcours ressemble à celui d’autres textes, et ce n’est pas un hasard : les organisations qui ont déjà une gestion des risques et une culture de la documentation avancent plus vite.

Pour s’exercer

Exercice 7 : un plan de mise en conformité

Vous êtes responsable informatique d’une entreprise de 300 personnes qui utilise cinq outils d’IA (recrutement, relation client, rédaction, détection de fraude, résumé de réunions). Proposez les trois premières actions.

Voir la réponse

1) Faire le registre des cinq outils, avec le rôle de l’entreprise, les données traitées et le fournisseur. 2) Classer chaque usage : le recrutement est à haut risque (échéance décembre 2027), la relation client relève de la transparence, la détection de fraude peut toucher le crédit ou l’accès à un service, la rédaction et les résumés sont à risque minimal mais posent des questions de confidentialité. 3) Écrire une règle d’usage (quelles données saisir ou non) et former les équipes. En parallèle, interroger les fournisseurs sur leur plan de conformité et prévoir les clauses de contrat nécessaires.

Sécurité de l’information

Le coin cyber

Cet article décrit un cadre juridique et ses exigences de sécurité. Il ne contient aucun mode opératoire d’attaque contre un système d’IA : les menaces y sont présentées au niveau des principes, pour comprendre ce que les défenses doivent couvrir.

C.1Une surface d’attaque élargie

Un système d’IA ajoute à un système informatique classique de nouveaux points faibles : les données d’entraînement, le modèle lui-même, les instructions qu’on lui donne et les contenus qu’il lit. Un attaquant n’a pas besoin de forcer un serveur s’il peut glisser, dans un document que l’assistant va résumer, une consigne qui détourne son comportement. La défense passe par plusieurs principes : séparer clairement ce que le système doit faire de ce qu’il lit, limiter ses droits (un assistant ne doit pas pouvoir tout faire à la place de l’utilisateur), contrôler les actions sensibles par un humain, et filtrer ses sorties.

C.2Le cadre légal

L’atteinte frauduleuse à un système de traitement automatisé de données est un délit (code pénal, articles 323-1 à 323-7), y compris lorsque le système est une IA. L’usage d’un hypertrucage pour tromper ou nuire peut constituer une usurpation d’identité (article 226-4-1) ; la loi prévoit aussi des sanctions pour la diffusion de contenus synthétiques sexuels sans consentement. Les tests adverses sur un système tiers nécessitent l’accord de son propriétaire.

C.3Idée reçue

« Le règlement européen interdit l’IA générative, ou la ralentit au point de l’arrêter. » Faux. L’IA générative n’est pas interdite : elle est soumise à des obligations de transparence et, pour les plus grands modèles, à des obligations de documentation et de sécurité. La grande majorité des usages ne relève d’aucune obligation spécifique. Et l’inverse est aussi faux : « le règlement protège de tout ». Il est un cadre minimal, qui n’empêche ni les erreurs de l’outil ni les attaques.

C.4Bonnes pratiques

Particulier

  • Ne pas saisir de données sensibles (santé, mots de passe, secrets professionnels) dans un assistant dont on ignore ce qu’il en fait.
  • Vérifier les informations importantes fournies par une IA avant d’agir.
  • Douter d’une voix ou d’une vidéo inhabituelle, surtout si elle demande de l’argent : rappeler la personne sur un autre canal.

Organisation

  • Tenir un registre des outils d’IA et classer chaque usage par niveau de risque.
  • Limiter les droits des agents, journaliser leurs actions, garder un humain pour les décisions sensibles.
  • Exiger de ses fournisseurs la preuve de leurs mesures de sécurité, de leurs données d’entraînement et de leur calendrier de conformité.

Référentiels : Règlement (UE) 2024/1689 (règlement sur l’IA) tel que modifié par le règlement (UE) 2026/1744 · RGPD, article 22 · NIST (institut américain de normalisation), AI Risk Management Framework · norme ISO/IEC 42001 (système de management de l’IA) · CNIL, recommandations sur l’IA.

Références

  1. Règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle.
  2. Règlement (UE) 2026/1744 modifiant le règlement (UE) 2024/1689 (« omnibus numérique sur l’IA »), publié au Journal officiel de l’Union européenne le 24 juillet 2026.
  3. White & Case, EU AI Omnibus enters into force, amending the AI Act, 2026.
  4. American Bar Association, BC Tribunal Confirms Companies Remain Liable for Information Provided by AI Chatbot, février 2024.
  5. NIST, Artificial Intelligence Risk Management Framework (AI RMF 1.0), 2023.

Voir aussi

Citer cet article

« Le règlement européen sur l'IA », Encyclopédie informatique, révision du 9 novembre 2026.