Le règlement européen sur l'IA
Partie 3 sur 6
5Les systèmes à haut risque
5.1Quels systèmes ?
Deux catégories sont distinguées. La première concerne les systèmes d’IA qui sont des composants de sécurité de produits déjà soumis à une réglementation européenne (dispositifs médicaux, jouets, ascenseurs, machines, véhicules...). La seconde, détaillée dans l’annexe III du texte, énumère des domaines d’usage :
- la biométrie (reconnaissance fondée sur le corps : visage, empreinte, voix ; identification, catégorisation des personnes, dans les cas non interdits) ;
- les infrastructures critiques (eau, gaz, électricité, circulation) ;
- l’éducation : admission, évaluation des élèves, détection de triche ;
- l’emploi : recrutement, tri de candidatures, décisions de promotion ou de licenciement, surveillance des salariés ;
- l’accès aux services essentiels : crédit, assurance santé ou vie, aides publiques, appels aux secours ;
- la répression, la migration et le contrôle aux frontières ;
- la justice et les processus démocratiques (aide à la décision de justice, influence sur le vote).
Un système de cette liste n’est pas automatiquement à haut risque : il en sort s’il ne présente pas de risque important pour la santé, la sécurité ou les droits fondamentaux, par exemple parce qu’il se limite à une tâche procédurale étroite ; mais son fournisseur doit alors documenter cette appréciation.
5.2Les exigences
Un système à haut risque doit respecter un ensemble d’exigences, qui forment une sorte de « cahier des charges de la confiance » :
- un système de gestion des risques, tenu à jour pendant toute la vie du système (voir la gestion des risques) ;
- des données de qualité pour l’entraînement, les tests et la validation : représentatives, sans biais évitables ;
- une documentation technique complète, qui permet aux autorités de vérifier la conformité ;
- la journalisation automatique des événements, pour pouvoir reconstituer ce qui s’est passé (voir l’observabilité) ;
- une information claire pour ceux qui l’utilisent : mode d’emploi, performances, limites connues ;
- une supervision humaine effective : une personne compétente peut comprendre, surveiller, corriger ou arrêter le système ;
- un niveau approprié d’exactitude, de robustesse et de cybersécurité, y compris face aux tentatives de manipulation (partie 11).
Avant de commercialiser un tel système, son fournisseur doit effectuer une évaluation de conformité (selon les cas, par lui-même ou avec un organisme extérieur dit « notifié »), apposer le marquage CE, établir une déclaration de conformité et enregistrer le système dans une base de données européenne. Après la mise sur le marché, il doit surveiller le fonctionnement et signaler à l’autorité les incidents graves.
5.3Les obligations de l’utilisateur professionnel
Celui qui utilise un système à haut risque (le déployeur, partie 9) a ses propres devoirs : l’employer conformément à la notice, confier la supervision à des personnes formées et dotées de l’autorité nécessaire, vérifier que les données d’entrée sont pertinentes, conserver les journaux, informer les personnes concernées qu’un tel système est employé à leur égard et, dans les cas où le texte le prévoit, leur donner une explication de la décision. Les travailleurs et leurs représentants doivent être informés avant qu’un système à haut risque ne soit mis en service sur le lieu de travail. Pour certains déployeurs (organismes publics, banques, assureurs), une analyse de l’effet sur les droits fondamentaux est demandée avant le premier emploi.
Pour s’exercer
Exercice 2 : fournisseur ou déployeur ?
Une entreprise achète un assistant d’IA générale et l’intègre sous sa propre marque à son site pour noter automatiquement les dossiers de candidats. Quel est son rôle, et pourquoi cela compte-t-il ?
Voir la réponse
Elle devient très probablement fournisseur d’un système à haut risque (emploi) : elle l’a mis sous sa marque et en a défini la finalité. Elle devra donc faire l’évaluation de conformité, la documentation, la gestion des risques, etc., et non se contenter d’être utilisatrice. Elle reste aussi déployeuse pour son propre usage, et le fournisseur d’origine du modèle a ses obligations propres. Il faut établir la répartition des tâches par contrat.
6Transparence : dire ce qui est une machine
L’article 50 pose des règles d’information pour des systèmes dont le risque tient à la tromperie possible :
- un système conçu pour dialoguer avec des personnes (un agent de discussion) doit les informer qu’elles échangent avec une IA, sauf si c’est évident ;
- les fournisseurs de systèmes qui produisent des textes, images, sons ou vidéos doivent faire en sorte que ces contenus soient marqués dans un format lisible par machine, pour qu’on puisse reconnaître qu’ils sont artificiels (filigrane invisible, métadonnées) ;
- les déployeurs d’un système qui produit des hypertrucages (images, sons, vidéos truqués qui imitent des personnes, lieux ou événements réels) doivent le signaler ; pour les textes publiés pour informer le public, la mention est requise sauf relecture et responsabilité éditoriale humaine ;
- les systèmes de reconnaissance des émotions ou de catégorisation biométrique non interdits doivent informer les personnes exposées.
L’objectif n’est pas d’interdire la création de contenus synthétiques (qui ont des usages créatifs, pédagogiques, humoristiques), mais de laisser à chacun les moyens de savoir. Le marquage technique n’est cependant pas infaillible : on peut souvent l’effacer ou le contourner, ce qui limite sa portée face à des acteurs malveillants. Il aide surtout à identifier les contenus des fournisseurs de bonne foi.
Ces règles de transparence s’appliquent à partir du 2 août 2026. Le règlement de juillet 2026 a toutefois laissé un délai de grâce, jusqu’au 2 décembre 2026, pour le marquage technique des contenus produits par des systèmes déjà sur le marché avant le 2 août 2026.