L'intelligence artificielle
Partie 2 sur 3
4Ce que l’IA sait faire aujourd’hui
L’IA est présente dans un nombre croissant d’activités, souvent sans qu’on la remarque :
- la perception : reconnaissance des visages pour déverrouiller un téléphone, lecture des plaques d’immatriculation, transcription de la parole, détection d’anomalies sur des images médicales ;
- le langage : traduction automatique, résumé de documents, assistants conversationnels, correction grammaticale, recherche d’informations ;
- la recommandation : choix des vidéos, des produits, des publicités ou des publications présentés à chaque utilisateur (voir les réseaux sociaux) ;
- la prédiction : prévision de la demande d’électricité, détection des fraudes à la carte bancaire, maintenance prédictive des machines ;
- la création : génération de textes, d’images, de musique, de vidéos et de programmes (voir l’IA générative) ;
- l’action : robots industriels, véhicules autonomes dans des zones délimitées, agents logiciels qui naviguent sur le Web ou dans un ordinateur ;
- la science : prédiction de la structure des protéines, découverte de matériaux, prévision météorologique, aide à la recherche de médicaments.
Sur certaines tâches précises, les meilleurs systèmes dépassent les meilleurs experts humains : jeux de stratégie, certains examens d’imagerie médicale, concours de mathématiques ou de programmation. Sur d’autres, apparemment simples pour un humain, ils restent étonnamment fragiles, comme on le verra.
Pour une personne qui découvre ces outils, quelques usages sont à la fois utiles et peu risqués : se faire expliquer une notion avec ses propres mots, reformuler un texte, préparer un plan, traduire un passage, s’entraîner à un entretien ou à une langue. D’autres demandent plus de prudence : chercher une information factuelle précise, qu’il faut vérifier ; demander un avis médical ou juridique, qui ne remplace pas un professionnel ; confier des documents personnels ou professionnels à un service en ligne, dont il faut connaître les conditions d’utilisation. Bien utilisée, en gardant un esprit critique et en vérifiant ce qui compte, l’IA est un formidable outil d’apprentissage ; mal utilisée, elle peut donner l’illusion de savoir sans avoir appris.
5Les limites
5.1Se tromper avec assurance
Les systèmes d’IA actuels calculent des réponses probables à partir de ce qu’ils ont appris ; ils n’ont pas de garantie de vérité. Un assistant conversationnel peut inventer une référence bibliographique, une jurisprudence ou un fait, en le présentant avec la même assurance qu’une information exacte : on parle d’hallucination. Un système de reconnaissance d’images peut se tromper sur une photo prise dans des conditions inhabituelles. Ces erreurs sont d’autant plus dangereuses qu’elles sont rares et bien formulées : on finit par faire confiance. D’où la règle : vérifier ce que produit une IA, en proportion des enjeux.
5.2Les biais
Un système qui apprend à partir de données reproduit les régularités de ces données, y compris leurs biais. Un outil de tri de candidatures entraîné sur les recrutements passés d’une entreprise qui embauchait surtout des hommes peut apprendre à défavoriser les candidates ; un système de reconnaissance faciale entraîné surtout sur certains visages se trompe davantage sur les autres. Ces biais sont souvent invisibles sans une évaluation spécifique, ce qui explique les exigences du règlement européen pour les usages à haut risque (section 8).
5.3L’opacité
Un réseau de milliards de paramètres ne permet pas de dire simplement pourquoi il a pris une décision. Cette opacité pose problème quand une décision doit être justifiée, comme un refus de crédit, ou quand il faut corriger une erreur. La recherche sur l’explicabilité et sur l’interprétabilité des modèles, qui tente de comprendre ce qui se passe à l’intérieur des réseaux, progresse, mais reste loin d’avoir résolu la question.
5.4Le coût
L’entraînement des grands modèles demande des milliers de processeurs spécialisés pendant des semaines, et leur utilisation par des centaines de millions de personnes consomme une électricité considérable, ainsi que de l’eau pour refroidir les centres de données. La construction de nouveaux centres de données consacrés à l’IA est devenue un enjeu énergétique et industriel majeur (voir le numérique responsable et le centre de données). À l’inverse, des modèles plus petits, utilisables sur un ordinateur ou un téléphone, se multiplient (voir l’IA sur sa propre machine).
5.5Comprendre ou imiter ?
Les systèmes actuels « comprennent »-ils ce qu’ils font ? La question divise. Pour certains chercheurs, un modèle qui prédit le mot suivant ne fait qu’imiter statistiquement le langage, sans représentation du monde ; la célèbre expérience de pensée de la « chambre chinoise », proposée par le philosophe John Searle en 1980, défendait déjà l’idée qu’un système peut manipuler des symboles sans les comprendre. Pour d’autres, la capacité de ces modèles à résoudre des problèmes nouveaux, à raisonner étape par étape et à se servir d’outils montre qu’ils construisent bel et bien des représentations utiles. Le test de Turing, longtemps considéré comme l’horizon de l’IA, est dans les faits dépassé par les assistants actuels, sans que cela tranche le débat : imiter une conversation humaine ne suffit visiblement pas à définir l’intelligence.
6Mesurer les progrès
Comment savoir si un système d’IA est meilleur qu’un autre ? Les chercheurs utilisent des bancs d’essai (en anglais benchmarks) : des jeux de questions ou de tâches dont on connaît les bonnes réponses, sur lesquels on compare les systèmes. ImageNet, une base de plus d’un million d’images classées en un millier de catégories, a ainsi servi de référence à la vision par ordinateur dans les années 2010. Pour les modèles de langage, on utilise des examens de connaissances, des problèmes de mathématiques de concours, des exercices de programmation, et, depuis peu, des tâches longues où un agent doit accomplir un travail complet sur un ordinateur.
Ces mesures ont leurs limites. Les meilleurs systèmes atteignent rapidement le maximum des bancs d’essai, qu’il faut sans cesse remplacer par des épreuves plus difficiles : on parle de saturation. Les questions d’un test publié sur Internet peuvent se retrouver dans les données d’entraînement d’un modèle, qui les a alors « apprises par cœur » : c’est la contamination. Un bon score sur un test ne garantit pas non plus un bon comportement dans le monde réel, face à des situations imprévues. D’autres méthodes complètent donc les bancs d’essai : comparaisons à l’aveugle de réponses par des milliers d’utilisateurs, évaluations par des experts du domaine, et tests de sécurité menés par des équipes chargées de pousser les systèmes à la faute.
Ces mesures font apparaître une progression rapide : sur de nombreux tests, des tâches jugées hors de portée quelques années plus tôt sont désormais réussies, et la longueur des tâches que les agents parviennent à mener seuls s’allonge d’année en année. Elles montrent aussi que les capacités restent irrégulières : un même système peut résoudre un problème de mathématiques de haut niveau et se tromper sur une question de bon sens, une fragilité que les chercheurs décrivent parfois comme une intelligence « en dents de scie ».
Pour s’exercer
Exercice 2 : est-ce de l’IA ?
Un thermostat qui allume le chauffage sous 19 °C est-il une intelligence artificielle ? Et un thermostat qui apprend, au fil des semaines, les horaires de présence des habitants pour chauffer juste avant leur retour ?
Voir la réponse
Le premier applique une règle fixe, écrite par un humain, sans aucune adaptation : on ne parle pas d’IA, mais d’automatisme. Le second adapte son comportement à partir des données observées : il apprend un modèle des habitudes, ce qui relève de l’apprentissage automatique, même s’il est très simple. La frontière est floue, et le mot « IA » est parfois utilisé abusivement à des fins commerciales ; la bonne question est : le système apprend-il ou raisonne-t-il de lui-même, ou applique-t-il seulement des règles fixées ?
Exercice 3 : quel niveau de risque ?
Selon le règlement européen, quel est le niveau de risque de : a) un logiciel qui trie automatiquement les CV pour présélectionner les candidats ; b) un assistant conversationnel sur le site d’une mairie ; c) un système qui attribue une « note de citoyenneté » aux habitants selon leur comportement ; d) un correcteur orthographique ?
Voir la réponse
a) Haut risque : le recrutement figure explicitement dans la liste ; l’entreprise devra notamment assurer un contrôle humain, vérifier l’absence de biais et documenter le système. b) Risque limité : les usagers doivent être informés qu’ils dialoguent avec une IA. c) Risque inacceptable : la notation sociale est interdite. d) Risque minimal : aucune obligation particulière.
Exercice 4 : la référence inventée
Une étudiante demande à un assistant conversationnel trois articles scientifiques sur un sujet. Il en cite trois, avec auteurs, titres et revues. Elle ne trouve aucun des trois dans les bases bibliographiques. Que s’est-il passé ? Comment travailler autrement ?
Voir la réponse
L’assistant a produit des références plausibles, conformes à la forme habituelle des citations, mais inventées : c’est une hallucination. Le modèle génère un texte probable, il ne consulte pas forcément une base de données. Pour travailler autrement : utiliser un assistant relié à un moteur de recherche ou à une base documentaire, qui cite des sources vérifiables (voir le RAG) ; vérifier systématiquement chaque référence dans une base bibliographique ; utiliser l’assistant pour comprendre un sujet ou reformuler, pas comme source.
Exercice 5 : un biais caché
Une banque entraîne un modèle à prédire le risque de non-remboursement à partir de ses prêts passés. Elle retire du jeu de données le sexe et l’origine des emprunteurs, pour éviter toute discrimination. Le problème est-il réglé ?
Voir la réponse
Pas forcément. D’autres variables peuvent servir d’indicateurs indirects : le code postal, la profession, le prénom, certains achats sont corrélés au sexe ou à l’origine. Le modèle peut alors reproduire les discriminations passées sans jamais « voir » les variables retirées. Il faut tester les résultats du modèle sur différents groupes de population, mesurer les écarts de décision, examiner les variables qui pèsent le plus, et garder un contrôle humain. C’est précisément ce qu’exige le règlement européen pour l’attribution de crédit, classée à haut risque.
Exercice 6 : le test de Turing
Un assistant conversationnel moderne passe souvent le test de Turing : beaucoup d’interlocuteurs ne le distinguent pas d’un humain dans une conversation écrite courte. Peut-on en conclure qu’il pense comme un humain ?
Voir la réponse
Non, ou du moins pas seulement pour cette raison. Le test mesure la capacité à imiter une conversation humaine, pas l’existence d’une pensée ou d’une conscience ; Turing lui-même le proposait comme un critère pratique, pour éviter une question qu’il jugeait mal posée. Les assistants actuels réussissent souvent ce test tout en commettant des erreurs qu’aucun humain attentif ne ferait, ou sans mémoire durable de leurs interlocuteurs. Le débat sur ce qu’ils « comprennent » reste ouvert (section 5.5) ; en pratique, l’important est d’évaluer leurs capacités et leurs limites sur les tâches qu’on leur confie.
Exercice 7 : l’appel du directeur
Un comptable reçoit un appel vidéo de sa directrice, qu’il reconnaît parfaitement, lui demandant un virement urgent et confidentiel vers un nouveau fournisseur. Que doit-il faire ? Quelle procédure l’entreprise aurait-elle dû prévoir ?
Voir la réponse
Ne pas exécuter le virement sur la seule foi de l’appel : l’urgence, la confidentialité et le changement de destinataire sont les signes classiques de la fraude au président, que les hypertrucages rendent beaucoup plus crédible (coin cyber). Il doit rappeler la directrice sur un numéro connu, enregistré à l’avance, et non sur celui de l’appel, ou la joindre par un autre canal. L’entreprise aurait dû prévoir une procédure écrite : double validation des paiements au-delà d’un certain montant, vérification de tout changement de coordonnées bancaires d’un fournisseur par un contact connu, et interdiction d’y déroger, même sur ordre apparent de la direction. La formation des équipes à ces scénarios complète le dispositif.