Aller au contenu
Encyclopédie informatique Édition 2026

Les modèles ouverts et l'IA sur sa propre machine

Partie 3 sur 3

Niveau de lecture :

6Adapter un modèle

Disposer des poids permet d’adapter le modèle à ses besoins, ce que les modèles fermés ne permettent que de façon limitée :

  • Le RAG local : plutôt que de modifier le modèle, on lui fournit à chaque question les passages pertinents de ses propres documents, indexés sur la même machine (voir le RAG). C’est souvent la meilleure solution pour apporter des connaissances.
  • L’affinage : on poursuit l’entraînement du modèle sur ses propres exemples, pour lui apprendre un style, un format, un vocabulaire, une tâche précise, comme extraire des informations de comptes rendus médicaux ou répondre dans le ton d’une marque.
  • La distillation : on entraîne un petit modèle à imiter les réponses d’un grand sur une tâche donnée, pour obtenir un modèle rapide et économique, spécialisé.

Réentraîner tous les poids d’un modèle de plusieurs milliards de paramètres demanderait une mémoire considérable. La méthode LoRA (Low-Rank Adaptation, adaptation de faible rang), publiée en 2021 par des chercheurs de Microsoft, contourne la difficulté : elle gèle les poids d’origine et n’entraîne que de petites matrices ajoutées, qui représentent la correction à apporter, souvent moins de 1 % du nombre de paramètres. Sa variante QLoRA, publiée en 2023, applique cette méthode à un modèle quantifié sur 4 bits, ce qui permet d’affiner un modèle de plusieurs dizaines de milliards de paramètres sur une seule carte graphique. Les petites matrices obtenues, appelées adaptateurs, ne pèsent que quelques dizaines ou centaines de mégaoctets : on peut en conserver plusieurs pour un même modèle, un par tâche, et les charger selon les besoins. L’affinage reste un vrai projet : il faut des exemples de qualité, en nombre suffisant, et une évaluation rigoureuse, car un modèle affiné peut perdre des capacités générales ou des protections.

7Les limites

  • Les performances : les modèles qui tiennent sur un ordinateur personnel sont nettement moins capables que les meilleurs modèles fermés, en raisonnement, en connaissances, en programmation ou dans les langues moins répandues. Ils conviennent bien aux tâches ciblées ; moins aux problèmes difficiles.
  • Le matériel : une machine capable de faire tourner de bons modèles coûte cher, consomme de l’électricité et chauffe ; un serveur d’entreprise avec plusieurs cartes spécialisées représente un investissement important.
  • L’exploitation : installer, mettre à jour, sécuriser, surveiller et faire évoluer le système est à la charge de l’utilisateur ou de son équipe informatique.
  • Les fonctions annexes : recherche sur le Web, lecture de documents variés, outils, mémoire : ce que les grands services proposent clés en main doit être assemblé soi-même.
  • Les connaissances figées : un modèle téléchargé ne connaît que ce qui figurait dans ses données d’entraînement ; il ignore l’actualité, sauf si on lui fournit des documents récents ou un accès à une recherche, ce qui réintroduit des échanges avec l’extérieur. Il faut aussi suivre la publication de nouvelles versions, souvent bien meilleures, et les tester avant de remplacer l’ancienne.
  • La responsabilité : les protections intégrées aux modèles ouverts sont souvent plus légères, et peuvent être retirées par affinage ; celui qui déploie un modèle répond de l’usage qui en est fait.

8Les enjeux

La souveraineté. Les modèles ouverts permettent à des pays, des administrations et des entreprises de disposer d’une IA qu’ils contrôlent, sans dépendre entièrement de quelques fournisseurs. L’Europe y voit un levier, avec des acteurs comme Mistral AI et des projets publics de modèles multilingues ; la Chine en a fait une stratégie, avec de nombreux modèles publiés sous licence libre.

Le débat sur l’ouverture. Les partisans de l’ouverture mettent en avant la transparence, la recherche indépendante, la concurrence et la possibilité pour chacun d’auditer les modèles. Ses critiques s’inquiètent des usages malveillants : une fois publiés, les poids ne peuvent plus être retirés, et les protections peuvent être supprimées. Le débat porte surtout sur les modèles les plus puissants, pour lesquels certains laboratoires choisissent de ne pas publier les poids.

Le cadre juridique. Le règlement européen sur l’intelligence artificielle allège certaines obligations de documentation pour les modèles publiés sous licence libre avec leurs poids, sauf pour les modèles présentant un risque systémique, ceux dont la puissance d’entraînement dépasse un seuil élevé (voir le règlement européen sur l’IA). Les obligations liées à l’usage, elles, s’appliquent à celui qui déploie le modèle, qu’il soit ouvert ou non, tout comme le RGPD, le règlement général sur la protection des données, dès que des données personnelles sont traitées.

L’environnement. L’IA locale n’est pas forcément plus sobre. Les centres de données mutualisent leurs machines, les font tourner à pleine charge et optimisent leur refroidissement ; un poste de travail qui reste allumé pour quelques requêtes par jour consomme proportionnellement davantage. En revanche, un petit modèle bien choisi, utilisé sur un ordinateur que l’on possède déjà, pour une tâche qui ne demande pas plus, évite de solliciter un modèle géant à distance. Le bon réflexe est le même partout : choisir le plus petit modèle qui fait correctement le travail, et éviter d’acheter du matériel surdimensionné pour un usage occasionnel (voir le numérique responsable).

Sécurité de l’information

Le coin cyber

Faire tourner une IA chez soi supprime le risque de fuite vers un fournisseur, mais transfère toute la sécurité à l’utilisateur : la provenance des fichiers, la configuration du serveur, les droits des applications. Les attaques sont décrites ici dans leur principe seulement.

C.1Des fichiers de modèles piégés

Un fichier de modèle est un fichier téléchargé comme un autre, et certains formats peuvent contenir du code exécuté au chargement, comme le format pickle de Python (exercice 6). Des chercheurs ont découvert en 2024 des dizaines de modèles piégés de cette façon sur des plateformes de partage, capables d’ouvrir un accès à distance sur la machine qui les chargeait. Les plateformes analysent désormais les fichiers déposés, et le format safetensors, sans code exécutable, s’est imposé. Il reste prudent de télécharger auprès des comptes officiels des éditeurs, de vérifier les empreintes numériques et de se méfier des copies « améliorées » publiées par des inconnus.

C.2Des portes dérobées dans les poids

Un modèle peut aussi être piégé dans ses poids eux-mêmes : entraîné pour se comporter normalement, sauf en présence d’un déclencheur précis, une date, un mot, un contexte, où il produit par exemple du code vulnérable. Une étude publiée en 2024 a montré que de telles portes dérobées pouvaient résister aux techniques habituelles d’entraînement à la sécurité. On ne sait pas aujourd’hui détecter de façon fiable une porte dérobée en examinant les poids. La provenance du modèle, la réputation de son éditeur et les tests sur ses propres cas d’usage restent les meilleures protections ; pour des usages sensibles, on privilégie des modèles publiés par des organisations identifiées.

C.3Des serveurs exposés

Les outils d’IA locale ouvrent en général un serveur sur la machine, accessible seulement à celle-ci par défaut. Modifier ce réglage pour partager le service peut l’exposer à tout le réseau, voire à Internet, souvent sans authentification (exercice 7). Ces serveurs exposés sont recherchés activement : ils offrent une puissance de calcul gratuite et parfois l’accès aux conversations ou aux documents. Un service d’IA partagé doit être traité comme tout service réseau : pare-feu, authentification, chiffrement, mises à jour et journalisation.

C.4Des protections que l’on peut retirer

Les modèles ouverts sont livrés avec des protections qui les poussent à refuser certaines demandes dangereuses. Avec les poids en main, ces protections peuvent être affaiblies ou supprimées par affinage, et des versions ainsi modifiées circulent. C’est l’un des arguments des critiques de l’ouverture. Pour une organisation, cela signifie qu’il ne faut pas compter sur les seuls refus du modèle pour encadrer les usages, mais sur des règles, des contrôles d’accès et une supervision.

C.5Idée reçue

« Une IA locale est forcément sûre, puisque rien ne sort de ma machine. » Faux. Le modèle lui-même n’envoie rien, mais les applications qui l’utilisent peuvent le faire ; un fichier de modèle peut être piégé ; un serveur mal configuré peut s’ouvrir à Internet ; et un modèle local connecté à des outils reste vulnérable à l’injection de prompt, comme tout agent (voir les agents d’IA). La confidentialité vis-à-vis d’un fournisseur n’est qu’une partie de la sécurité.

C.6Bonnes pratiques

Utilisateur

  • Télécharger les modèles auprès des comptes officiels, au format safetensors ou GGUF.
  • Laisser le serveur local accessible à la seule machine, sauf besoin réel.
  • Vérifier ce que les applications connectées au modèle envoient ailleurs.

Organisation

  • Tenir l’inventaire des modèles utilisés, de leur provenance et de leur licence.
  • Protéger les serveurs d’inférence comme tout service réseau : filtrage, authentification, chiffrement.
  • Évaluer chaque modèle sur ses propres cas d’usage, y compris des situations piégées, avant déploiement.

Référentiels : ANSSI, Recommandations de sécurité pour un système d’IA générative (2024) · OWASP, Top 10 for LLM Applications (2025), risque LLM03 sur la chaîne d’approvisionnement · Open Source Initiative, The Open Source AI Definition 1.0 (2024).

Références

  1. E. Hu et al., « LoRA: Low-Rank Adaptation of Large Language Models », ICLR, 2022.
  2. T. Dettmers, A. Pagnoni, A. Holtzman, L. Zettlemoyer, « QLoRA: Efficient Finetuning of Quantized LLMs », NeurIPS, 2023.
  3. BigScience Workshop, « BLOOM: A 176B-Parameter Open-Access Multilingual Language Model », 2022.
  4. E. Hubinger et al., « Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training », Anthropic, 2024.
  5. Open Source Initiative, The Open Source AI Definition 1.0, octobre 2024.

Voir aussi

Citer cet article

« Les modèles ouverts et l'IA sur sa propre machine », Encyclopédie informatique, révision du 26 octobre 2026.