La détection d'intrusion : IDS, IPS et SIEM
Partie 2 sur 3
3Comment on détecte une intrusion
Il existe plusieurs techniques de détection, que les outils actuels combinent (figure 2). Comprendre leurs forces et leurs limites éclaire pourquoi aucune ne suffit seule.
3.1La reconnaissance de signatures
C’est « la plus ancienne méthode d’analyse et encore très courante » : la reconnaissance par pattern matching (correspondance de motifs). Le système examine chaque paquet et cherche, dans sa suite d’octets, une séquence caractéristique d’une attaque connue — par exemple la chaîne /cgi-bin/phf, qui trahit une tentative d’exploitation d’un vieux script web. On capture les paquets bruts et on les compare, souvent via des expressions régulières (un moyen de décrire des motifs de texte), à une base de signatures. C’est le même principe que l’antivirus (voir les logiciels malveillants) : efficace contre le connu, mais aveugle à l’inconnu. Son grand mérite est la précision : quand une signature correspond, on sait exactement de quelle attaque il s’agit, ce qui facilite le tri et la réponse. Sa base doit, comme celle d’un antivirus, être tenue constamment à jour, car chaque jour apporte son lot de nouvelles attaques à répertorier.
Un exemple resté célèbre en montre la limite : une signature trop littérale se contourne par une simple variation. Prenons le logiciel malveillant Back Orifice : une certaine suite d’octets le trahit quand il utilise son mot de passe par défaut ; mais il suffit à l’attaquant de changer ce mot de passe pour que la suite d’octets change aussi, et que la signature ne reconnaisse plus rien. La reconnaissance par signature ne voit que ce qu’on lui a appris à voir.
3.2L’analyse des protocoles
Une autre méthode consiste à vérifier que les communications respectent les règles des protocoles. De nombreuses attaques reposent sur des violations de la pile protocolaire — des paquets délibérément mal formés, comme le « Ping of Death » ou certains balayages furtifs — ou sur des comportements applicatifs invalides — on cite l’attaque « WinNuke », qui envoyait des données NetBIOS invalides pour faire planter une machine Windows. Une simple vérification de conformité met en évidence ces paquets anormaux. L’avantage : c’est rapide, car il n’est pas nécessaire de comparer chaque paquet à une énorme base de signatures, et cela élimine une partie des fausses alertes, car un paquet qui viole le protocole est intrinsèquement suspect. L’analyse permet aussi de distinguer la gravité : on sait reconnaître, pour un même outil, un simple « ping » (bénin) et une véritable prise de contrôle (grave).
3.3La détection d’anomalies
Plutôt que de chercher des motifs d’attaque connus, on peut apprendre à quoi ressemble l’activité normale d’un système, puis signaler tout ce qui s’en écarte : c’est la détection d’anomalies, ou comportementale. Son grand avantage est de pouvoir repérer des attaques inconnues, puisqu’elle ne cherche pas une signature mais un écart. Son grand défaut est le revers de cette force : une activité légitime inhabituelle (une sauvegarde nocturne, un pic de trafic exceptionnel) ressemble, elle aussi, à un écart, et déclenche une fausse alerte. C’est cette approche que les outils modernes renforcent avec l’apprentissage automatique, capable d’établir des profils de comportement plus fins — au prix, toujours, d’un équilibre délicat à trouver. L’apprentissage automatique ne fait pas disparaître le dilemme de fond : il déplace le curseur, en apprenant des profils de « normalité » plus riches, mais il reste sujet aux fausses alertes dès que l’activité légitime évolue (un nouvel outil déployé, un changement d’organisation), et il peut être trompé par un attaquant qui prend soin de rester dans les limites du comportement appris. Il est un renfort précieux, pas une solution miracle.
3.4Le contrôle d’intégrité
Les méthodes précédentes surveillent le trafic ; une autre surveille les fichiers. C’est le contrôle d’intégrité, dont l’archétype est le logiciel Tripwire, développé en 1992 par Eugene Spafford et Gene Kim. Son principe : maintenir une base de référence des caractéristiques des fichiers sensibles (permissions, dates, taille, et une empreinte calculée par une fonction de hachage — voir les fonctions de hachage), puis, à intervalles réguliers, vérifier si quelque chose a changé. Toute modification inattendue d’un fichier système signale une possible compromission. Une des premières actions, en cas d’intrusion, consiste d’ailleurs à dater la compromission, afin d’en évaluer l’étendue : comme un pirate parvient rarement à ses fins du premier coup et agit souvent par tâtonnement, en essayant différentes requêtes, il laisse dans les journaux des traces qui permettent de remonter à son point d’entrée. C’est pourquoi la surveillance des journaux permet, à elle seule, de détecter une activité suspecte, avant même tout outil spécialisé.
C’est particulièrement précieux contre les rootkits — ces logiciels « chargés d’écraser la plupart des outils du système et de les remplacer par des commandes équivalentes masquant la présence du pirate ». Des outils spécialisés comme chkrootkit cherchent justement à repérer leur présence ; mais face à un système ainsi trafiqué, les outils de la machine elle-même (qui affichent les processus, les utilisateurs connectés) mentent, et l’on ne peut se fier ni à eux, ni à l’outil de recherche lui-même s’il tourne sur la machine compromise. D’où un principe capital : un système compromis n’est pas fiable, et ne peut pas servir à constater sa propre compromission. C’est pourquoi il faut que les alertes du contrôleur d’intégrité soient envoyées vers un serveur distant, ou un support non réinscriptible, hors de portée d’un pirate qui chercherait à les effacer — et que l’on s’assure de l’intégrité de la machine au moment de l’installation de l’outil, faute de quoi la base de référence elle-même serait déjà faussée.
Pour s’exercer
Exercice 2 : la limite des signatures
Une signature de Back Orifice ne fonctionne que si l’attaquant garde le mot de passe par défaut. Généralisez : quelle est la faiblesse de fond de la détection par signature, et quelle méthode la compense ?
Voir la réponse
La faiblesse de fond : la détection par signature ne reconnaît que des attaques déjà connues et cataloguées. Toute attaque nouvelle, ou toute variation d’une attaque connue (ici, un simple changement de mot de passe qui modifie la suite d’octets), échappe à la signature. C’est le même problème que l’antivirus face à un virus inédit. La méthode qui compense est la détection d’anomalies (comportementale) : au lieu de chercher un motif connu, elle repère tout écart par rapport au comportement normal, et peut donc attraper de l’inédit — au prix de davantage de fausses alertes. D’où l’intérêt de combiner les deux.
Exercice 3 : pourquoi un serveur distant ?
Le contrôle d’intégrité (type Tripwire) doit envoyer ses alertes sur une machine distante, et la base de référence doit être créée sur un système réputé sain. Expliquez ces deux exigences.
Voir la réponse
(1) Alertes sur une machine distante : si un pirate a compromis la machine, il cherchera à effacer les traces de son passage, y compris les alertes du contrôleur d’intégrité stockées localement. En les envoyant immédiatement ailleurs (ou sur un support non réinscriptible), on les met hors de sa portée. (2) Base de référence sur un système sain : le contrôle d’intégrité compare l’état actuel à un état de référence. Si la machine était déjà compromise au moment où l’on a créé cette référence, l’état malveillant devient la « normale », et aucune alerte ne se déclenchera. Les deux exigences découlent du même principe : un système compromis n’est pas digne de confiance, ni pour constater sa compromission, ni pour définir ce qui est normal.
Exercice 4 : le coût du bruit
Un IDS mal réglé génère 2 000 alertes par jour, dont 3 seulement sont de vraies attaques. Quel est le danger concret, et comment améliorer la situation sans forcément changer d’outil ?
Voir la réponse
Danger : les analystes, submergés, ne peuvent pas examiner 2 000 alertes par jour ; ils finissent par les ignorer ou les traiter superficiellement, et les 3 vraies attaques risquent de passer inaperçues au milieu du « bruit ». Une détection qui alerte trop ne protège pas mieux — elle protège moins. Pour améliorer sans changer d’outil : adapter les règles à l’environnement réel (désactiver celles qui signalent des attaques sans objet, comme des attaques Windows contre un serveur Linux), hiérarchiser les alertes par gravité, régler les seuils, et corréler les signaux pour ne remonter que les combinaisons significatives. L’objectif est de faire remonter peu d’alertes, mais pertinentes.
4Le fléau des fausses alertes
Si la détection d’intrusion a une maladie chronique, c’est le faux positif : l’alerte déclenchée à tort, pour une activité en réalité bénigne. Le problème revient sans cesse, et il n’a fait que grandir. Ces alertes déclenchées à tort sont aussi appelées faux positifs. Il faut y ajouter la notion de bruit : « dans la réalité, il n’est pas évident de distinguer les alertes réelles des attaques automatiques effectuées par les vers réseau, les virus et les outils » d’analyse. Un exemple éclairant : un serveur sous Linux reçoit en permanence des attaques visant des serveurs web Microsoft, totalement inoffensives pour lui — mais qui génèrent quantité d’alertes inutiles.
Pourquoi est-ce un problème si grave ? Parce que le bruit noie les vraies alertes. Un système qui crie au loup mille fois par jour finit par être ignoré, et c’est la millième alerte — la vraie — qui passe inaperçue. Pour les sondes, leur disposition et leur paramétrage « doivent être soigneusement étudiés, car ce type de dispositif est susceptible de générer de nombreuses fausses alertes ». Le contrôle d’intégrité souffre du même mal : il peut alerter à chaque mise à jour légitime du système, qui modifie justement les fichiers surveillés.
Tout l’art de la détection consiste donc à trouver le bon réglage : assez sensible pour ne rien manquer d’important, assez discret pour ne pas se noyer. On y parvient en adaptant les règles à chaque environnement (ce qui est anormal ici est normal ailleurs), en hiérarchisant les alertes par gravité, en supprimant les règles sans intérêt pour le contexte, et en corrélant plusieurs signaux faibles plutôt que de réagir à chacun isolément. C’est un travail d’ajustement permanent, jamais terminé.
Il existe une symétrie entre deux types d’erreurs, qu’il faut arbitrer. Le faux positif est l’alerte à tort : elle coûte du temps et, surtout, use la vigilance. Le faux négatif est l’inverse, et le plus dangereux : une vraie attaque qui ne déclenche aucune alerte, et passe donc totalement inaperçue. Rendre un système plus sensible réduit les faux négatifs mais augmente les faux positifs ; le rendre plus discret fait le contraire. Il n’existe pas de réglage parfait : on cherche le point d’équilibre qui convient au contexte, en acceptant qu’une détection trop bavarde finisse, paradoxalement, par laisser passer plus de vraies attaques, parce que plus personne ne lit ses alertes. Mieux vaut peu d’alertes fiables qu’un déluge d’alertes ignorées.