La gestion de la mémoire
Partie 3 sur 4
6Allouer et libérer : la vie de la mémoire d’un programme
Un programme ne demande pas seulement la mémoire d’un coup : il en réserve et en libère sans cesse pendant son exécution. Comprendre comment est organisée la mémoire d’un processus aide à comprendre ses pannes.
6.1La pile et le tas
L’espace de mémoire d’un programme comprend plusieurs zones. Le code (les instructions, en lecture seule), les données globales, la pile et le tas. La pile (stack) garde les variables locales et les adresses de retour des fonctions : elle grandit à chaque appel et rétrécit à chaque retour, avec une gestion automatique, très rapide, mais de taille limitée (quelques mégaoctets). Le tas (heap) est la réserve de mémoire où le programme demande des blocs de taille choisie, qui durent aussi longtemps qu’on les garde. Sa gestion est plus souple, plus lente, et c’est là que surviennent les erreurs les plus fréquentes.
6.2L’allocation
Quand un programme appelle une fonction d’allocation (malloc en C, new en C++ ou en Java…), une bibliothèque, l’allocateur, lui remet un bloc dans le tas, et au besoin demande de nouvelles pages au système. Il tient la liste des blocs libres et occupés, les regroupe quand deux blocs voisins sont libérés, et s’efforce de limiter la fragmentation. Les noyaux des systèmes ont leurs propres allocateurs, adaptés aux petits objets très fréquents.
6.3Les erreurs classiques
- La fuite de mémoire (memory leak) : le programme réserve des blocs et oublie de les rendre. Peu à peu, il occupe de plus en plus de mémoire, jusqu’à saturer la machine. Un programme qui tourne longtemps (un serveur, un navigateur laissé ouvert des jours) en est la victime typique.
- La libération double ou prématurée : rendre deux fois le même bloc, ou continuer à l’utiliser après l’avoir rendu (« pointeur fantôme »). Les effets sont imprévisibles : plantage, données corrompues, ou faille de sécurité.
- Le dépassement de tampon : écrire au-delà de la fin d’un bloc réservé et écraser ce qui se trouve à côté (voir les vulnérabilités).
- Le dépassement de pile (stack overflow) : une chaîne d’appels trop profonde (par exemple une fonction qui s’appelle elle-même sans fin) épuise la pile ; le programme est arrêté.
Les langages se distinguent par la façon dont ils protègent de ces erreurs. En C et C++, le programmeur gère la mémoire à la main, avec toute la liberté, et tous les risques, que cela suppose (voir le langage C). D’autres langages (Java, Python, JavaScript, Go) emploient un ramasse-miettes (garbage collector) qui repère automatiquement les blocs devenus inutiles et les libère, au prix d’un peu de consommation et d’imprévisibilité. Rust propose une troisième voie : des règles vérifiées à la compilation (la « propriété » des données) qui évitent les libérations erronées et les dépassements sans ramasse-miettes (voir Rust). Cette dernière idée séduit les concepteurs de systèmes, car on estime qu’une grande partie des failles de sécurité graves des grands logiciels viennent d’erreurs de gestion de la mémoire.
6.4Quand la mémoire est vraiment épuisée
Que faire quand toute la mémoire vive et tout l’espace d’échange sont pleins ? Le système ne peut plus satisfaire les demandes. Les réactions diffèrent. Windows prévient l’utilisateur (« mémoire insuffisante ») et peut arrêter des programmes. Linux, par défaut, accepte généreusement les demandes (il « sur-réserve », en pariant que les programmes n’utiliseront pas tout ce qu’ils demandent) ; quand la réalité le rattrape, un mécanisme appelé OOM killer (Out Of Memory killer, « tueur par manque de mémoire ») choisit un programme gourmand et l’arrête de force pour sauver le reste. Les téléphones, enfin, ferment en douceur les applications en arrière-plan (partie 8). Chaque stratégie est un compromis entre la sécurité du système, l’équité et la surprise de l’utilisateur.
Pour s’exercer
Exercice 7 : fuite de mémoire
Un serveur redémarré chaque matin voit sa consommation de mémoire passer de 500 Mo à 6 Go en vingt-quatre heures, alors que le nombre d’utilisateurs reste stable. De quoi s’agit-il ? Quelles pistes de correction ?
Voir la réponse
D’une fuite de mémoire : le programme réserve des blocs qu’il ne rend jamais. À court terme, on peut planifier un redémarrage ; à long terme, il faut trouver la cause avec un outil de profilage de mémoire, corriger le code (libérer les blocs, fermer les ressources, cesser de conserver des références inutiles) ou mettre à jour la bibliothèque fautive. On peut aussi imposer une limite de mémoire au service (par exemple avec les groupes de contrôle d’un conteneur), pour que l’arrêt, s’il survient, n’emporte pas tout le serveur.
7Protéger la mémoire
La troisième fonction listée, la protection des espaces mémoire utilisés, est devenue un pilier de la sécurité. Tout repose d’abord sur l’isolation décrite plus haut : un programme n’a accès qu’à ses propres pages. Les droits attachés à chaque page ajoutent un second niveau.
7.1Les droits des pages et l’espace noyau
Chaque page porte des droits : lecture, écriture, exécution. Le processeur distingue aussi deux niveaux de privilège : le mode utilisateur, où tournent les programmes ordinaires, et le mode noyau, réservé au cœur du système. La mémoire du noyau est inaccessible depuis le mode utilisateur ; toute tentative déclenche une erreur. C’est ce qui empêche un programme quelconque, même malveillant, de lire les mots de passe en mémoire du système ou de modifier ses décisions.
7.2Les défenses contre l’exploitation d’erreurs
Malgré le soin des programmeurs, des erreurs de mémoire subsistent. Les systèmes ont donc ajouté des protections qui rendent leur exploitation plus difficile.
- NX ou DEP (No eXecute, Data Execution Prevention) : les pages de données sont marquées « non exécutables ». Même si un attaquant parvient à y écrire des instructions, le processeur refuse de les exécuter. La règle est parfois résumée « écriture ou exécution, mais pas les deux ».
- ASLR (Address Space Layout Randomization, « tirage aléatoire de la disposition de l’espace d’adresses ») : à chaque lancement, le système place la pile, le tas et les bibliothèques à des adresses différentes. Un attaquant qui compte sur des adresses fixes doit désormais les deviner.
- Les « canaris » de pile : une valeur secrète placée par le compilateur avant l’adresse de retour d’une fonction ; si elle est modifiée, le programme s’arrête avant d’exécuter un code détourné.
- L’isolation du noyau et les protections matérielles (SMEP, SMAP) qui empêchent le noyau d’exécuter ou de lire de la mémoire du mode utilisateur par erreur.
- Des protections plus récentes, au niveau du matériel, qui étiquettent la mémoire pour détecter les accès hors limites.
Aucune de ces défenses n’est absolue, mais leur cumul augmente beaucoup le coût d’une attaque. Elles n’enlèvent pas la nécessité de corriger les erreurs à la source.
7.3Quand le matériel trahit : Meltdown, Spectre, Rowhammer
L’isolation par la mémoire virtuelle suppose que le matériel obéisse strictement aux règles. En janvier 2018, deux familles de failles, nommées Meltdown et Spectre, ont montré que les techniques d’accélération des processeurs (l’exécution « spéculative », qui devine la suite d’un programme et commence à la calculer d’avance) pouvaient laisser des traces mesurables dans les caches, et révéler des informations que la mémoire protégée était censée cacher. Les correctifs, logiciels et matériels, ont coûté un peu de performance, et de nouvelles variantes sont encore découvertes. Autre exemple : Rowhammer (2014) a montré qu’en accédant très souvent à certaines lignes d’une barrette de mémoire vive, on pouvait modifier des bits voisins. Ces découvertes rappellent que la frontière entre « logiciel » et « matériel » est poreuse, et que la sécurité de la mémoire se joue à tous les niveaux (voir la mémoire vive et le processeur). Elles sont présentées ici au niveau des principes ; les protections passent par les mises à jour du système et du micrologiciel.
7.4Les données sensibles en mémoire
La mémoire vive contient, le temps de leur utilisation, des mots de passe, des clés de chiffrement, des documents ouverts. Un programme prudent efface ces informations dès qu’il n’en a plus besoin. Mais le fichier d’échange peut en recevoir une copie sur le disque, où elle survit à l’extinction, et un « vidage » de la mémoire (créé lors d’un plantage ou d’une mise en veille prolongée) peut contenir des secrets. C’est une raison de plus de chiffrer le disque entier (voir les systèmes de fichiers) et de verrouiller sa session. Les analystes en investigation numérique, de leur côté, exploitent l’image de la mémoire d’une machine compromise pour y retrouver des traces d’attaque.