Les SYN cookies (syncookies) sont des valeurs particulières des numéros de séquences initiales générés par un serveur (ISN: Initial Sequence Number) lors d'une demande de connexion TCP. La technique mise en œuvre permet notamment de se défendre contre les attaques par inondation de requêtes SYN et accessoirement par IP spoofing. Elle connaît cependant plusieurs inconvénients tels que la falsification et la perte d'informations du paquet SYN. Plusieurs améliorations ont été proposées afin de pallier ces inconvénients. Des extensions ont également été développées, notamment dans le cadre du multi-homing.
Principe Définition Un SYN Cookie est un choix particulier de numéro de séquence Initial (ISN) effectué par un serveur lors d'une demande de connexion TCP. Il permet au serveur de sauvegarder l'état des connexions semi-ouvertes dans le numéro de séquence initial renvoyé au client lors de l'initialisation de la connexion. Ce mécanisme permet de se prémunir d'attaque par inondation de requêtes SYN qui cherche, à partir de paquet SYN falsifié avec des adresses sources aléatoires, à allouer la totalité de la mémoire du serveur afin qu'il se trouve dans l'incapacité de pouvoir répondre aux clients légitimes. Cette protection devient active uniquement lorsqu'il y a trop de connexions semi-ouvertes. Néanmoins, la génération et la vérification du SYN cookie consomment beaucoup de ressources CPU, ce qui rend cette méthode efficace uniquement en cas d'attaque par inondation de requêtes SYN de faible envergure.
Valeur d'un SYN Cookie Structure Un SYN cookie est structuré de la manière suivante :
les 5 premiers bits sont égaux à , où est un compteur de temps de 5 bits qui augmente toutes les ; les 3 bits suivants représentent le Maximum Segment Size (MSS) que le serveur a choisi en réponse au MSS spécifié par le client ; les 24 derniers bits sont obtenus à l'aide d'une fonction de hachage cryptographique.
Ce choix de numéro de séquence a été motivé par le fait que le protocole TCP exige que les numéros de séquence augmentent lentement. Dans le cas présent, le numéro de séquence initial du serveur augmente légèrement plus rapidement que le numéro de séquence initial du client.
Codage Le mécanisme exact d'encodage de l'état dans le numéro de séquence SYN+ACK peut dépendre de l'implémentation. Sur Linux, les SYN cookies sont encodés de la manière suivante:
où représente le numéro de séquence initial du paquet SYN choisi par le client, représente le compteur de temps de 5 bits augmentant toutes les , représente une valeur codée du MSS comprise entre 0 et 7, et représentent des clefs secrètes que seul le serveur connaît, représente une fonction de hachage cryptographique telle que MD5 ou SHA-1, , , et représentent respectivement l'adresse source, le port source, l'adresse de destination et le port de destination du paquet SYN.
Déroulement d'une connexion TCP avec SYN Cookie Négociation en 3 phases
Le déroulement d'une connexion TCP utilisant SYN Cookie est similaire au déroulement d'une connexion TCP classique. Elle s'effectue à l'aide d'une négociation en 3 phases :
SYN : le client désire se connecter au serveur TCP. Pour ce faire, il envoie un paquet SYN contenant un numéro de séquence initial, noté , en tant que numéro de séquence ; SYN+ACK : le serveur, lorsqu'il reçoit le paquet SYN du client, calcule un SYN Cookie noté , incrémente et envoie un paquet SYN+ACK contenant en tant que numéro de séquence et en tant que numéro d'accusé de réception ; ACK : à la réception du paquet SYN+ACK du serveur, le client incrémente et envoie au serveur un paquet ACK contenant en tant que numéro d'accusé de réception.
Le serveur vérifie alors la validité du numéro d'accusé de réception du paquet ACK. S'il est valide, le serveur alloue de la mémoire pour la connexion et passe son état en mode ESTABLISHED. Dans le cas contraire, le paquet ACK est rejeté.
Vérification du SYN cookie Le mécanisme de vérification du numéro de séquence SYN+ACK dépend de l'encodage de celui-ci. Sur Linux, les SYN cookies sont vérifiés de la manière suivante :
où et représentent respectivement le numéro d'accusé de réception et le numéro de séquence du paquet ACK, représente le compteur de temps de 5 bits augmentant toutes les , et représentent des clefs secrètes que seul le serveur connaît, représente une fonction de hachage cryptographique telle que MD5 ou SHA-1, , , et représentent respectivement l'adresse source, le port source, l'adresse de destination et le port de destination du paquet ACK.
Si est compris entre 0 et 7, le paquet ACK est considéré comme légitime. Le serveur crée alors une connexion avec le MSS correspondant à . Dans le cas où un paquet est falsifié, tend à être très différent d'une valeur comprise entre 0 et 7.
Inconvénients Falsification de connexion Il a été montré que les SYN Cookies dépendent uniquement du paquet ACK final. En effet, comme le serveur ne sauvegarde pas l'état de la connexion, il ne peut savoir si le paquet SYN+ACK a été perdu et ne peut donc pas le retransmettre. Cela constitue une faille de sécurité : un attaquant peut essayer d'inonder le serveur de paquet SYN afin qu'il se décide d'utiliser SYN Cookie. Il peut ensuite inonder le serveur de paquet ACK falsifié, c'est-à-dire de paquet ACK contenant des numéros de séquence aléatoires, en espérant que l'un d'entre-eux soit un SYN Cookie considéré par le serveur comme étant valide.
Il a également été montré qu'il n'est pas nécessaire de deviner les 32 bits du numéro de séquence initial et que deviner les 24 derniers bits est suffisant. Un attaquant peut donc espérer deviner une valeur correct de SYN Cookie avec une probabilité de . En effet, puisque ses paquets sont falsifiés avec des adresses IP aléatoires, il ne peut pas savoir si une tentative de connexion a réussi. Si l'attaquant désire falsifier une connexion par minute, il doit envoyer en moyenne paquets ACK, ce qui correspond à un débit de 85 Mb/s. Ce type d'attaque, à la différence d'une attaque par inondation de requêtes SYN, n'a pas pour objectif de consommer la mémoire du serveur. Elle cherche plutôt à consommer son CPU en lui faisant valider la totalité des SYN Cookies qui, pour la plupart d'entre-eux, sont invalides puisque générés de manière aléatoire. En plus de consommer le CPU du serveur, cette attaque pénalise également sa bande passante.
Perte des informations du paquet SYN Un inconvénient de l'utilisation des SYN Cookies est qu'il réduit les performances du serveur. En effet, il ne prend pas en compte les paramètres contenus dans le champ « options » lorsque le client envoie son segment SYN. Ces paramètres, tels que la taille d'une fenêtre de réception, l'acquittement sélectif, le Round-Trip Time (RTT), le Protect Against Wrapped Sequences (PAWS) ou le MSS permettent des communications plus efficaces. Néanmoins, cette perte n'est pas permanente puisque les SYN Cookies ne sont activés uniquement lorsque le serveur subit une attaque, c'est-à-dire lorsque toutes les ressources du serveur sont occupées par des connexions semi-ouvertes. Le reste du temps, les SYN Cookies sont désactivés.
Autres inconvénients Les autres inconvénients de l'utilisation des SYN Cookies sont : inadaptés pour la protection des machines virtuelles à cause d’une surcharge trop rapide du CPU lors d’une attaque par inondation de requêtes SYN, même de faible envergure ; les coûts de calcul supplémentaires nécessaires au traitement des paquets SYN et ACK entrant ; l'absence de retransmissions des paquets SYN+ACK.
Activation de SYN Cookie Windows Sur Windows, il est possible d'activer une méthode similaire à SYN Cookie s'appelant SynAttackProtect. Pour ce faire, il faut assigner la valeur recommandée 2 à la clef de registre SynAttackProtect se trouvant dans HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\TcpIp\Parameters. Il est également possible de choisir à partir de quel seuil une attaque par inondation de requêtes SYN sera détectée en modifiant les clefs de registre TcpMaxHalfOpen, TcpMaxHalfOpenRetried et TcpMaxPortsExhausted.
Linux Sur Linux, il est possible de vérifier que les SYN Cookies sont actuellement activés au niveau du noyau soit en utilisant la commande sysctl -n net.ipv4.tcp_syncookies, soit en utilisant la commande cat /proc/sys/net/ipv4/tcp_syncookies. Si la valeur retournée par l'une de ces deux commandes est égale à 1, les SYN Cookies sont déjà activés. Sinon, il faut éditer le fichier /etc/sysctl.conf, passer la valeur net.ipv4.tcp_syncookies à 1 au lieu de 0, et recharger la configuration à l'aide de la commande sysctl -p ou redémarrer le serveur.
Améliorations des performances En 2006, KhakAbi a proposé une amélioration consistant à stocker dans une table de hachage les informations du paquet SYN telles que les options TCP, la taille des fenêtres et le MSS. Puisque cette méthode sauvegarde l'état des connexions, elle peut utiliser ces informations afin de proposer une connexion optimale. Cela implique également que les SYN Cookies peuvent être utilisés même lorsque le serveur ne subit pas d'attaque par inondation de requête SYN. Il n'est plus nécessaire non plus pour le serveur d'avoir un dispositif de détection.
En 2007, plusieurs améliorations ont été proposées. Han Jianying et al. ont proposé une amélioration consistant à stocker temporairement les informations de base du paquet SYN afin d'identifier leur légalité. Cette amélioration vise à lutter contre l'inondation par requêtes ACK. Bien qu'elle permette de réduire le taux d'occupation du CPU, elle nécessite une consommation d'espace de stockage supplémentaire. Peng Di et al. ont, quant à eux, proposé une amélioration consistant à modifier le processus de réponse du protocole TCP pour le paquet SYN au niveau du système de défense. Cette méthode permet de réduire le temps de vérification du cookie et d'améliorer l'efficacité du système de défense. Cependant, elle n'est applicable que dans le scénario où le système de défense est séparé du serveur.
En 2008, Jian Xiaochun et al. ont proposé une amélioration consistant à attendre la retransmission du paquet SYN du client. Cette méthode permet de réduire les aspects de calcul. Néanmoins, elle nécessite des ressources systèmes supplémentaires car elle implique de maintenir une table de hachage. Elle augmente également le temps de réponse pour une connexion TCP normale.
En 2009, Bo Hang et al. ont proposé une amélioration consistant à modifier l'algorithme utilisé pour calculer les SYN Cookies. Leur méthode est basée sur 3 composants : le contrôleur, la détection d'attaque et la réponse à l'attaque. C'est en cas de détections d'attaque que le nouvel algorithme est utilisé. Cet algorithme redéfini le numéro de séquence initial de 32 bits de la manière suivante : un seul bit pour l'horodatage du cookie et 31 bit pour la valeur du cookie au lieu de 8 bits pour l'horodatage et 24 bits pour la valeur du cookie. Le nouvel algorithme utilise la méthode de chiffrement Blowfish avec une clef de 32 bits qui est plus rapide que les fonctions de hachage cryptographique. Cela a grandement réduit la complexité de calcul avec un gain d'environ 30 % sur le temps de calcul du cookie.
Extensions de SYN Cookie Flow-Cookies
Les flow-cookies sont un mécanisme dans lequel un serveur web coopère avec un intermédiaire, appelé cookie box, connecté à un lien haut débit. Ce mécanisme permet de tirer parti de la bande passante élevée de la cookie box pour le filtrage de paquet. Tout le trafic en provenance ou à destination du serveur Web protégé doit traverser la cookie box. Elle garantit que tous les paquets qui passent entre elle et le serveur appartiennent à un flux TCP légitime avec un expéditeur valide. Pour ce faire, la cookie box va placer un SYN Cookie dans chaque paquet sortant du réseau du serveur. Le serveur web peut également demander à la cookie box de filtrer l'IP d'un client ayant un comportement anormal.