Commencez tout d'abord par installer le paquet iproute si ce n'est pas déjà fait :

# aptitude install iproute

Repérez vos deux IP ainsi que vos deux passerelles (les IP suivantes ont été choisies arbitrairement) :

# ifconfig | grep 'inet adr'
inet adr:88.191.88.2  Bcast:88.191.88.255  Masque:255.255.255.0
inet adr:88.191.90.2  Bcast:88.191.90.255  Masque:255.255.255.0
# route -n
88.191.88.0    0.0.0.0         255.255.255.0   U     0      0        0 eth0
88.191.90.0    0.0.0.0         255.255.255.0   U     0      0        0 eth1
0.0.0.0        88.191.88.1     0.0.0.0         UG    0      0        0 eth0
0.0.0.0        88.191.90.1     0.0.0.0         UG    0      0        0 eth1

Première étape, on crée deux tables de routage spécifiques, une pour chaque interface. Pour cela éditez le fichier /etc/iproute2/rt_tables avec votre éditeur favori, et ajoutez en fin de fichier les lignes suivantes :

88  pri
90  sec

Les nombres peuvent être définis à votre convenance, mais je trouve pratique de mettre ici l'avant dernier "bloc" de l'ipv4 pour se repérer.

Ensuite, téléchargez ce script : script de routage dedibox pro et placez le là où il vous chante, personnellement il est dans /etc/network :

# mv routes.sh.txt /etc/network/routes.sh
# chmod +x /etc/network/routes.sh

Editez ce script pour y faire figurer les IP de votre serveur. Pour cela changez les variables neteth0, ipeth0, gweth0, neteth1, ipeth1, gweth1. Si vous utilisez une ou plusieurs IP failover, décommentez la ligne 30 et adaptez le contenu.

Lancez ensuite ce script à chaque boot de serveur, via /etc/rc.local par exemple.

Lorsque vous effectuerez une connexion depuis le serveur vers l'extérieur, cette connexion sortira alternativement par eth0 ou eth1. Une demande de connexion depuis l'extérieur vers l'ip d'eth1 du serveur fera bien sortir le trafic par eth1, même topo pour eth0.

Elle est pas belle la vie ? :)