Striping Across Four Storage Nodes With GlusterFS On Debian Lenny

Ce tutoriel montre comment effectuer du striping de données (segmentation de données logiquement séquentielles, telles qu’un seul fichier, afin que les segments puissent être attribués à plusieurs dispositifs physiques de manière rotative et ainsi écrits simultanément) sur quatre serveurs de stockage uniques (fonctionnant sous Debian Lenny) avec GlusterFS. Le système client (Debian Lenny également) pourra accéder au stockage comme s’il s’agissait d’un système de fichiers local. GlusterFS est un système de fichiers en cluster capable de s’étendre à plusieurs pétaoctets. Il agrège divers blocs de stockage via Infiniband RDMA ou TCP/IP en un grand système de fichiers réseau parallèle. Les blocs de stockage peuvent être constitués de n’importe quel matériel standard tel que des serveurs x86-64 avec RAID SATA-II et HBA Infiniband.

Veuillez noter que ce type de stockage ne fournit aucune fonctionnalité de haute disponibilité/tolérance aux pannes, comme ce serait le cas avec un stockage répliqué.

Je ne donne aucune garantie que cela fonctionnera pour vous !

1 Remarque Préliminaire

Dans ce tutoriel, j’utilise cinq systèmes, quatre serveurs et un client :

• server1.example.com : adresse IP 192.168.0.100 (serveur)
• server2.example.com : adresse IP 192.168.0.101 (serveur)
• server3.example.com : adresse IP 192.168.0.102 (serveur)
• server4.example.com : adresse IP 192.168.0.103 (serveur)
• client1.example.com : adresse IP 192.168.0.104 (client)

Tous les cinq systèmes doivent être capables de résoudre les noms d’hôtes des autres systèmes. Si cela ne peut pas être fait via DNS, vous devez modifier le fichier /etc/hosts pour qu’il ressemble à ceci sur les cinq systèmes :

vi /etc/hosts

| 127.0.0.1 localhost.localdomain localhost 192.168.0.100 server1.example.com server1 192.168.0.101 server2.example.com server2 192.168.0.102 server3.example.com server3 192.168.0.103 server4.example.com server4 192.168.0.104 client1.example.com client1 # Les lignes suivantes sont souhaitables pour les hôtes compatibles IPv6 ::1 localhost ip6-localhost ip6-loopback fe00::0 ip6-localnet ff00::0 ip6-mcastprefix ff02::1 ip6-allnodes ff02::2 ip6-allrouters ff02::3 ip6-allhosts |

(Il est également possible d’utiliser des adresses IP au lieu de noms d’hôtes dans la configuration suivante. Si vous préférez utiliser des adresses IP, vous n’avez pas à vous soucier de savoir si les noms d’hôtes peuvent être résolus ou non.)

2 Configuration Des Serveurs GlusterFS

server1.example.com/server2.example.com/server3.example.com/server4.example.com :

GlusterFS n’est pas disponible en tant que paquet Debian pour Debian Lenny, nous devons donc le construire nous-mêmes. Tout d’abord, nous installons les prérequis :

aptitude install sshfs build-essential flex bison byacc libdb4.6 libdb4.6-dev

Ensuite, nous téléchargeons la dernière version de GlusterFS depuis http://www.gluster.org/download.php et la construisons comme suit :

cd /tmp  
wget http://ftp.gluster.com/pub/gluster/glusterfs/2.0/LATEST/glusterfs-2.0.1.tar.gz  
tar xvfz glusterfs-2.0.1.tar.gz  
cd glusterfs-2.0.1  
./configure --prefix=/usr > /dev/null

server1:/tmp/glusterfs-2.0.1# ./configure --prefix=/usr > /dev/null  
  
GlusterFS configure summary  
===========================  
FUSE client        : non  
Infiniband verbs   : non  
epoll IO multiplex : oui  
Berkeley-DB        : oui  
libglusterfsclient : oui  
mod_glusterfs      : non ()  
argp-standalone    : non  
  
server1:/tmp/glusterfs-2.0.1#

make && make install  
ldconfig

La commande

glusterfs --version

devrait maintenant afficher la version de GlusterFS que vous venez de compiler (2.0.1 dans ce cas) :

server1:/tmp/glusterfs-2.0.1# glusterfs --version  
glusterfs 2.0.1 built on May 29 2009 17:23:10  
Repository revision: 5c1d9108c1529a1155963cb1911f8870a674ab5b  
Copyright (c) 2006-2009 Z RESEARCH Inc.   
GlusterFS comes with ABSOLUTELY NO WARRANTY.  
You may redistribute copies of GlusterFS under the terms of the GNU General Public License.  
server1:/tmp/glusterfs-2.0.1#

Ensuite, nous créons quelques répertoires :

mkdir /data/  
mkdir /data/export  
mkdir /data/export-ns  
mkdir /etc/glusterfs

Maintenant, nous créons le fichier de configuration du serveur GlusterFS /etc/glusterfs/glusterfsd.vol qui définit quel répertoire sera exporté ( /data/export) et quel client est autorisé à se connecter ( 192.168.0.104 = client1.example.com) :

vi /etc/glusterfs/glusterfsd.vol

| volume posix type storage/posix option directory /data/export end-volume volume locks type features/locks subvolumes posix end-volume volume brick type performance/io-threads option thread-count 8 subvolumes locks end-volume volume server type protocol/server option transport-type tcp/server option auth.addr.brick.allow 192.168.0.104 subvolumes brick end-volume |

Veuillez noter qu’il est possible d’utiliser des jokers pour les adresses IP (comme 192.168.*) et que vous pouvez spécifier plusieurs adresses IP séparées par des virgules (par exemple, 192.168.0.104,192.168.0.105).

Ensuite, nous créons les liens de démarrage système pour le script d’initialisation glusterfsd…

update-rc.d glusterfsd defaults

… et démarrons glusterfsd :

/etc/init.d/glusterfsd start