Стрипинг через четыре узла хранения с GlusterFS на Debian Lenny - Страница 2

3 Настройка клиента GlusterFS

client1.example.com:

На клиенте нам нужно установить fuse и GlusterFS. Вместо установки пакета libfuse2 из репозитория Debian, мы устанавливаем исправленную версию с лучшей поддержкой GlusterFS.

Сначала мы снова устанавливаем необходимые пакеты:

aptitude install sshfs build-essential flex bison byacc libdb4.6 libdb4.6-dev

Затем мы собираем fuse следующим образом (вы можете найти последнюю исправленную версию fuse на ftp://ftp.zresearch.com/pub/gluster/glusterfs/fuse/):

cd /tmp  
wget ftp://ftp.zresearch.com/pub/gluster/glusterfs/fuse/fuse-2.7.4glfs11.tar.gz  
tar -zxvf fuse-2.7.4glfs11.tar.gz  
cd fuse-2.7.4glfs11  
./configure  
make && make install

После этого мы собираем GlusterFS (так же, как на сервере)…

cd /tmp  
wget http://ftp.gluster.com/pub/gluster/glusterfs/2.0/LATEST/glusterfs-2.0.1.tar.gz  
tar xvfz glusterfs-2.0.1.tar.gz  
cd glusterfs-2.0.1  
./configure --prefix=/usr > /dev/null

make && make install  
ldconfig  
glusterfs --version

… и создаем следующие две директории:

mkdir /mnt/glusterfs  
mkdir /etc/glusterfs

Далее мы создаем файл /etc/glusterfs/glusterfs.vol:

vi /etc/glusterfs/glusterfs.vol

| volume remote1 type protocol/client option transport-type tcp/client option remote-host server1.example.com option remote-subvolume brick end-volume volume remote2 type protocol/client option transport-type tcp/client option remote-host server2.example.com option remote-subvolume brick end-volume volume remote3 type protocol/client option transport-type tcp/client option remote-host server3.example.com option remote-subvolume brick end-volume volume remote4 type protocol/client option transport-type tcp/client option remote-host server4.example.com option remote-subvolume brick end-volume volume stripe type cluster/stripe option block-size 1MB subvolumes remote1 remote2 remote3 remote4 end-volume volume writebehind type performance/write-behind option window-size 1MB subvolumes stripe end-volume volume cache type performance/io-cache option cache-size 512MB subvolumes writebehind end-volume |

Убедитесь, что вы используете правильные имена хостов или IP-адреса серверов в строках option remote-host!

Вот и все! Теперь мы можем смонтировать файловую систему GlusterFS в /mnt/glusterfs с одной из следующих двух команд:

glusterfs -f /etc/glusterfs/glusterfs.vol /mnt/glusterfs

или

mount -t glusterfs /etc/glusterfs/glusterfs.vol /mnt/glusterfs

Теперь вы должны увидеть новую общую папку в выводах…

mount

client1:~# mount  
/dev/sda1 on / type ext3 (rw,errors=remount-ro)  
tmpfs on /lib/init/rw type tmpfs (rw,nosuid,mode=0755)  
proc on /proc type proc (rw,noexec,nosuid,nodev)  
sysfs on /sys type sysfs (rw,noexec,nosuid,nodev)  
odev on /dev type tmpfs (rw,mode=0755)  
tmpfs on /dev/shm type tmpfs (rw,nosuid,nodev)  
devpts on /dev/pts type devpts (rw,noexec,nosuid,gid=5,mode=620)  
fusectl on /sys/fs/fuse/connections type fusectl (rw)  
/etc/glusterfs/glusterfs.vol on /mnt/glusterfs type fuse.glusterfs (rw,max_read=131072,allow_other,default_permissions)  
client1:~#

… и…

df -h

client1:~# df -h  
Filesystem            Size  Used Avail Use% Mounted on  
/dev/sda1             29G  896M   27G   4% /  
tmpfs                 126M     0  126M   0% /lib/init/rw  
udev                   10M   80K   10M   1% /dev  
tmpfs                 126M     0  126M   0% /dev/shm  
/etc/glusterfs/glusterfs.vol  
                    105G  3.4G   96G   4% /mnt/glusterfs  
client1:~#

( server1.example.com, server2.example.com, server3.example.com и server4.example.com имеют около 26 ГБ пространства для файловой системы GlusterFS, так что результирующая общая папка имеет размер около 4 x 26 ГБ (105 ГБ).)

Вместо того, чтобы монтировать общую папку GlusterFS вручную на клиенте, вы можете изменить /etc/fstab, чтобы общая папка монтировалась автоматически при загрузке клиента.

Откройте /etc/fstab и добавьте следующую строку:

vi /etc/fstab

| [...] /etc/glusterfs/glusterfs.vol /mnt/glusterfs glusterfs defaults 0 0 |

Чтобы проверить, работает ли ваш измененный /etc/fstab, перезагрузите клиент:

reboot

После перезагрузки вы должны найти общую папку в выводах…

df -h

… и…

mount

4 Тестирование

Теперь давайте создадим большой тестовый файл на общей папке GlusterFS:

client1.example.com:

dd if=/dev/zero of=/mnt/glusterfs/test.img bs=1024k count=1000

ls -l /mnt/glusterfs

client1:~# ls -l /mnt/glusterfs  
total 1028032  
-rw-r--r-- 1 root root 1048576000 2009-06-03 20:51 test.img  
client1:~#

Теперь давайте проверим директорию /data/export на server1.example.com, server2.example.com, server3.example.com и server4.example.com. Вы должны увидеть файл test.img на каждом узле, но с разными размерами (из-за стрипинга данных):

server1.example.com:

ls -l /data/export

server1:~# ls -l /data/export  
total 257008  
-rw-r--r-- 1 root root 1045430272 2009-06-03 20:51 test.img  
server1:~#

server2.example.com:

ls -l /data/export

server2:~# ls -l /data/export  
total 257008  
-rw-r--r-- 1 root root 1046478848 2009-06-03 20:55 test.img  
server2:~#

server3.example.com:

ls -l /data/export

server3:~# ls -l /data/export  
total 257008  
-rw-r--r-- 1 root root 1047527424 2009-06-03 20:54 test.img  
server3:~#

server4.example.com:

ls -l /data/export

server4:~# ls -l /data/export  
total 257008  
-rw-r--r-- 1 root root 1048576000 2009-06-03 20:02 test.img  
server4:~#

5 Ссылки

• GlusterFS: http://www.gluster.org/
• Debian: http://www.debian.org/