Size: a a a

SDS и Кластерные FS

2019 May 12

IH

Ihor Horhul in SDS и Кластерные FS
kvaps
на следующей неделе опубликую вторую
О чем будет?
источник

GG

George Gaál in SDS и Кластерные FS
Anton
А почему не просто drbd  раскатать?
потому что раньше дрбд был дно
источник

k

kvaps in SDS и Кластерные FS
Ihor Horhul
О чем будет?
Про linstor и про возможность его использования с OpenNebula
источник

k

kvaps in SDS и Кластерные FS
Я написал драйвер linstor_un, буду про него рассказывать
источник

GG

George Gaál in SDS и Кластерные FS
источник
2019 May 13

AP

Andrew P in SDS и Кластерные FS
Коллеги, есть вопрос. Нужно сделать небольшое отказоустойчивое хранилище, объем около 500GB. Сервисы которые его используют живут на серверах в контейнерах, в качестве псевдо-оркестратора используется docker-compose. Необходимо чтобы это было единое файловое пространство, разделяемое всеми контейнерами. Есть 3 ноды под хранилище, сеть задублирована через bonded NIC. Я когда-то такое делал на DRBD8, раздача по NFS, под управление стека на Pacemaker. Сейчас я планирую это делать на DRBD9+NFS, управлять тем же Pacemaker. Есть ли какие-то лучше решения?
источник

G

George in SDS и Кластерные FS
kvaps
Вспомним прошлое, когда во всю был популярен DRBD8 и стандартное его использование подразумевало создание одного большого блочного устройства, и нарезание его на много маленьких кусочков, при помощи того же LVM. Эдакий mdadm RAID-1 но с репликацией по сети.

Такой подход не лишен недостатков, и поэтому с приходом DRBD9 принципы построения хранилища поменялись, теперь под каждую виртуалку создается отдельное DRBD-устройство.

Подход с независимыми блочными устройствами позволяет лучше утилизировать пространство в кластере, а так-же добавляет ряд дополнительных возможностей. К примеру для каждого такого устройства можно определять количество реплик, их расположение и индивидуальные настройки. Их легко создавать/удалять, делать снапшоты, изменять размер, включать шифрование и многое другое. Стоит заметить что DRBD9 так же поддерживает кворум.
У меня ещё на тестах 1 блочное устройство не особо паралеллилось на диски, то есть 1 блочное на 40 дисков в 1 ядро упрётся. Решение - резать на разные устройства.
источник

k

kvaps in SDS и Кластерные FS
George
У меня ещё на тестах 1 блочное устройство не особо паралеллилось на диски, то есть 1 блочное на 40 дисков в 1 ядро упрётся. Решение - резать на разные устройства.
о том и речь
источник

k

kvaps in SDS и Кластерные FS
А, я не так понял, да, это действительно может быть проблемой
источник

k

kvaps in SDS и Кластерные FS
а какая версия drbd была?
источник

G

George in SDS и Кластерные FS
kvaps
а какая версия drbd была?
9, точнее с наскоку не скажу
источник

k

kvaps in SDS и Кластерные FS
понял, главное что не 8
источник

G

George in SDS и Кластерные FS
так что по умолчанию я бы рекомендовал собирать 1 drbd device из 2х дисков, и уже при желании выше с помощью lvm/zfs их объединять по надобности (привет linstor)
источник

G

George in SDS и Кластерные FS
мне в linbit не понравилось, что при запуске linstor они документацию о ручной настройке drbd9 куда-то закопали, долго возился в итоге. Не приятно.
источник

GG

George Gaál in SDS и Кластерные FS
George
мне в linbit не понравилось, что при запуске linstor они документацию о ручной настройке drbd9 куда-то закопали, долго возился в итоге. Не приятно.
нет ли в этом происков маркетастов?
источник

G

George in SDS и Кластерные FS
George Gaál
нет ли в этом происков маркетастов?
не происки, а целенаправленные действия, тащемта
источник

k

kvaps in SDS и Кластерные FS
George
мне в linbit не понравилось, что при запуске linstor они документацию о ручной настройке drbd9 куда-то закопали, долго возился в итоге. Не приятно.
источник

k

kvaps in SDS и Кластерные FS
просто у них одна дока на всё - не удобно
источник

G

George in SDS и Кластерные FS
Из того, что вспомню:
- всё, что реализуется в linstor, в этой доке уже нет, я находил обрывки для drbd8 (конкретно - ha через pacemaker)
- раздел про производительность особо тоже не поможет, 2 главных момента для меня - нужно дробить на устройства (выше описал уже), и руками тюнить скорость resilver, тоже не особо очевидно. То есть вот вроде ман для запуска, но то, что получится - для прода не годно
источник

G

George in SDS и Кластерные FS
ИМХО ессно)
источник