Size: a a a

2019 February 19

SS

Sergey Shipilov in VMware vSAN
но при проведении экспериментов явно видно что при старте vMotion ошибки
1. сбрасываем счетчики на портах
2. руками vMotion одной ВМ
3. увеличение счетчиков ошибок
если на несколько дней DRS в Manual - то ошибок не прибавляется совсем
источник

VA

Vadim Aleksandrov in VMware vSAN
У нас в моменты увеличения счетчика vMotion 100% не использовался и при текущей конфигурации под vMotion и под vSAN будут использоваться разные коммутаторы. Discarded как раз растет на том, где vSAN
источник

N

Nikolay Kulikov in VMware vSAN
Vadim Aleksandrov
Небольшой вопрос, возможно кто-то сталкивался с таким поведением.

Есть небольшой гибридный кластер vSAN из 7 нод.
В качестве транспорта на каждой ноде используется Mellanox ConnectX-3 Pro 2x10Gb под трафик виртуальных серверов и ConnectX-3 Pro 2x40Gb под трафик vSAN.

Также используется два коммутатора Mellanox SX1012.
На портах коммутатора, которые используются для передачи трафика vSAN наблюдается увеличение счетчика Inbound packets discarded. При этом на портах, через которые идет трафик виртуальных серверов этот счетчик не меняется.
А на сколько увеличивается-то?
источник

VA

Vadim Aleksandrov in VMware vSAN
На 8-10 с периодом раз в час для каждого порта нод. Это не критично, но мне просто интересна причина.
источник

N

Nikolay Kulikov in VMware vSAN
А нагрузка большая на сеть? Сколько Gb/s утилизация на портах?
источник

VA

Vadim Aleksandrov in VMware vSAN
Nikolay Kulikov
А нагрузка большая на сеть? Сколько Gb/s утилизация на портах?
На самом порту, на котором идет увеличение счетчика 600-800 Mbit/s на других портах от 600 Mbit/s до 4,5 Gbit/s
источник

N

Nikolay Kulikov in VMware vSAN
Не очень много. Такое иногда бывает, если портовый буфер заполняется и не успевает пересылать пакеты. Но это должно вылезать при намного большей нагрузке
источник

N

Nikolay Kulikov in VMware vSAN
А flow control включён?
источник

VA

Vadim Aleksandrov in VMware vSAN
Nikolay Kulikov
А flow control включён?
Выключен на всех портах. Вот про буфер не могу найти в разрезе Mellanox SX1012. Пока листаю документацию и способа посмотреть информацию по буферам не нашел. Листаю дальше
источник

N

Nikolay Kulikov in VMware vSAN
Там счётчик rx_discards_phy или rx_fifo_errors показывается?
источник

VA

Vadim Aleksandrov in VMware vSAN
Nikolay Kulikov
Там счётчик rx_discards_phy или rx_fifo_errors показывается?
vsan-sw02 [standalone: master] (config) # show interfaces ethernet 1/7 counters

Rx:
 40018954563           packets
 40018945793           unicast packets
 163                   multicast packets
 8607                  broadcast packets
 174150151342836       bytes
 68                    packets of 64 bytes
 13433537718           packets of 65-127 bytes
 5730893389            packets of 128-255 bytes
 3661431               packets of 256-511 bytes
 27068076              packets of 512-1023 bytes
 38192639              packets of 1024-1518 bytes
 20786958876           packets Jumbo
 1398254               discard packets
 0                     error packets
 0                     fcs errors
 0                     undersize packets
 0                     oversize packets
 68                    pause packets
 0                     unknown control opcode
 0                     symbol errors

Tx:
 40957595227           packets
 40936870559           unicast packets
 8064666               multicast packets
 12660002              broadcast packets
 193070442820430       bytes
 2                     discard packets
 0                     error packets
 0                     hoq discard packets
 0                     pause packets
 958585                TX wait
 766                   TX wait useconds
 0                     queue depth TC0
 0                     queue depth TC1
 0                     queue depth TC2
 0                     queue depth TC3
источник

BN

Boris Neiman in VMware vSAN
Коллеги, добрый день!
источник

BN

Boris Neiman in VMware vSAN
Борис Нейман - Mellanox Russia
источник

BN

Boris Neiman in VMware vSAN
попробуйте команду: "show interfaces ehternet 1/7 counters discard" (я правда не уверен что сработает на старом чипе..
источник

VA

Vadim Aleksandrov in VMware vSAN
Boris Neiman
Борис Нейман - Mellanox Russia
Добрый день. Спасибо вам большое за проявленный интерес.

К сожалению на SX1012 у командны show interfaces ethernet X counters нет опции discard, только priority
источник

BN

Boris Neiman in VMware vSAN
а какая версия MLNX-OS?
источник

VA

Vadim Aleksandrov in VMware vSAN
Boris Neiman
а какая версия MLNX-OS?
Product name:      Onyx
Product release:   3.6.8010
источник

BN

Boris Neiman in VMware vSAN
странно. по мануалу нет инфы что это только на новых чипах и вроде поддерживается с 3,6,6102.
источник

BN

Boris Neiman in VMware vSAN
а если попробовать ее силой забить "show interfaces ethernet 1/7 counters discard" что отвечает?
источник

VA

Vadim Aleksandrov in VMware vSAN
Boris Neiman
а если попробовать ее силой забить "show interfaces ethernet 1/7 counters discard" что отвечает?
vsan-sw02 [standalone: master] # show interfaces ethernet 1/7 counters discard
% Unrecognized command "discard".
Type "show interfaces ethernet 1/7 counters ?" for help.
источник