Size: a a a

2020 January 16

KS

Konstantin Statsenko in VMware vSAN
Привет. Что-то давно тут тихо ) Давайте взбодримся. Есть небольшая проблема с перфоманс на новом кластере vSAN под 6.7U3b. Под кеш стоят p4800x. Прошивки/драйверы из HCL (E201LW31/intel-nvme-vmd: 1.8.0.1001-1OEM.670.0.0.8169922). На серваках тоже все прошивки актуальные. Режим энергопотребления в VMware - High Performance.  Суть проблемы - довольно высокие задержки на запись в vSAN. Создали ВМ, подключили к ней диск с vSAN (FTT=0) 200Гб. Смигрировали ВМ на хост где создался компонент (чтобы пока для теста писать локально, мимо сетки).
источник

KS

Konstantin Statsenko in VMware vSAN
результат: Random Write: (groupid=0, jobs=1): err= 0: pid=2082: Thu Jan 16 13:51:36 2020
 write: IOPS=12.9k, BW=50.3MiB/s (52.7MB/s)(3016MiB/60001msec)
   slat (usec): min=4, max=134, avg=16.51, stdev= 7.32
   clat (usec): min=291, max=9278, avg=1224.85, stdev=697.12
источник

KS

Konstantin Statsenko in VMware vSAN
при этом если создать на p4800x vmfs датастор и повторить тот же тест:
источник

KS

Konstantin Statsenko in VMware vSAN
Random Write 4k: (groupid=0, jobs=1): err= 0: pid=2208: Thu Jan 16 12:23:18 2020
 write: IOPS=227k, BW=885MiB/s (928MB/s)(51.9GiB/60001msec)
   slat (nsec): min=1394, max=60364, avg=3092.06, stdev=2490.24
   clat (usec): min=27, max=2266, avg=67.11, stdev=19.48
источник

KS

Konstantin Statsenko in VMware vSAN
это без тюна, всё по умолчанию. напомню всё делается на одной ВМ.
источник

KS

Konstantin Statsenko in VMware vSAN
где-то выше @calivm постил как он тоже тестил с FTT=0 оптан
источник

KS

Konstantin Statsenko in VMware vSAN
вот мои результаты с jobs=1 iodepth=1:
источник

KS

Konstantin Statsenko in VMware vSAN
Random Write: (groupid=0, jobs=1): err= 0: pid=2098: Thu Jan 16 14:23:47 2020
 write: IOPS=3071, BW=11.0MiB/s (12.6MB/s)(360MiB/30003msec)
   slat (nsec): min=6775, max=72948, avg=17250.46, stdev=4792.08
   clat (usec): min=200, max=12236, avg=1282.08, stdev=602.55
источник

KS

Konstantin Statsenko in VMware vSAN
1282 usec, а у него в таком же тесте было 426
источник

KS

Konstantin Statsenko in VMware vSAN
randwrite: (groupid=0, jobs=1): err= 0: pid=11762: Fri Sep 13 01:43:20 2019
 write: IOPS=2314, BW=9256KiB/s (9478kB/s)(542MiB/60001msec)
   slat (nsec): min=2639, max=41700, avg=4569.47, stdev=2446.73
   clat (usec): min=107, max=205477, avg=426.15, stdev=1661.09
источник

KS

Konstantin Statsenko in VMware vSAN
только у нас в 3 раза выше задержка почему-то
источник

KS

Konstantin Statsenko in VMware vSAN
чё где можно покрутить, посмотреть ?
источник

KS

Konstantin Statsenko in VMware vSAN
изначально смутило что на пустом AF кластере с RAID FTT=1 свежая ВМ показывала задержки на запись 5-12 мс без особой нагрузки
источник

KS

Konstantin Statsenko in VMware vSAN
просто ставились обновления на нее
источник

DG

Dmitry Gorokhov in VMware vSAN
если FTT=0 можно посмотреть DAVG для начала
источник

KS

Konstantin Statsenko in VMware vSAN
0.03 примерно показывает
источник

DG

Dmitry Gorokhov in VMware vSAN
потом можно задержки на DOM
источник

KS

Konstantin Statsenko in VMware vSAN
ну вот сейчас будем дальше рыть. может кто просто с подобным на последних билдах сталкивался
источник

DG

Dmitry Gorokhov in VMware vSAN
и плюс какие задержки показывают обычные графики перформанса на vdisk
источник

KS

Konstantin Statsenko in VMware vSAN
источник