Я тестил Ceph на 45 нодах с 1 nvme на каждой, 10g сеть. Гонял стресс тесты. В итоге пришлось от него отказаться, в виду того что osd очень сильно потребляют процессорного времени при записи начиная с какого-то момента CPU уходил в 100% и Ceph переставал отвечать на хоть какие-то запросы