Ну zfs вообще справится, главное ОЗУ в достаточном объёме и быстрые SSD c большим ресурсом в raid снизу.
У нас было: голова супермикро на 2 ксеонах (точно не скажу, но не самые древние), 256гб рам 13333, lsi в hba на 36 сас хгст 10тб + 2 интел 1тб ссд под зил. Компрессия выключена, atime не помню, long prefetch включён, весь остальной сетап штатно согласно рекомендациям оракла. На 20гб/с (jumbo 9k, ибо работа с большими кусками и файлами) соединением с 2гб/с клиентами в максимальной нагрузке достигали 750 МБ/с в обе стороны, что хорошо. Больше нагрузки подать не смогли)