Ну там надо смотреть конкретно, потому что многие вещи проще напрямую на commons-math делать. Что касается JavaCpp, то, как я уже сказал, только ограниченное подмножество. Плюс если будет часта передача данных в натив и обратно, то можно потерять весь перформанс. Посмотри какая именно вам нужна математика. Часть уже есть в МультиКе с нативным гейтом, а часть вообще быстрее на JVM.