У нас так было, дочерний процесс на плюсах, который порождает свои треды и параллелит свои задачи. А итог сливает в ноду, которая занимается только тем, что получает от клиентов запросы, переправляет их, ждёт ответ и отдаёт его клиенту
Вполне устойчивая, надёжная и удобная схема