Можно ли как-то выяснить "какие алгоритмы, в том числе математические" используются в продукте, по которому теоретически есть набор пользовательской документации и возможность получить демо доступ? 😐 Или это тот как раз тот случай, когда надо отбрехаться от бредового задания?
Не на твоём уровне. Если есть команда хакеров и математиков-хакеров, то может быть — и то если это простые алгоритмы.