Я не множко из другой сферы, обьясните мне пожалуйста что такое компьютерная алгебра. Желательно со сравнениями.

Компьютерная алгебра – это та её часть, которая занимается символьными вычислениями. В целом, просто смысл в том, что когда решаются неопределённые интегралы, например, – это именно она

Наверное имелось ввиду что-то типа, build CAS in C++...

Есть много многотомников по всем вычисленным интегралам дифурам и т.д, это все запихивается в базу данных, а потом идёт простой поиск по этим данным при вашем вводе той или иной формулы. Если же касается численных методов то тут уже по честному идёт интерполяция сеточные аппроксимации и т.д.  По крайне мере мы так в универе писали свои программки Аля вольфрам.

Есть конечно сложности в том, что бы программа могла вводить замену переменных и приводит к уже известным интегралам(например) такие алгоритмы как раз и были очень трудные.

Насколько я понимаю, там очень большой раздел математики, как это считается, и емнип почему-то в теме нефакториальные кольца

Да в целом сами вычисления. Просто интересовало как происходит вычисление интеграла в компьютере.

Это вопрос уровня "как пишутся программы"

Задайтесь для начала вопросом проще - перед вам выражение с операциями и целыми числами, как узнать, что перед вами 1

Вольфрам уже очень давно на рынке, почему бы им и не пополнять базу, как бы в основном все следствия той же топологии во многом известны если нелезть в такие дебри как теория струн, то почему бы это все не запрограммировать, меня больше интересует как они реализовали визуальную часть именно формулы.

один товарищ, который знает в этой теме сильно больше меня (не просите объяснений) пытался разобрать примерчик

Вас интересует численное вычисление?

Нет. Символьное. Есть нетривиальный интеграл. Как программа понимает как его решать?

Как бы я выше написал как мы делали в универе, все не тривиальные сводили к замене переменных.

А вы доказывали в универе, что e^sqrt(-x^2/2) * dx требует спецфункции? :)

Не помню. Может и было

Прикольно научили машину аналитически решать, видно последовательно что она подставляет известные формулы и упрощает выражение, конечно было бы интересно глянуть их код.

Сразу скажу, что я этой темы касался очень поверхностно.
Как @webreh верно заметил, это большая и достаточно сложная область математики, и там за вечер разобраться во всём не выйдет.
Ну, простые вещи вроде дифференцирования с упрощением по правилам, конечно, можно и за вечер запрограммировать, но таких простых задач не так уж и много.
Если любопытно, то, наверное, лучше всего начать с лекций на Лекториуме.
Есть, конечно, и книги, и специализированные журналы. Но их тяжеловато читать, если до этого компьютерной алгеброй не занимался. Я вот попробовал сходу начать читать Бухбергера, не самая простая книга.
В университетах часто есть такой курс, можно поискать учебники или конспекты лекций.

Если интересны именно алгоритмы, то есть несколько CAS с открытыми исходниками. Можно читать исходники Maxima или Sympy. Вторая библиотека достаточно неплоха и при этом Python легко читать. В комментариях к исходникам авторы указывают названия алгоритмов и источники, на которые опирались.

Про вечер никто не говорит, но сабж рили заинтересовал. Пока не знаю, насколько серьёзно: надо познакомиться поближе.