IDA pro, Ghidra, Cutter. Тут уже на усмотрение. Мне гидра очень запала в душу, актуальная литература есть, на сайте курсы, довольно не плохой декомпилятор, дебаггер(начиная с 10b версии, в зависимости от платформы, либо на винде WinDbg, либо gdb на линухе).
Тулзы же зависят от платформы и решаемых задач.