Беда в том, что нет такой литературы. По крайней мере я не видел ничего хорошего и достаточно общего. Тебе народ правильно говорит. Пойми чего ты хочешь и уже по этой теме ищи литературу. Например ты хочешь разобраться в реверсе, пентестах, или каких-то более конкретных топиках типа авторизации/аутентификации. Пока не сформулируешь сам для себя это — толку не будет.