тогда:
1) любой hex viewer - бинарные структурированные данные нужно смотреть правильно.
2) поиск и чтение детальной документации по jpeg, разбор формата, анализ текущих инструментов внедрения валидного кода в формат, понимание в какие блоки и структуры они их внедряют.
3) поднятие окружения, схожего с продом(ось, версия php, версия gd), и написание poc, делающего аналогичные анализируемому серверу преобразования.
4) поиск обхода с помощью вышеуказанного, и полученного опыта.