EB
я бы смотрел в сторону asan под visual studio
Size: a a a
2019 December 16
EB
EB
во всяком случае в Xcode он часто спасает, когда начинается магия, включаешь address sanitazer + memory scribble и видно кто чужую память портит.
EB
думаю в Visual Studio то же самое.
M
Я отключил оптимизацию кода, теперь переменная len (которая во втором видео) не изменяется. Но проблема с размером буфера осталась, если вызывать printf.
EB
Я отключил оптимизацию кода, теперь переменная len (которая во втором видео) не изменяется. Но проблема с размером буфера осталась, если вызывать printf.
Ну так ты смотрел на EAX - это просто регистр, там может лежать что угодно. Открой стек и смотри ESI+2 это указатель на стек + сдвиг. Оттуда идет загрузка в EAX, потом push положили параметр вызова функци в стек. call вызов функции. и дальше уже проверка на 0 и далее по коду.
EB
посмотрел первое видео. там у vs крыша едет. выполнение не должно останавливаться на комментарии или пустой строке. судя по всему там какой-то рассинхрон у дебагера и исходника.
M
Вот ключи, ранее писали. Вроде бы они
o
/O2 это оптимизация?
M
Скорее всего, но в основных настроцках она отключена. Она ещё в другом месте прописана, но отключение ничего не изменило, к сожалению
o
Если нужно, я могу кинуть полный асм, но вот ещё видео. Отладка в IDA. Видно и асм, и псевдо Си. Как я понял, вот этот вызов call unk и меняет значение.
yadi.sk/i/2l3LdiLsThYx6g
yadi.sk/i/2l3LdiLsThYx6g
ты по оптимизированному коду дебажишь чтоли? там явно чтото не то
M
Я выяснил, на какое значение меняется моя переменная. В зависимости от кода значения будут разными. Если говорить о моём случае, когда значение менялось из-за вызова printf, то менялось оно на адрес команды после вызова функции (то есть на команду после call). Что-то не то творится со стеком. Значение переменной будто затирается.
M
Вместо printf я вызывал пестую функцию, которая ничего не возвращает, а на вход принимает int.
M
Вот что вышло
o
Вместо printf я вызывал пестую функцию, которая ничего не возвращает, а на вход принимает int.
Ну вот по шагам зайти в этот ver и посмотри как оно стек кораптит
M
Мне кажется, нужно что-то дописать к объявлениям внешних функций, ведь Dll_LoadFile - это функция, которая находится в вызывающей программе. Или же что-то дописать к настройкам компилятора.
o
Мне кажется, нужно что-то дописать к объявлениям внешних функций, ведь Dll_LoadFile - это функция, которая находится в вызывающей программе. Или же что-то дописать к настройкам компилятора.
Просто по шагам пройди эту функцию или ее дизасм покажи хотябы