Вопрос про магию с параметрами:
Я пробую менять iterations при фиксированном LR (другие параметры по умолчанию)
При этом у меня категорически меняется результат который получается на первых 100 итерациях
Я предполагаю, что есть еще какие-то параметры которые меняются с учетом заданных lr и iterations, но не знаю какие.
Где про это читать?
Тоже встречался с этим. Устанавливаю 20 итераций - получаю один результат. Меняю 20 на 900 (число итераций), на 20 итерации результат отличается кардинально. Сид зафиксирован. Воспроизводится стабильно. Подозреваю, что какие-то параметры по умолчанию устанавливаются в зависимости от заданного числа итераций