IK
Вариант с объяснением почему при той же корреляции и дисперсии градиентов обучение похожими объектами является фигнёй тоже принимается
Size: a a a
2020 January 09
АС
А как замеряешь дисперсию и корреляции градиентов?
IK
В плане?
IK
\\не очень понимаю что ответить кроме "считаю по батчу"
AP
Такое обучение наверное должно страдать переобучением?
АС
\\не очень понимаю что ответить кроме "считаю по батчу"
"Дисперсия случайной величины" и "дисперсия оценки случайной величины" – разные вещи!
IK
Артём С
"Дисперсия случайной величины" и "дисперсия оценки случайной величины" – разные вещи!
Я явно не понимаю разницу
IK
Такое обучение наверное должно страдать переобучением?
А как аккуратно проверить переобучение на Atari например?
EZ
Я явно не понимаю разницу
Оценка и сама величина это две разные величины
IK
Это в плане того что я мог намерить совсем не то из-за неправильной постановки эксперимента?
AP
А как аккуратно проверить переобучение на Atari например?
Обучить несколько раз, несколько разных игр, обоими способами и сравнить графики эпизодических ревордов
EZ
Ну в целом мне не очень ясно как соседние кадры могут быть менее коррелированными чем рандомные
IK
Обучить несколько раз, несколько разных игр, обоими способами и сравнить графики эпизодических ревордов
Сделал. На пяти средах по 3-4 сида на каждой. Во всех средах не стало хуже относительно OpenAI бейзлойнов. Или также или чуть лучше или сильно лучше
IK
Ну в целом мне не очень ясно как соседние кадры могут быть менее коррелированными чем рандомные
Если взять слишком много кадров подряд, то и правда корреляция растёт. Если много небольших последовательностей то нет
EZ
Если взять слишком много кадров подряд, то и правда корреляция растёт. Если много небольших последовательностей то нет
Конкретно между двумя соседними
AP
По тому, что ты написал вначале не очень понятно что происходит, ты слишком общо написал. А без фичи ты проводил эксперименты?
AP
Желательно проверять на одной и той же реализации
IK
По тому, что ты написал вначале не очень понятно что происходит, ты слишком общо написал. А без фичи ты проводил эксперименты?
Да, относительно них и сравнивал
AP
На одной и той же реализации?
IK
С включением и выключением фичи