VC
Проверку нужна ли проекция эта
Size: a a a
2021 March 28
VC
Сравнение результатов с и без
I
вот там кстати дальше.
То есть зачем двойной изначально в Трансформере для НЛП более ясно.
Я бы предположил что как вы и сказали, линеар примерно для схожей цели, правда один линеар эта просто трансформация, линеарная.
То есть зачем двойной изначально в Трансформере для НЛП более ясно.
Я бы предположил что как вы и сказали, линеар примерно для схожей цели, правда один линеар эта просто трансформация, линеарная.
I
вот там кстати дальше.
То есть зачем двойной изначально в Трансформере для НЛП более ясно.
Я бы предположил что как вы и сказали, линеар примерно для схожей цели, правда один линеар эта просто трансформация, линеарная.
То есть зачем двойной изначально в Трансформере для НЛП более ясно.
Я бы предположил что как вы и сказали, линеар примерно для схожей цели, правда один линеар эта просто трансформация, линеарная.
типо aligment-a какого то, коррекции хз
I
Проверку нужна ли проекция эта
у меня есть сравнение без и двойного, без ничего особенно не делает, как вы изначально предположили, что это ошибка, даже результат FID в генераторе был хуже, но это не простой изолированный test-case.
I
у меня есть сравнение без и двойного, без ничего особенно не делает, как вы изначально предположили, что это ошибка, даже результат FID в генераторе был хуже, но это не простой изолированный test-case.
двойной дал результат аттеншена, но в моем случае слишком сильный, генератор почти наизусть выучсил картинку. Осталось с одним попробовать, наверное что-то между получится.
VC
Двойная проекция без активации посередине?
I
Двойная проекция без активации посередине?
с.
VC
Тогда это обычный трансформер
I
Тогда это обычный трансформер
ну да, один лаер декодера.
VC
У меня 5 часов ночи, поэтому, я к сожалению должен идти
I
окей, удачи, спасибо )
I
может это ошибка в оригинальной статье? смотрю во всяких овервью, чисто убрали эту последнюю конв 1х1
https://arxiv.org/pdf/1906.01529.pdf
https://arxiv.org/pdf/1906.01529.pdf
I
может это ошибка в оригинальной статье? смотрю во всяких овервью, чисто убрали эту последнюю конв 1х1
https://arxiv.org/pdf/1906.01529.pdf
https://arxiv.org/pdf/1906.01529.pdf
эта картинка больше ложится на мое понимание, которое выглядит так:
I
а у автора статьи так, и объяснение выглядит иначе.
I
может кому известно где ошибка, если имеется.
I
https://github.com/jantic/DeOldify
вот эта крутая вещь использует fast.ai у которых без linear в конце аттеншена. В топовых имплементациях в писке статьи вообще то делается без. Похоже на ошибку в оригинальной статье.
вот эта крутая вещь использует fast.ai у которых без linear в конце аттеншена. В топовых имплементациях в писке статьи вообще то делается без. Похоже на ошибку в оригинальной статье.
I
https://github.com/jantic/DeOldify
вот эта крутая вещь использует fast.ai у которых без linear в конце аттеншена. В топовых имплементациях в писке статьи вообще то делается без. Похоже на ошибку в оригинальной статье.
вот эта крутая вещь использует fast.ai у которых без linear в конце аттеншена. В топовых имплементациях в писке статьи вообще то делается без. Похоже на ошибку в оригинальной статье.
хотя тут аттеншен идет после каждой конвы, даже после последней в Unet-e.
MM
Всем привет, стоит задача сделать сегментацию спутниковых снимков, может быть кто-то может подсказать хорошую литературу для новичка в это области?