VC
ну я эту по крайней мере смотрел.
Понял, просто иногда бывает путаница, если статьи вышли в одно и тоже время.
Size: a a a
2021 March 28
VC
Явно у них есть ещё что-то, ибо нелинейности в статье не видно.
VC
I
У них, как я понял, идея в том, что запрос идёт от большего разрешения к value прошлого разрешения... Интересно, советую посмотреть ещё TransGAN, они делают upsampling с помощью depth to space и используют трансформеры.
у них на выходе сначала один linear, потом двойной в виде mlp.
I
VC
а у этого только linear помоему
Посмотри код, там двойное линеар с релу.
I
I
last тоже не содержит mlp
I
это Генератор
I
attention у него и дальше конволюции обычные, для decoding аттенншеного нойза (точнее разфичеренего нойза, не важно)
I
это Генератор
В диксриминаторе также.
VC
Имел в виду, что свертки как линейный слой.
I
Имел в виду, что свертки как линейный слой.
ну так свертки с кернел сайз 4 это не ФС. Это обычный дальнейший декодинг нойза в картинку.
I
Поэтому как бы и рождаются три варианта, без, с одним как в статье САГАНА, или как в трансформерах, в декод-слое, потом еще с двойным ФС.
VC
Тоже являются линейным выражением, только с ограниченным полем действия.
I
Тоже являются линейным выражением, только с ограниченным полем действия.
понятно, но там можно убрать аттеншен, и обычный ГАН.
I
понятно, но там можно убрать аттеншен, и обычный ГАН.
убрать, значит оставить свертки как есть, только без attn
I
Тоже являются линейным выражением, только с ограниченным полем действия.
но я понял, что ты имеешь ввиду, типо они последовательны,"типо" схожий эффект.
VC
Без, думаю, работать не будет, в сагане у тебя сначала пародия на обычный линейный conv1x1, но после и более мощный transpose convolution. В обычном трансформере тоже самое, только без inductive bias локальности.
I
Без, думаю, работать не будет, в сагане у тебя сначала пародия на обычный линейный conv1x1, но после и более мощный transpose convolution. В обычном трансформере тоже самое, только без inductive bias локальности.
ну мне кажется conv там потому из-за общих причин почему conv а не linear, а трансопзнутый, потому что мы нойз с маленьким измерением выращиваем в картинку, то есть это по сути декодер для нойза, изучающий distribution фичеров картинки. А декодер это ConvolutionalTransposeNet по сути.
На счет траснформера не понял мысль, зачем там двойной слой MLP?
На счет траснформера не понял мысль, зачем там двойной слой MLP?