YB
есть оно там или нет зависит от точки зрения. в реализации там вытаскивание из словаря.
Size: a a a
2016 September 05
YB
и затаскивание в словарь соответственно
NK
цифра превращается в набор весов, которые пишутся в выход первого входного слоя
NK
то есть это обычное 1hot кодирование
YB
без умножения на V?
NK
да мне не нужно никакое умножение! :) меня этот вопрос не интересует пока что
YB
"обычное 1hot кодирование" это onehot(x)
NK
мне интересно как длинный словарь подаётся на вход
YB
embedding — это V * onehot(x)
YB
onehot(x) := [ 1 if x == i else 0 for i in xrange(1000000) ]
NK
то есть всё таки там никакой магии нету и для длинного словаря нужен длинный входной слой
NK
а вектор уже потом получается
YB
"магия" — построение этой матрицы V
YB
а потом да, просто её применение
NK
да там тупо марковские цепи, какая там магия
NK
по 3 слова цепи составляются и сеть вероятности ищет
YB
нет, это не марковские цепи
NK
они это
YB
мля, у меня нет лишнего часа, чтобы объяснять тебе, почему именно ты не прав. но ты не прав, поверь мне на слово.
NK
мы за 40 минут выяснили, что насчёт 1hot я был прав :) и на том спасибо