AY
Size: a a a
2020 April 10
AY
Сейчас попробую
AM
Просто я бы понял, что нейронка определяет все случаи как самый встречаемый класс в ее датасете, на котором она обучилась
ну и скинь архитектуру сети, может ты там softmax какой-нибудь не добавил перед кроссэнтропией
AY
ну и скинь архитектуру сети, может ты там softmax какой-нибудь не добавил перед кроссэнтропией
Я все брал с примеров Flux на гитхабе, поэтому получилось вот это
AY
ну и скинь архитектуру сети, может ты там softmax какой-нибудь не добавил перед кроссэнтропией
model = Chain(RNN(2371, 1840), RNN(1840, length(GetRealNames())), softmax)
AY
loss(x, y) = crossentropy(model(x), y)
optimiser = ADAM(0.01)
optimiser = ADAM(0.01)
AM
model = Chain(RNN(2371, 1840), RNN(1840, length(GetRealNames())), softmax)
у тебя тут рекуррентные слой, если ты хочешь простую классификацию пока что сделать, то нужны обычные полносвязные слои (dense)
АО
У него видимо слова/предложения на входе.
АО
Текстовый классификатор скорее всего.
АО
В базовой версии его обычно на рекурентных слоях делают.
AY
у тебя тут рекуррентные слой, если ты хочешь простую классификацию пока что сделать, то нужны обычные полносвязные слои (dense)
Это да, только вот у меня работа с текстом, и в интернете много пишут, что для таких задач лучше реккурентные
АО
В сети много чего пишут ^_^
А ты пробовал примеры гитхабовские запускать? Из model zoo или как он там называется? Работало?
А ты пробовал примеры гитхабовские запускать? Из model zoo или как он там называется? Работало?
AM
Текстовый классификатор скорее всего.
как тут уже упоминалось, я не телепат)) ну и вкатываться в ds c текстов...ну такое
АО
Не, ну понемножку способности то развиваются 😊))))
AY
В сети много чего пишут ^_^
А ты пробовал примеры гитхабовские запускать? Из model zoo или как он там называется? Работало?
А ты пробовал примеры гитхабовские запускать? Из model zoo или как он там называется? Работало?
+
АО
В сети много чего пишут ^_^
А ты пробовал примеры гитхабовские запускать? Из model zoo или как он там называется? Работало?
А ты пробовал примеры гитхабовские запускать? Из model zoo или как он там называется? Работало?
Я почему спрашиваю - одно дело из кусочков собрать, другое - готовый пример запустить. Может там была какая-то маловажная на первый взгляд операция, которая была на самом деле существенной для сетки.
АО
И при переносе она могла потеряться.
АО
Я бы поэтому взял пример, убедился, что он работает и потом выкидывал бы и добавлял в него куски до тех пор пока не получил то, что тебе надо.
AY
как тут уже упоминалось, я не телепат)) ну и вкатываться в ds c текстов...ну такое
Вообще меня не интересовало машинное обучение, так как тут я профан, но мне нужно было сделать анализ одной базы. И вот решился все таки заюзать нейронку, очень интересно, что же получиться в итоге
AY
Я бы поэтому взял пример, убедился, что он работает и потом выкидывал бы и добавлял в него куски до тех пор пока не получил то, что тебе надо.
Неплохой вариант, есть одна деталь - во всех примерах для датасетов (на которых тренировать\тестировать) делают батчи