YB
может и учится, но вот что-то я существенных преимуществ данного решения не вижу.
Size: a a a
2017 November 13
EM
может и учится, но вот что-то я существенных преимуществ данного решения не вижу.
Эквивариантность же. Устойчивость к аффинным преобразованиям объектов из коробки без аугментаций и смс
YB
Эквивариантность же. Устойчивость к аффинным преобразованиям объектов из коробки без аугментаций и смс
1) нифига не доказано, что это работает для 2+ объектов в кадре
2) и даже для одного объекта это не доказано
3) возможна существенная потеря вычислительной мощности (из-за уменьшения передаваемой информации).
2) и даже для одного объекта это не доказано
3) возможна существенная потеря вычислительной мощности (из-за уменьшения передаваемой информации).
EM
1) нифига не доказано, что это работает для 2+ объектов в кадре
2) и даже для одного объекта это не доказано
3) возможна существенная потеря вычислительной мощности (из-за уменьшения передаваемой информации).
2) и даже для одного объекта это не доказано
3) возможна существенная потеря вычислительной мощности (из-за уменьшения передаваемой информации).
Ну почему же. Здесь мы вступаем в область споров о том, что является стопудовой валидацией. Они на мнисте тренились, а на аффнисте тестили, увидели прирост. Доказательство? Навряд ли. Evidence? Пожалуй да
FZ
Я тоже примерно так понял. Надо Семёна послушать во вторник будет.
Если это как-то online будет, можно ссылочку, пожалуйста, тоже хотел бы послушать.
EM
Семён исключительно грамотный мужик
FZ
Спасибо
EM
YB
Ну почему же. Здесь мы вступаем в область споров о том, что является стопудовой валидацией. Они на мнисте тренились, а на аффнисте тестили, увидели прирост. Доказательство? Навряд ли. Evidence? Пожалуй да
скорее это датасет где было большое переобучение, а у их сети переобучение меньше.
EM
скорее это датасет где было большое переобучение, а у их сети переобучение меньше.
Ну тебе виднее. Видишь, как ты круто во всем разобрался, а мужик несколько лет корячился
EZ
Ну тебе виднее. Видишь, как ты круто во всем разобрался, а мужик несколько лет корячился
да ладно, просто мужик то не шарит
EZ
вот и корячился
EM
вот и корячился
Ну дык. Сиплюсплюс не знает, под гпу кодить не может, на кагл не замечен. Куда ему
EM
Но если серьёзно, идея здравая, мне кажется. Просто она довольно фундаментальная, и меняет подход к обучению сеток. Поэтому обучается трудно и медленно. Думаю, скоро появятся результаты на датасетах побольше, там и прояснится
EZ
Но если серьёзно, идея здравая, мне кажется. Просто она довольно фундаментальная, и меняет подход к обучению сеток. Поэтому обучается трудно и медленно. Думаю, скоро появятся результаты на датасетах побольше, там и прояснится
ну сам Хинтон говорил, что ыполне возможно что конволюции это локальный минимум. Просто первое что заработало и после этого было многократно улучшено
EZ
Если бы капсулы придумали одновременно с конволюциями, все могло бы быть по другому)
EM
ну сам Хинтон говорил, что ыполне возможно что конволюции это локальный минимум. Просто первое что заработало и после этого было многократно улучшено
Тру. Ну реально почему свертки, а не еще какие нить вейвлеты. Я согласен, есть много преимуществ именно практических, наработан матаппарат, есть спецвычислители etc. Но вот именно с точки того, как нужно смотреть на мир, совершенно неочевидно, что именно свертки. Тут дело не в том, что надо пытаться что-то найти получше, а в том являются ли именно капсулы этим лучшим, или это ложная тревога
YB
Ну тебе виднее. Видишь, как ты круто во всем разобрался, а мужик несколько лет корячился
Много людей много над чем много лет корячится, и не всё у всех получилось. Те же RBM от Хинтона наверное в каждой сети уже должны быть.
EM
Много людей много над чем много лет корячится, и не всё у всех получилось. Те же RBM от Хинтона наверное в каждой сети уже должны быть.
не уловил мысль, сорри