Size: a a a

RL reading group

2020 April 23

SK

Serge K in RL reading group
источник

DN

Dmitry Nikulin in RL reading group
Оно же вроде умерло ещё лет пять назад. В ридми есть ссылка на hyperboria ("largest cjdns network"), сайт которой не обновлялся с 2015
источник

SK

Serge K in RL reading group
Dmitry Nikulin
Оно же вроде умерло ещё лет пять назад. В ридми есть ссылка на hyperboria ("largest cjdns network"), сайт которой не обновлялся с 2015
Оно живо, дошло до какой-то стабильности в плане разработки, но чуваки живут в irc и с "маркетингом", по всей видимости, есть... сложности
источник

SK

Serge K in RL reading group
Dmitry Nikulin
Оно же вроде умерло ещё лет пять назад. В ридми есть ссылка на hyperboria ("largest cjdns network"), сайт которой не обновлялся с 2015
Мне кажется, может оказаться не-бесполезным (или хотя бы интересным) начать собирать подсеть в Москве)
источник

SK

Serge K in RL reading group
Хотя бы в overlay формате
источник

MD

Michael Diskin in RL reading group
источник

MD

Michael Diskin in RL reading group
Или сколько там ещё итераций mesh сетей
источник

MD

Michael Diskin in RL reading group
Serge K
Мне кажется, может оказаться не-бесполезным (или хотя бы интересным) начать собирать подсеть в Москве)
При этом да, это интересно. Но хочется разумного комьюнити (в мире и Москве) и понятно развивающегося проекта
источник

SK

Serge K in RL reading group
Yggdrasil немножко другая тема, он иерархичен и позиционирует себя как чисто-overlay сеть
источник

SK

Serge K in RL reading group
CJDNS умеет работать как overlay над Internet, но принципиально надеется его совсем заменить (и умеет работать поверх других транспортов, в первую очередь wifi в p2p режиме)
источник

SK

Serge K in RL reading group
Michael Diskin
При этом да, это интересно. Но хочется разумного комьюнити (в мире и Москве) и понятно развивающегося проекта
Глобальная пандемия и всемирный переход на удалёнку — отличное время чтобы начать это коммьюнити строить)
источник

DN

Dmitry Nikulin in RL reading group
Vadim Liventsev
spare your champagne for number 1024
https://xkcd.com/1000/ если что)
источник

SS

Sergey Slotin in RL reading group
На трансляции немного говорили про сжатие градиентов для обучения по сети.

> https://arxiv.org/pdf/1712.01887.pdf
Вот тут аккумулируют градиенты локально и обмениваются и по факту применяют только те обновления, которые больше заданной константы, кодируя их разреженно, а затем используют нехитрые математические костыли, чтобы это всё оставалось корректным. Удалось обучить, например, первый дипспич без потери точности, используя в среднем 0.74MB на обмен градиентами вместо 488MB (т. е. в 650 раз меньше данных по сети так нужно гонять, и здесь идея про learning@home уже перестает казаться бредовой).

Интересно, как такое олредьюсить, ведь при суммировании двух спарсовых векторов их представление может в два раза увеличиться.
источник

SS

Sergey Slotin in RL reading group
Ну и в целом что делать, если у тебя много разреженных градиентов (от эмбеддингов, например).
источник
2020 April 25

VA

Vadim Andronov in RL reading group
А будет где-то рестрим ICLR?) А то 100 бачей за трансляцию платить жаба душит
источник

MP

Monty Ponty in RL reading group
Vadim Andronov
А будет где-то рестрим ICLR?) А то 100 бачей за трансляцию платить жаба душит
Неплохая идея
источник
2020 April 26

DN

Dmitry Nikulin in RL reading group
Уважаемые коллеги, 
приглашаем Вас посетить семинар "Sample Efficiency in RL".

Чтобы добиться хороших результатов в любой из областей машинного обучения, нужно большое количество данных, например, для обучения агента, который может выполнять сложные задачи, получая на вход лишь набор пикселей, необходимо несколько миллионов взаимодействий со средой. Однако, во-первых, это требует много времени, а во-вторых, иногда нельзя позволить слишком много взаимодействовать со средой, например, когда агент обучается в реальном мире, а не на симуляции.
На семинаре будут рассмотрены существующие подходы к уменьшению количества взаимодействий со средой в RL, а также SOTA алгоритм Contrastive Unsupervised Representation for Reinforcement Learning, вобравший в себя идеи из разных областей машинного обучения.

Докладчик: Владислав Мосин.
Язык доклада: русский.
Дата и время: 27-е апреля, 18:30-20:00.

Место: https://zoom.us/j/721102369
пароль 024498

Видео с предыдущих семинаров доступно по ссылке: http://bit.ly/MLJBSeminars
источник
2020 April 29

c

cydoroga in RL reading group
Всем привет!
Завтра пройдет одиннадцатая лекция курса по Advanced RL в виде трансляции.
Запись трансляции выложим на ютуб.

В четверг
В 19:00
Ссылку на трансляцию мы выложим в чат перед трансляцией.

На лекции выступит Дмитрий Никулин @Erring

Тема: Multitask & Transfer RL

Дмитрий сделает обзор Multitask & Transfer RL. Поговорим о том, что это такое и какие задачи там решают, какие там бывают бенчмарки, и пройдёмся по списку статей из OpenAI Spinning Up.

Подключайтесь, будет интересно!

И, пожалуйста, зарегистрируйтесь по ссылке.
Мы вас все-равно пустим, и вам все-равно рады, просто интересно 😌
https://docs.google.com/forms/d/e/1FAIpQLSd18PGkZuOqkWThJhmNxnmiSVFicnH4YwLVTCOkEkVQV6ZIDg/viewform

ПС
Вопросы во время трансляции предлагается задавать через микрофон или чат Zoom.
Чтобы не возникало лишнего побочного шума и неразберихи, огромная просьба следить за тем, что ваш микрофон выключен во время трансляции, если вы в данный момент не задаете вопрос :)
источник
2020 April 30

c

cydoroga in RL reading group
Ссылка на трансляцию
https://zoom.us/j/93803541532?pwd=Y3l3YTZFSS9ab0g1M2ZEQ2tZZytYQT09

Начнем в 19:05 - 19:10
источник

AS

Artyom Sorokin in RL reading group
слайды
источник