Alex has been banned! Reason: CAS ban.

Message from Eugine Nathaniel deleted. Reason: external link (?)

Мои ежедневные выплаты из майнинг пула http://prntscr.com/r22jwj от купленного пакета на 500$. Планирую усилиться до 2000$

Люди, кто-нибудь работал с jetson nano? Есть вопросики к знающим людям

Всем привет, кто может подсказать актуальную тему для написания магистерской, мое направление "разработка технологий интернета вещей и больших данных"

Natural Language Processing with PyTorch: Build Intelligent Language Applications Using Deep Learning (2019)

@pythonlbooks

Руководитель?

Недавно была сыграна удивительная шахматная партия. Играла компьютерная программа против человека: slatestarcodex.com/2020/01/06/a-very-unlikely-chess-game

Но удивителен не результат партии (шахматные программы сегодня легко обыгрывают даже чемпионов мира, хотя в этот раз победил человек), а то, что это была за программа. Это GPT-2, нейросеть, которая продолжает за тебя написанный текст. Я уже писал про эту программу и про опасения, связанные с её разработкой: t.me/mustreads/2234

GPT-2 успешно сопротивлялась в партии против человека … даже не зная о том, что играет в шахматы. Нейроcети дали тексты шахматной нотации (записи ходов латиницей, т.е. e2-e4 и т.д.) – базу из нескольких миллионов сыгранных шахматных партий. При этом программу не учили правилам шахмат, для неё все эти записи партий были просто текстом.

Если нейросети дать на изучение тексты песен Егора Летова, она через какое-то время сможет сама писать тексты, похожие на песни «Гражданской обороны» (это уже делал Яндекс: music.yandex.ru/artist/4445922). А если нейросети дать тексты шахматных партий, она начинает генерировать достаточно убедительные тексты шахматных партий. В итоге программа проиграла ферзя, но до середины партии достаточно неплохо сопротивлялась. Видимо, если её подольше пообучать, она станет ещё сильнее.

По-моему, это отличная иллюстрация того, как ИИ может превзойти человека в какой-то сфере, особо не напрягаясь, и расширить свои способности в неожиданном для нас направлении. Лишний повод напомнить вам о серьёзности рисков, связанных с развитием не дружественного человеку супер-ИИ. Скоро сделаю про это ролик.

Вот инструкция для тех, кто хочет тоже сыграть партию с GPT: colab.research.google.com/drive/12hlppt1f2N0L9Orp8YCLgon6EF5V3vuR

P.S. Попробуйте написать короткую фразу на английском для GPT-2 и предложите нейросети продолжить текст за вас по ссылке: talktotransformer.com (сегодня этот сайт с российского IP у меня почему-то недоступен – возможно, они так борются с генерацией фейк-ньюз русскими ботами – но включите VPN с IP любой другой страны и всё заработает)

P.P.S. Аналогичная программа доступна на русском: text.skynet.center

P.P.P.S. На тему противостояния ИИ и людей за шахматной доской рекомендую всем любителям шахмат материал про матч между топ-5 гроссмейстером мира Хикару Накамурой и одной из сильнейших программ Комодо, в котором компьютер давал фору гроссмейстеру в каждой партии: en.chessbase.com/post/wsj-on-odds-chess-match-nakamura-vs-komodo (здесь можно почитать про матч и посмотреть все партии).

В первой партии это была фора в пешку, во второй – в пешку и ход, в третьей – в качество (ладья за слона), в четвёртой – фора в 4 хода. В итоге человек не выиграл ни одной партии и проиграл матч. Я в детстве занимался шахматами и был КМСом – так вот, местами было больно и обидно за гроссмейстера, которого переигрывали, как будто Леонель Месси играет в футбол против школьника со двора.

#техно_мастрид

Коллеги, кто идёт на Opentalks AI и как билеты покупали, если не секрет? Я пока смог только промокод изпользовать, и сэкономил 4000₽.

Message from Johnson Theresa deleted. Reason: external link (?)

Добрый вечер. вопрос: кто-нибудь сталкивался с идеей мета-обучения и few-shot learning? есть что-то почитать на эту тему?

Active learning

Сеть спрашивает только то в чем не уверена

А еще lucky ticket

Тренируешь 10-100.. сетей паралельно. Выбираешь ту что на тестовом показывает лучший результат. начальные параметры инициации сети сильно влияют

а разве идея не в том, чтобы среди этих 100 сетей результат выбирался бы нейронкой?

вот поэтому я и не понимаю, чем оно отличается от "обучения с учителем"

Это и есть обучение с учителем

Но его дюжина видов. Этот способ требует х100 меньше времени учителя-человека чем наивный подход (разметка данных случайно)

Конкретно в данном случае выбирает вообще тупая функция сравнения результата.

Если проблема ограничена тем что человек не может нарисовать правильный ответ, но может определить видя его - то имеет смысл смотреть в сторону GAN и всех прочих методов где одна нейронка тренирует другую.

Это еще уменьшает время человека-учителя для сложных проблем в х100, но увеличивает требования к машинному времени в х10000 примерно