С 1 июня Сингапур станет мировым полигоном Большого брата.
И все в мире увидят, каким ему быть через несколько лет.
Споры о границах приватности и правах Большого брата в постковидном мире можно заканчивать. Через несколько лет во всех развитых странах будет так, как уже с 1 июня в Сингапуре:
•  обязательное приложение на телефоне и/или специальный брелок, без которых закрыт вход во все людные места, за исключением маленьких магазинчиков и аптек;
•  это приложение (или брелок) отслеживает и пишет в специальную базу данные о перемещениях человека и его «контактах» (всех людях, с кем человек был в пределах 2 метров не менее 30 мин – эти два параметра настраиваемые).

Собираемые данные считаются анонимными. Однако:
1.  как только у кого-то появится положительный тест на COVID (скоро в Сингапуре это будет делаться прямо по дыханию), его данные перестают быть анонимными, и все люди, имевшие с ним «контакт», оповещаются об этом (ну и, понятное дело, «компетентные органы»).
2.  также возможна передача собираемых данных и полиции, даже при отсутствии у человека положительного теста на COVID (подробней в расследовании Кирстена Хана).  

Никто против такой системы особо не возражает, поскольку всех устраивает, что коронавируса в Сингапуре почти нет, и люди жертвуют приватностью, чтоб не болеть.

Общеизвестно, что в госинициативах добровольное легко становится обязательным, а временное - постоянным. Для этого даже не требуются политические решения на высоком уровне. Просто работают сила привычки, инерция и обычная осторожность.
А еще работает фактор «роста функциональности» - тенденции правительств и корпораций объединять отдельные IT системы, создавая тем самым нечто большее, чем функционал составных частей.

Никто ведь, например, не возмущается, что наши лица записываются и распознаются. А потом приходит полиция с наездом об участии в несанкционированной акции.
А сингапурская система еще круче. Совмещая данные о перемещениях с данными о контактах, она открывает такой ящик Пандоры, что о приватности уже можно будет забыть.
#Эпидемия  #БольшойБрат

От подписчика

​​Современный ИИ – это игрушечная собачка.
Почему ИИ сложнее, чем мы думаем
•  ИИ не знает, что снеговики не бегают, - таков печальный итог 63 лет развития ИИ
•  Машинное обучение - это современная алхимия
•  Сильный ИИ – не хайп, а фейк, и его невозможно создать
Если смешать (но не взбалтывать) эти три моих поста, украсив полученный коктейль прекрасным научным слогом и авторитетом профессора компьютерных наук ряда университетов Мелани Митчелл, - получится отличная статья «Четыре заблуждения об ИИ. Исследователи ИИ обманывают себя, утверждая будто интеллект человеческого уровня вполне достижим. И вот почему».

1.  Триумфализм (ИИ лучше нас в шахматах, го, различных компьютерных играх, некоторых типах распознавания изображений и т.д.). На самом деле, «всё это подобно утверждению, будто первая забравшаяся на дерево обезьяна продвигалась к будущей высадке на Луну. Но на самом деле, на этом пути возникает множество неожиданных препятствий».
2.  «Парадокс Маравека» (сложные для людей действия - игра в шахматы, перевод языков и высокие результаты тестов интеллекта - относительно просты для компьютеров; но то, что нам кажется легким, - подниматься по лестнице, болтать и избегать простых препятствий - сложно для компьютеров).
3.  Выдавание желаемого за действительное (все успехи ИИ в узких областях, пока непереносимы на общие человеческие способности).
4.  Ошибочное предположение, будто интеллект полностью находится в мозге, и что он в принципе может быть развоплощенным.

Про п. 4 (про который я пишу более всего) Митчелл очень четко текстует.
«Большая часть нашего интеллекта передана на внешний подряд в человеческую форму. Например, если вы прыгаете со стены, нелинейные свойства ваших мышц, сухожилий и связок поглощают удар, а ваш мозг не участвует в координации движения. Напротив, подобный прыжок робота часто требует точного измерения углов конечностей и суставов, в то время как мощные процессоры определяют, как исполнительные механизмы должны вести себя, чтобы поглотить удар… В некотором смысле, все эти вычисления выполняются морфологией наших тел, которая сама по себе является результатом миллиардов лет эволюции (еще один алгоритмическим процессом)».

Эту важнейшую фразу позволю себе проиллюстрировать простым и понятным примером – сальто, выполняемое
•  игрушечной собачкой,
•  роботом Вoston Вynamics
•  человеком.

Робот в искусстве сальто (и вычислительных процессах, стоящих за этим искусством) гораздо ближе игрушке-собачке, чем к человеку.

И это 100%но переносимо на все современные практические попытки реализации сильного ИИ.

Статья Митчелл:
- популярно
- научно
#СильныйИИ  #ВоплощенныйИнтеллект

На Aeon хороший текст с неудачным заголовком про predictive processing и соцмедиа на пальцах.

Начинается все с привычного Ги Дебора (уравнявшего наличие и демонстрацию) и инфлюенсеров, пересобирающих свое лицо для инсты и удаляющих посты, набравшие лайков меньше положенного.

В 2017 социальные платформы стали фигурировать в отчетах здравоохранительных учреждений как факторы развития депрессии, тревоги и аддикции. Одним из ответов на это, например, стало ограничение видимости лайков у постов.

Все это понятная и популярная вещь, но важно разобраться в самих когнитивных механизмах этих патологий. Архитектура некоторых платформ спроектирована как система цифровой доставки гиперстимуляторов. Такие системы в тексте предлагают рассматривать в рамках теории predictive processing (позволим себе назвать это «предсказательной обработкой»). По этой теории мозг рассматривается как «машина предсказаний» — он пытается предугадать сенсорные сигналы при взаимодействии с миром и минимизировать отклонение ожиданий от реальности. Со временем мозг выстраивает на основе шаблонов и статистических зависимостей генеративную модель, структурированное знание о мире. Точность предсказаний повышается двумя способами: обновлением самой модели или попыткой изменить окружающий мир, чтобы он лучше соответствовал модели. Так разум движется от неопределенности к определенности, и защищает нас от скрытых угроз.

Эта теория позволила иначе взглянуть на проблему патологического привыкания — одним из факторов оказывается влияние веществ на точность оценок и эмоциональный отклик, а сама патология описывается как распад отношений между субъектом и средой (т.е. берется более широкая оптика). Проще говоря, модель мира наркомана не соответствует реальному миру, но при этом употребление веществ создает ложное ощущение актуальности модели.

Ошибки в предсказании ощущаются нами на эмоциональном уровне, как и разрешение противоречий. Как «предиктивные организмы», мы ищем эти самые разрешимые ошибки — заточившие в домах людей ковид и изоляция привели к росту продаж паззлов, например. Без этого, согласно теории, мы бы просто пытались вечно избегать неопределенности (и повымерли бы в пещерах, вероятно). А вот депрессия рассматривается здесь как состояние избыточной жесткости (или дефицита пластичности) модели — любой малозначительный шум сигналов воспринимается как неразрешимая ошибка предсказания, к которой добавляется подкрепляемое собой же ожидание, что любые наши действия по приближению мира к модели обречены на провал.

Соцмедиа вызывает сильную коррозию генеративной модели, искажая образ и нас самих, и мира вокруг. Например, когда мы по 20 раз делаем селфи с разными улучшайзерами и фильтрами — это подгонка реальности под модель, и таким промышленным созданием ложных свидетельств о мире занимается условно каждый второй пользователь. Так соцмедиа расширяют пропасть между нефильтрованной оффлайновой реальностью и ее моделями. Хороший пример из текста — более половины опрошенных в одном исследовании косметических хирургов сталкивались с запросами клиентов на операции, которые могли бы повысить их привлекательность в онлайне; клиенты показывали в качестве ориентиров свои же обработанные фотографии. Мы привыкаем к своим улучшенным виртуализированным образам, наблюдаем сильный разрыв между одобрением в онлайне и реакцией на нас в оффлайне, и стремимся минимизировать это расхождение. Простой вывод из статьи: соцмедиа как гиперстимулятор имеет такое же отношение к социализации, какое порнография имеет к сексу. В то же время неопределенность вознаграждения (сколько лайков?) приближает соцмедиа к казино и гэмблингу. А стоимость компаний напрямую зависит от силы создаваемых ими привычек.