Size: a a a

Клуб веселых и задумчивых

2021 March 05

s

salt in Клуб веселых и задумчивых
Mike Drepin
не обязательно боль. это может быть страх. или предвкушение. AI вполне может боятся того, что его обесточат. Страдать при этом не обязательно.
Можете сказать что страх это избегание страданий но нет. Страх может быть иррациональным, т.е. на бессознательном уровне. Почему бы этому уровню не быть у AI.
"Можете сказать что страх это избегание страданий но нет. "

Ну, я не готов конечно дать определение слова "страх" (потому что оно тоже субъективно) - но покопавшись у себя в голове, исключений из "избегания страданий" не нашел. Скука - это тоже страдание, и еще какое. Недоебит - страдание. Все, связанное с эго и ЧСВ - страдание. Необходимость обращать внимание на людей из вежливости - страдание. Необходимость игнорировать людей, чтобы поработать - страдание.

И все это страдание порождает страх. А под "иррациональным страхом", вы наверное, имеете ввиду тревогу, тревожное расстройство. Но это просто систематический страх, разрушающий психику - и у хорошего психотерапевта, иррациональный страх вполне себе превращается в рациональный разговор о перенесенной травме.
источник

MD

Mike Drepin in Клуб веселых и задумчивых
Иррациональный страх это боятся упасть с обзорной площадки со стеклянным полом, находясь при этом в полной безопасности.
источник

MD

Mike Drepin in Клуб веселых и задумчивых
А по теме: я вот утром встаю потому что мне хочется закодить сегодня ещё одну часть мой охренительной системы. А не потому что боюсь увольнения :) В чем моя боль?
источник

s

salt in Клуб веселых и задумчивых
Mike Drepin
Иррациональный страх это боятся упасть с обзорной площадки со стеклянным полом, находясь при этом в полной безопасности.
Ну то есть - боязнь того, что в воображении, правильно?
Но ведь все будущее, по отношению к настоящему, обладает этим свойством

А полной безопастнсти в квантовом мире не бывает)))
источник

s

salt in Клуб веселых и задумчивых
Mike Drepin
А по теме: я вот утром встаю потому что мне хочется закодить сегодня ещё одну часть мой охренительной системы. А не потому что боюсь увольнения :) В чем моя боль?
Чужая голова - потемки) Но у меня обычно в терминах страхов, это описывается "страхом упущенной возможности" - сделать все офигенно в потоке, когда настроился. Страх, что вот сейчас кто-нибудь обязательно этот настрой сорвет - так что надо приступать к делу срочно!
источник

MD

Mike Drepin in Клуб веселых и задумчивых
Я останусь при мнении что есть мотивации, не основанные на страхе
источник

s

salt in Клуб веселых и задумчивых
Mike Drepin
Я останусь при мнении что есть мотивации, не основанные на страхе
Мне очень хотелось бы получить такую уверенность, чесслово. Вспомнить, как вообще мир выглядел в детстве, и как было круто, когда не надо было искать никакую мотивацию - она просто была и все :)
источник

N

Natalia in Клуб веселых и задумчивых
Mike Drepin
Я останусь при мнении что есть мотивации, не основанные на страхе
Точно есть :) Голод, жажда как минимум) С более высокоуровневыми  мотивациями сложнее, но у некоторых животных хорошо развито исследовательское поведение, хотя тут вопрос мотивации отдельный.
источник

MD

Mike Drepin in Клуб веселых и задумчивых
Голод и жажда можно натянуть на страх смерти. Вот исследовательское поведение, считаю, да.
источник

EB

Evgenia Bogomolova in Клуб веселых и задумчивых
Исследовательское поведение дает индивиду преимущество в межвидовой и внутривидовой конкуренции, то есть повышает его шансы на выживание)) то есть как базу здесь тоже можно рассматривать страх смерти))
источник

EB

Evgenia Bogomolova in Клуб веселых и задумчивых
Ворона, которая полезет в мусорку, имеет большие шансы выжить, чем та, которая не полезет)
источник

N

Natalia in Клуб веселых и задумчивых
Mike Drepin
Голод и жажда можно натянуть на страх смерти. Вот исследовательское поведение, считаю, да.
Это какое-то упрощение и сильная натяжка. Страх - это всё-таки одна реакция, голод - несколько другая. Они могут пересекаться, но это не тождественные понятия
источник

EB

Evgenia Bogomolova in Клуб веселых и задумчивых
Тут еще у нас пересекаются понятия мотиваций и инстинктивных реакций
источник

EB

Evgenia Bogomolova in Клуб веселых и задумчивых
Мотивации - это все же производные за счет высшей нервной деятельности, но на мой взгляд, замешаны они в глубине своей все равно на базовых инстинктах, которые по сути сводятся все к одному - выживание индивида и вида
источник

EB

Evgenia Bogomolova in Клуб веселых и задумчивых
Кстати, люди в состоянии депрессии как раз демотивированы, они не хотят ничего, зато их посещают суицидальные мысли, если не активного толка, то пассивного ("лягу на диван, не буду шевелиться и есть, и умру, исчезну"). То есть отсутствие страха смерти сопровождается отсутствием мотиваций
источник

s

salt in Клуб веселых и задумчивых
Evgenia Bogomolova
Мотивации - это все же производные за счет высшей нервной деятельности, но на мой взгляд, замешаны они в глубине своей все равно на базовых инстинктах, которые по сути сводятся все к одному - выживание индивида и вида
Вот, возвращаясь к теме ИИ, нам в текущих ИИ-наработках фундаментально не хватает этой "высшей нервной деятельности". И на самом деле, вопрос ведь не философско-лингвистический (как определить понятие "страх"), а технический - как формализовать детерминированный алгоритм для ИИ, чтобы он мог успешно "обманывать" человека, изображая эту высшую нервную деятельность. (обманывать - в кавычках, потому что такой ИИ уже будет полноценным философским зомби)

Как будет выглядеть в коде _страх_ выключения для ИИ?
Как будет выглядеть "время", и соответственно "страх смерти", "страх не успеть" - в коде ИИ?
Интересно подискутировать об этом - я задумывался об этом всю жизнь, занимаясь программированием, но эта задача похожа на поиск черной кошки в темной комнате.

Ведь формально, для программы или робота из WestWorld, выключение - это просто гибернация/пробуждение, и это не страшно. Я бы тоже смерти не боялся, если бы точно знал, что информация, составляющая сумму моего опыта - никуда не потеряется (не рассосется в черных дырах со временем).
источник

MD

Mike Drepin in Клуб веселых и задумчивых
Как будет выглядеть "время", и соответственно "страх смерти", "страх не успеть" - в коде ИИ?
Параметры целевой функции
источник

N

Natalia in Клуб веселых и задумчивых
источник

EB

Evgenia Bogomolova in Клуб веселых и задумчивых
salt
Вот, возвращаясь к теме ИИ, нам в текущих ИИ-наработках фундаментально не хватает этой "высшей нервной деятельности". И на самом деле, вопрос ведь не философско-лингвистический (как определить понятие "страх"), а технический - как формализовать детерминированный алгоритм для ИИ, чтобы он мог успешно "обманывать" человека, изображая эту высшую нервную деятельность. (обманывать - в кавычках, потому что такой ИИ уже будет полноценным философским зомби)

Как будет выглядеть в коде _страх_ выключения для ИИ?
Как будет выглядеть "время", и соответственно "страх смерти", "страх не успеть" - в коде ИИ?
Интересно подискутировать об этом - я задумывался об этом всю жизнь, занимаясь программированием, но эта задача похожа на поиск черной кошки в темной комнате.

Ведь формально, для программы или робота из WestWorld, выключение - это просто гибернация/пробуждение, и это не страшно. Я бы тоже смерти не боялся, если бы точно знал, что информация, составляющая сумму моего опыта - никуда не потеряется (не рассосется в черных дырах со временем).
Да, интересный вопрос. В научной фантастике роботы с ии иногда боятся полного уничтожения) не помню, где, но это попадалось.
Моделировать "истечение времени, иссякание ресурса" можно чем-то программным по типу теломер в живых организмах. Но вот как внушить ии, что он исчезнет с лица земли безвозвратно, непонятно. Для этого у него должна быть некая индивидуальность и самоценность.
источник

s

salt in Клуб веселых и задумчивых
Рефлексируя, что означает "страдание" в моей голове с т.з. дальнейшей мотивации, мне кажется, что ключ - в неоправданных ожиданиях.

Я страдаю обычно тогда, когда мои ожидания (читай - прогнозы) - оказываются не соответствующими реальности. Но кажется, что этот подход в нейросетях уже применяют, и это как раз дискриминатор в GAN.

Но чет каменный цветок вроде не выходит так.
источник