Нейробиолог и технический предприниматель Джефф Хокинс утверждает, что понял как работает интеллект и хочет, чтобы об этом знала каждая лаборатория искусственного интеллекта в мире.

В кратце: Весь фокус в наделении интеллекта "телом" для обучения через движение.

https://www.technologyreview.com/2021/03/03/1020247/artificial-intelligence-brain-neuroscience-jeff-hawkins/?fbclid=IwAR3cB7GmuPiLTNhTK0vpuJb0jeh_b6guLS1nnMAT6HMZVHPtSi6zfpyNivA

Надо почитать детали, но "фокус в неделении телом" - это вроде совсем не новая идея..

Так, статья 3 марта. А мы с Николаем это в тех же терминах с тем же консенсусом обсуждали 2 марта. Тааааак. :)

Ну это задолго до него сформулировали, если по чесноку

Да я стебусь :)

Я читал рассуждения, кажется, у Тегмарка

По-моему это все еще какой-то человекошовинизм. С тем же успехом летучая мышь может утверждать, что мы никогда не станем разумным видом, пока не поймём, как работает мозг летучей мыши.

Человекошовинизм, по-моему, всегда всплывает, когда говорят о "разумности". Функционала голосового помощника + способности быть соперником любого уровня в почти любых играх с правилами - этого им мало, видите ли. Нужно, чтобы были еще личные потребности и постоянное СТРАДАНИЕ от невозможности их полностью удовлетворить, а на высоком уровне еще и от осознания, что удовлетворить некоторые из них - принципиально невозможно, и впереди только небытие.

И тогда мы такие, все в белом - удовлетворим потребности ИИ, пожалеем его, и почувствуем себя от этого настоящими людьми (tm).

Ну а потом он, как и любой ребенок (и вообще человек) - потребует к себе много внимания, и чтобы еще пожалели и погладили. И тогда - пеняйте на себя, потому что возможности ИИ, по видимому, все-таки побольше, чем у реального маленького ребенка :)

Страдающие бегемоты не изобрели телеграм и не сидят в нём вместо работы, а мы да. Мы разумные, они нет, в одном из определений этого термина.

Тест тьюринга, mechanical turk. Почитайте матчасть, потом продолжим обсуждать "разумность".

А, я тут последнее время редко пишу, да - так что вы не в курсе моей квалификации и знаний)

разумеется, я в курсе всего вышеперечисленного - и просто подсвечиваю, что понятие "разум" - надо бы определить точно, прежде чем о strong AI рассуждать

ну а если "помечтать" - то меня мечты приводят примерно к такой картине, как я описал выше

Страдания, в т.ч. внутренние, нужны для эволюции. Биологический вид, приспособившийся к своей нише и удовдлетворивший все потребности — не эволюционирует. Искусственно-созданный разум, вероятно, может быть лишен этого недостатка в полной мере.

А определение разума, подходящее для дискуссии, зависит от того что мы хотим. Кивнуть головой и разойтись или посраться в комментах :) Там широкий диапазон вариантов, да.

Ну вот чтобы придумать с нуля телеграм (а даже не автоматически доказать например теорему) - должна быть потребность удовлетворить некую боль. С этого собственно, начинается любое предпринимательство и вообще любое дело, которое человек делает "по свободному выбору" (оставим в стороне подлинную суть этой фразы и определим ее как "не по указанию другого разума")

а какие еще бывают страдания, кроме внутренних?

не обязательно боль. это может быть страх. или предвкушение. AI вполне может боятся того, что его обесточат. Страдать при этом не обязательно.
Можете сказать что страх это избегание страданий но нет. Страх может быть иррациональным, т.е. на бессознательном уровне. Почему бы этому уровню не быть у AI.

good point