Size: a a a

2020 June 08

ss

salem salem in Philosophy
Круто

Можно предположить, что идеальный мир может быть тот, в котором у людей не будет человеческого сознания, их "сложных" языков и тп

Если некому улучшать, значит и улучшить нельзя
источник

م

مفتاح العلم... in Philosophy
salem salem
Круто

Можно предположить, что идеальный мир может быть тот, в котором у людей не будет человеческого сознания, их "сложных" языков и тп

Если некому улучшать, значит и улучшить нельзя
Тогда надо уточнить - улучшать изнутри, или касательно стороннего наблюдателя.

Можно же представить какое нибудь племя, которое себе живет и думает что все идеально у них - не задумывается что можно что то улучшить. А ты приходишь такой, даришь одному зажигалку и ему не нужно уже мучиться с добыванием огня - и другие тоже хотят зажигалку.
источник

ss

salem salem in Philosophy
مفتاح العلم
Тогда надо уточнить - улучшать изнутри, или касательно стороннего наблюдателя.

Можно же представить какое нибудь племя, которое себе живет и думает что все идеально у них - не задумывается что можно что то улучшить. А ты приходишь такой, даришь одному зажигалку и ему не нужно уже мучиться с добыванием огня - и другие тоже хотят зажигалку.
Я думаю что из нутри достаточно.

Объективно улучшить до идеала уже либо не получится, как сказал Pavel, либо это слишком сложный вопрос
источник

AK

Alexander Kozaev in Philosophy
Ещё проблема локальности экстремума на функции качества
источник

ss

salem salem in Philosophy
Alexander Kozaev
Ещё проблема локальности экстремума на функции качества
Ну это и есть вроде отделение субъективного идеала от объективного
источник

AK

Alexander Kozaev in Philosophy
Можно и оттуда посмотреть, да
источник

AK

Alexander Kozaev in Philosophy
Кароч, проблема в словосочетании «объективно улучшить», именно она все тезисы перемещает из физического мира в математический
источник

ss

salem salem in Philosophy
Pavel Zlatovratskii
не существующий :)
А как дела обстоят с ИИ? Можно в кратце, какая основная проблема самообучаемого уневерсального ИИ?
источник

AK

Alexander Kozaev in Philosophy
salem salem
А как дела обстоят с ИИ? Можно в кратце, какая основная проблема самообучаемого уневерсального ИИ?
Проблем нет, грубыми штрихами уже всё разрисовано
источник

AK

Alexander Kozaev in Philosophy
И по этому плану всё двигается
источник

PZ

Pavel Zlatovratskii in Philosophy
salem salem
А как дела обстоят с ИИ? Можно в кратце, какая основная проблема самообучаемого уневерсального ИИ?
Основная проблема самообучаемого универсального ИИ в том, что непонятно в какой момент он может захотеть уничтожить человечество или что-то такое.

Он же ИИ - ты скорее всего не будешь понимать его системы мотивации, поскольку он не человек.
источник

AK

Alexander Kozaev in Philosophy
Идеальный мир - это непротиворечивый мир
источник

ss

salem salem in Philosophy
Pavel Zlatovratskii
Основная проблема самообучаемого универсального ИИ в том, что непонятно в какой момент он может захотеть уничтожить человечество или что-то такое.

Он же ИИ - ты скорее всего не будешь понимать его системы мотивации, поскольку он не человек.
Тоесть, страх это единственное что нас держит?
источник

AK

Alexander Kozaev in Philosophy
Но он не может существовать физически, на физический он проецируется
источник

AK

Alexander Kozaev in Philosophy
salem salem
Тоесть, страх это единственное что нас держит?
Нет такого страха
источник

AK

Alexander Kozaev in Philosophy
Pavel Zlatovratskii
Основная проблема самообучаемого универсального ИИ в том, что непонятно в какой момент он может захотеть уничтожить человечество или что-то такое.

Он же ИИ - ты скорее всего не будешь понимать его системы мотивации, поскольку он не человек.
Нет такого страха
источник

ss

salem salem in Philosophy
salem salem
Тоесть, страх это единственное что нас держит?
Прошу прощения, я хотел узнать, что мешает создать :)
источник

PZ

Pavel Zlatovratskii in Philosophy
salem salem
Тоесть, страх это единственное что нас держит?
В смысле? Нет, это проблема в том смысле "что делать/что будет когда появится такой ИИ".

Проблема как его сделать - просто непонятно пока как делать. Хотя бы потому что мы до сих пор не очень понимаем что такое "интеллект".
источник

AK

Alexander Kozaev in Philosophy
Не мы, а вы
источник

ss

salem salem in Philosophy
Alexander Kozaev
Проблем нет, грубыми штрихами уже всё разрисовано
Тогда почему в мире процветает расизм?
источник