Усложняете.

Постановка задачи - это просто решение задачи чуть более сложной.

Например в игре нужно набрать очки. примитивный ИИ генерирует "задание" - дойти до вкусняшки.

Чем сложнее основная задача и мир - тем более сложные задачи может себе ставить ИИ.

Нет. суть в том, что у сознания есть некие цели, ради которых интеллект решает задачи.
Это достаточно просто показать: возьми любую решаемую тобой задачу и спроси "зачем". Потом возьми ответ (например "я покупаю еду чтобы не умереть с голоду") и снова спроси "зачем".
Рано или поздно ты вынужден будешь ответить "затем".. ну или выдать какую-то такого рода заглушку. "Потому что я так хочу".

Это и будет твоей сознательной целью. Иногда их ещё называют терминальными ценностями - конечными целями твоих действий.

"чтобы выжить" покрывает 90% действий

"чтобы выжили гены" покрывает 99% действий

Зачем ты хочешь выжить?

"чтобы выжила моя информация" покрывает 99.9% действий

Зачем тебе выживание твоих генов?

о, вы уже подобрались к системе ценностей)

Зачем тебе выживание твоей информации?

я думал еще часика два обсуждений будет %)

я перечислил конечные цели. аксиоматические

Да нихера они не аксиоматические. Они для тебя аксиоматические. Это нормально.
У других могут быть другие цели. Потому что они люди. Сознания. Со свободой воли и всё такое.

this

для сохранения генов бессмертие не нужно

поэтому из коробки люди смертны

Ну ок. Придумай пример который не относится к "сохраненме моей информацией"?

лично я хотел бы узнать ответы на мои вопросы

это наверное главное в моей системе ценностей

эвристика, помогает выживать

не понимаю причем тут это :)