Прежде всего, если мы говорим об полноценном ИИ а не современных технологиях - то там будет какая то система фидбека. В случае современных технологий она тоже есть, правда в ограниченном виде. Например модель может делать пробный запуск и по нему ты понимаешь как она поняла задачу, или она может приводить какие то примеры того что ты ожидал бы от неё.