хабропрограммист - квазиразумное органическое существо, пишущее свою реализацию от неумения разобраться в существующих

Из своременной теории.

И что?

Из современной теории не следует, что она никогда не будет улучшена. Такого даже Ньютон про механику не думал... я надеюсь.

Что у программы могут быть более компактные представления, чем явное выписывание (10**100)**100 буковок, к примеру.

Не могут.

Число пи можно представить очень компактно, 1 символом. Все понимают все его свойства и т.д.
Для точного его представления надо в бесконечно число раз больше информации чем для программы длинной (10**100)**100

То же самое происходит при кодогенерации. Если мы умеем генерировать программу с нужными свойствами длинной (10**100)**100 , нам не нужен ее точный текст.

Вот это наброс

Пи - можно представить. НО какое отношение имеет иррациональная константа к программному коду - мне неясно.

Доля шутки.
Машинное обучение занимается примерно такой же фигней, если разобраться.
Они генерируют "программы", которые, будучи написанными вручную, порождали бы чудовищного размера исходники.

Мой любимый пример - программа для того, чтобы отличить кошек от собак по фото с приемлемым качеством.
Сколько кода там будет?

Есть ещё HQ9+. И?

Вся соль спрятана в словах "с приемлимым качеством".

В данном случае - нет, ибо альтернатив особых нет.
Написать программу длиной в (10**100)**100  мы в ближайшее время сами не сможем.

Собственно это пример огромной программы, от которой у нас никогда не будет исходников в терминологии современных АИ.

Речь шла изначально о хранении неограниченного количества информации в рамках доступной вселенной.
Вам сказали, что хранить данных больше чем есть элементов во вселенной невозможно, а соответственно невозможны бесконечные программы.
Вы сделали предположение, что хранить информацию можно без массы и на этом построили свои дальнейшие выводы.
Можно ли что-то доказывать, основываясь на таких предположениях? Я считаю что нет.

Фотоны не имеют массы. Можно ли с их помощью что-то хранить? Почему бы и нет.

Кстати, речь шла не о бесконечных программах (тут сомнений нет), а об очень больших.
(10**100)**100

Хм, почитайте школьную физику. Фотоны не имеют массы покоя, а не массы.

Как ни странно, но чтобы породить фотон, вам тоже нужна масса. Они не возникают сами по себе.

И вообще я бы с удовольствием почитал про запоминающие устройства на фотонах