Всё так 🙂

всегда можно создать недостающие колонки из 0

смотрите. есть набор точек (xi1, xi2, xi3,  yi), алгоритм - условный линрег - подбирает такие k1, k2, k3, b, что отклонение (среднеквадратичное совсем точкам) минимальное.

потом вы пользуетесь теми же найденными k1, k2, k3, b, y_pred = k1×x1 +... + b, уже для новых x1, ..., x3.

если y не один, таргет, отклик еще его называют, предсказываемая величина, то наборов k1, ... k3 уже будет столько, сколько откликов (и это не так для нейросеток и деревьев).

я об этом писал, хотя может и не вкурил вопрос правильно

вот, простыми словами - мы учили модель - у нас были "вес машины,цвет, год выпуска, расход, производитель". а модели мы подаем только "производитель, цвет" и хотим узнать цену

No way

Вы б написали формулу, которую хотите получить

В линреге выходная переменная одна

как выше написали, берёте среднее и получаете собирательно "для всех производителей". для категориальной переменной это глуповато, поэтому зануляете и интерпретируете как-то как "неизвестного производителя".

но в целом для категориальных переменных нехорошо. для непрерывных больше можно чудить

Что такое (y1,y2,y3)=f(x1,...,xn) -  не понятно
Это
[a11x1+a12x2+...]
.
.
[a31x1+a32xw+...]
Или что?
Как связаны строки?

так какая разница, какой алгоритм?

Большая

f - это вектор-функция, большего не имелось ввиду в этом выраженит

ну если я lightgbmregressor натренирую?

Какая вектор-функция?

Хз что там внутри в многомерном случае

некоторая

Даже в бустингах функции собираются из класса функций

каждый признак, если он был в обучении, должен иметь  значение при предсказаний.

как проинтепретировать - вопрос решается конкретикой относительно признака.

Если определить набор чисел - будет набор чисел, можно, наверное, строить алгоритмы независимо, если опредедять хотя бы вектор это таки уже большая разница

А можно строить алгоритм на x1,...,xn получить y1^
А потом на x1,...,xn,y1^ и получить y2^
И т.д.