То есть вместо того, чтобы потратить денег на большой блестящий тяжелый железный сервер и включить его в розетку, люди нанимают человека, который кубернетес им поднимает чтобы инстансы на амазоне закупал автоматически.
Зависит от масштаба проекта. Во многих случаях покупка железных серваков на старте- это совершенно непроизводительные расходы. По мере роста проекты иногда переходят и на своё железо, а иногда остаются в "облаках" - всё диктует экономика.