Просто видел реализацию, когда на хосте есть публичный адрес, и вторым интерфейсом подключена приватная сеть которая тоже роутится.
Ну у меня так на одной из работ сделано.
Там, правда, опенстек не особо то и используют, пяток серверов и пара десятков виртуалок.
По 2-4 сетевушки в сервере, каждая в своей сети, а между хостами ospf, который анонсирует /32 адреса лупбеков.
Довольно стремная схема, но не развалилась пока)