запускаю rllib с observation_space Discrete(21), внутри он one-hot препроцессится. Обучается намного лучше, чем если obs_space, Box(0, 21, shape=(1,)). Но во втором случае размерность меньше, и obs_space идейно можно считать упорядоченным, поэтому его представление в виде одного числа уместно. С чем это может быть связано?