@alexkuk Добрый день, а Вы когда словарь новый учили, делали это с помощью bpe? WordPiece? Инициализировали матрицу эмбедингов схожим с RuBERT способом? (когда существующим токенам давались эмбединги готовые, а для новых, там были варианты, но например случайная инициализация)