6 дней назад в kaldi добавили RNNLM, и судя по названию файла mikolov-rnnlm-lib - это похоже как раз то о чем я говорил - word2vec+RNN для language model
Отдельно w2v можно использовать так: оцениваем косинусную близость между словами, и если она очень низкая, то считаем что слово не подходит к контексту