
Инструмент, называемый "Testing with Concept Activation Vectors" or TCAV, может быть подключен к любым алгоритмам машинного обучения и объяснить в какой степени они взвесили различные факторы или типы данных для получения результата.
С такими "переводчиками" люди будут больше доверять результатам алгоритмов. Появится возможность подвергать сомнению, отвергать и, возможно, даже исправлять выводы нейронной сети, а не слепо доверять машине.
Подобные разработки ускоряют внедрение искусственного интеллекта во все сферы деятельности человека.
https://futurism.com/the-byte/google-brain-translator-ai