AN
Вообще конечно на мой взгляд хайп какой-то огромный вокруг нейросетей и дифференцируемого мира )) особенно устрашающе в этом контексте выглядят всякие примеры, когда изменяем пару пикселей, и кот распознаётся как собака. Как бы не оказалось так в итоге, что программы пишут сами себя, но мы не понимаем, почему они работают и в каких случаях могут внезапно дать сбой
Ну тут всё не так плохо. Есть волшебное слово Robustness :)
См., например, Projected gradient descent (PGD) attack и adversarial training.
Для начала удобно втупить в "Know your enemy" (http://towardsdatascience.com/know-your-enemy-7f7c5038bdf3)
См., например, Projected gradient descent (PGD) attack и adversarial training.
Для начала удобно втупить в "Know your enemy" (http://towardsdatascience.com/know-your-enemy-7f7c5038bdf3)
