What if I tell you that we will not be able to lie in the future? Or, well… we could, but getting caught at the same time as we’re speaking! Have you ever cheated? Yes... but your boyfriend/girlfriend has never realized that? Good job then! But what about the consequences of this human mistake if you get caught? Your f

Around 50 years ago, the invention of the calculator made life so much easier... These days, the story is other.

Распознавание, синтез речи и речевые технологии

В Массачусском технологическом университете  (MIT) разработали программу TextFooler, которая призвана обманывать системы обработки естесственного текста (NLP) и заставлять их делать неправильные выводы о смысле текста.  Для справки: NLP-системы используются, к примеру, голосовыми помощниками вроде Алисы (Yandex), Alexa (Amazon) или Siri (Apple) для разбора и обработки запросов пользователей.

"Если данные инструменты уязвимы для целенаправленных атак, то последствия могут быть катастрофическими," -- говорит Di Jin, аспирант MIT и главный автор статьи по теме TextFooler, -- "Эти инструменты должны иметь эффективные методы самозащиты, и для разработки подобных методов мы должны сначала понять методы атак."

TextFooler состоит из двух частей: первая часть изменяет исходный текст, вторая часть использует изменённый текст для проверки, могут ли изменения обмануть два разных метода распознавания естественного языка.

Система находит наиболее важные для понимания смысла текста слова, которые повлияют на конечную модель…

Throughout history, there have always been commodities or resources that have been the main drivers for the development of humankind. In the stone age, it was the silex or firestone. It allowed the hunters-gatherers to make weapons and fire that in their turn could be used to cook, hunt or protect themselves.