Лого говорящее )

Баги костыли и велосипеды

В Массачусском технологическом университете  (MIT) разработали программу TextFooler, которая призвана обманывать системы обработки естесственного текста (NLP) и заставлять их делать неправильные выводы о смысле текста.  Для справки: NLP-системы используются, к примеру, голосовыми помощниками вроде Алисы (Yandex), Alexa (Amazon) или Siri (Apple) для разбора и обработки запросов пользователей.

"Если данные инструменты уязвимы для целенаправленных атак, то последствия могут быть катастрофическими," -- говорит Di Jin, аспирант MIT и главный автор статьи по теме TextFooler, -- "Эти инструменты должны иметь эффективные методы самозащиты, и для разработки подобных методов мы должны сначала понять методы атак."

TextFooler состоит из двух частей: первая часть изменяет исходный текст, вторая часть использует изменённый текст для проверки, могут ли изменения обмануть два разных метода распознавания естественного языка.

Система находит наиболее важные для понимания смысла текста слова, которые повлияют на конечную модель, создаваемую NLP-системой, и затем заменяет их на синонимы, которые подходят по смыслу.  При этом TextFooler старается сохранить связность текста и оригинальный смысл, дабы он выглядил "человечным".   Затем два разных NLP-метода применяются к полученному тексту: классификация текста и логический анализ (какие отношения между частями в предложении?) с целью поменять результат классификации или привести к неверным результатам логического анализа.

Пример входной строки: “The characters, cast in impossibly contrived situations, are totally estranged from reality.”
Пример изменённой TextFooler строки (изменённые слова выделены): “The characters, cast in impossibly engineered circumstances, are fully estranged from reality.”

В целом, данная система использовалась для успешной атаки на три разных NLP-модели, включая open source-модель "BERT".  TextFooler позволил снизить точность разбора текста с 90% до 20% через изменение только 10% слов в исходном тексте.

Исследователи замечают, что атаки на существующие NLP-системы не являются конечной целью, и надеются, что их работа позволит создать более абстрактные модели для обобщения новых, не явных данных.

"Система может использоваться (с необходимыми модификациями, если потребуется) для атак на любую NLP-модель, используемую для классификации текста для проверки её надёжности," -- говорит Jin -- "С другой стороны, сгенерированные атаки могут быть для повышения надёжности и обобщённости моделей глубокого обучения через метод adversarial training, что является критически важным результатом нашей работы."

Исходный код системы: https://github.com/jind11/TextFooler

Ребят, всем привет! Тут 15 числа в Нижнем Новгороде Tender Hack пройдет)
Никто не хочет поучаствовать? https://vk.com/actum.online?w=wall-156484757_1793

Мы

Уже зарегистрировались...)

У нас мероприятие в эти два дня. Поэтому скорее всего народ просто по времени не успеет.
Тем более, что область интересов участников хакерспейса лежит довольно далеко от порталов.

Если есть кто на заметке, кто хочет подработать, дай контакт, я сведу

Вместе с Magnapinna (@q2q4q8) перевели статью "Обзор технологий аддитивного производства для био-имплантов", опубликованную под лицензией Creative Commons 4.0 Attribution International в ноябре 2019 года.  Взялись за перевод, так как в статье хорошо расписаны различные технологии аддитивного производства.  Поскольку у нас в хакерспейсе активно используется 3D-печать, было интересно ознакомиться со взглядом на данную технологию со стороны медицины.

Перевод можно увидеть на кадровики: https://cadrspace.ru/w/index.php?title=%D0%9E%D0%B1%D0%B7%D0%BE%D1%80_%D1%82%D0%B5%D1%85%D0%BD%D0%BE%D0%BB%D0%BE%D0%B3%D0%B8%D0%B9_%D0%B0%D0%B4%D0%B4%D0%B8%D1%82%D0%B8%D0%B2%D0%BD%D0%BE%D0%B3%D0%BE_%D0%BF%D1%80%D0%BE%D0%B8%D0%B7%D0%B2%D0%BE%D0%B4%D1%81%D1%82%D0%B2%D0%B0_%D0%B4%D0%BB%D1%8F_%D0%B1%D0%B8%D0%BE-%D0%B8%D0%BC%D0%BF%D0%BB%D0%B0%D0%BD%D1%82%D0%BE%D0%B2

На хабре выложи. Тематика очень схожая -аддитив тех, перевод, сайенс.

#StoppedWorking

почти артхауз ))

Хммм в чем задумка была?

паук. нить. подъемное устройство. попытка.
ну и ардуино - как же без этого!?

Ежели чуть более сурьёзно, то паук должен спуститься ровно на то расстояние чтобы не кончилась нить на катушке. А также потом подняться так, чтобы не перемотаться через неё. Мотор тянет по разному спуск и подъем.
В принципе работает коэфицент увеличивающий время подъема.
Но для более контрольного подхода был выбран подсчет оборотов катушки - мотор отработает допустим три оборота на спуск и после этого столько же оборотв на подъем.
Остается один момент - как устройство узнает на каком расстойнии уже отмотано после включения?
Вероятно будет нужна калибровка....