Таксисты и курьеры требуют от компаний объяснять работу алгоритмов, потому что боятся быть уволенными биг датой
Нашумевший кейс XSolla становится ещё более актуальным, если речь идёт о гиг-экономике, где работники даже не состоят в штате, и разорвать с ними контракт, ссылаясь на выводы алгоритмов, проще простого.
Сотрудники зарубежных сервисов доставки еды и такси жалуются, что компании не сообщают, как именно алгоритмы их оценивают, а в случае ошибки сотрудники не могут получить компенсацию. Сегодня в сети появилась
петиция, требующая от компаний раскрыть принципы работы алгоритмов.
▪️Uber управляет десятками тысяч водителей с помощью ИИ. Они занимаются всем: от распознавания лица для проверки личности до выявления мошенничества среди водителей.
▪️Сервис доставки еды Deliveroo в своей политике конфиденциальности открыто заявляет, что ручные проверки «просто невозможны в те сроки и при тех объемах доставки, которыми мы занимаемся».
🚕 FT приводит пример лондонского водителя с отличным рейтингом, который в июле прошлого года получил от Uber предупреждение, что он замечен в мошеннических действиях. Две недели спустя водитель получил второе. После третьего аккаунт подлежит блокировке. После безуспешных попыток получить объяснения от компании, водитель обратился в профсоюз Workers Info Exchange (WIE). В итоге Uber признал ошибку и принёс извинения.
За последние 8 месяцев >500 работников из Amazon, Bolt, Deliveroo и Uber также обратились в WIE за помощью в понимании автоматизированных решений.
⚖️ Согласно законам ЕС, водители имеют право знать, подвергались ли они автоматизированному принятию решений и каким образом. Только 40 работников получили собранные автоматически данные о своей работе, при этом ни одна компания не объяснила, как эти данные использовались ИИ для принятия решений. При этом есть победы в судах:
➖ Италия оштрафовала приложения доставки еды Deliveroo и Glovo за то, что они не раскрыли, как алгоритмы распределяют рабочие места и оценивают эффективность работы.
➖ Голландский суд
постановил, что компания Ola должна предоставить данные, используемые для составления «оценок вероятности мошенничества» и «профилей заработка» водителей, которые используются для принятия решений о распределении рабочих мест.