Весной YouTube сократил численность сотрудников в офисах и на время пандемии делегировал своим алгоритмам модерацию видео. Автоматизированные системы получили возможность без участия человека блокировать материалы, нарушающие правила сервиса. Чтобы не возникло недопониманий, YouTube заранее предупредил авторов контента о вероятных ошибках алгоритмов. В случае некорректных банов компания попросила всех несогласных подавать апелляции, с которыми, по задумке, должны разбираться в том числе и люди.
Спустя несколько месяцев, уже осенью, компания отчиталась о рекордном количестве квартальных блокировок — 11 миллионов с апреля по июнь, это вдвое больше обычного. YouTube объяснил такую ситуацию слишком суровыми алгоритмами и пообещал вновь привлечь модераторов для проверки контента. Предполагалось, что на этом проблемы закончатся.
Но алгоритмы, судя по всему, по-прежнему работают. К примеру, они уже около месяца блокируют продвижение одного из российских проектов. Авторы получили больше 15 банов с самыми различными обоснованиями, а представители Google, владеющей YouTube, лишь признали некорректную работу системы, но разобраться с ней не смогли. Теперь дело может дойти до суда — от компании хотят добиться объяснений о работе её модерации.
Потому что люди, кажется, потеряли контроль над ИИ.