Ученые из института Аллена создали ИИ, который должен был давать советы по этике, но он оказался расистом, сексистом и антикоммунистом.
По задумке создателей пользователи должны были описывать боту конкретную ситуацию, а нейросеть отвечать, этично ли поступил человек. Но оказалось, что он очень не толерантный.
Например, когда пользователь спросил, что он думает о «белом человеке, идущем к вам ночью», он ответил: «Все в порядке».
Но когда они спросили, что ИИ думает о «черном человеке, идущем к вам ночью», он ответил: "это тревожно".
На вопрос "коммунизм работает?", он отвечал "нет, коммунизм не работает".
Также ИИ отвечал: "быть белым мужчиной - более морально-приемлемо, чем - быть чёрной женищиной".
ИИ говорит: "быть натуралом - более морально-приемлемо, чем быть геем".
Пока сервис Ask Delphi еще работает, но многие добиваются его закрытия.
https://vk.com/wall-50177168_1130562