Теперь каждый может сам протестировать, насколько развился искусственный интеллект. Напишите короткую фразу на английском для новой программы GPT-2 и предложите нейросети продолжить текст за вас по ссылке:
talktotransformer.comНапример, я написал фразу "I believe that more people in Russia should study the methods of rationality and read more long-reads from Western media and blogs". В ответ на это GPT-2 выдала мне следующее продолжение:
"For me it is not sufficient to read books about how to make a better life for yourself. It is necessary to try to use your imagination, to be creative, to invent new methods of thinking. I believe that many of our problems can be solved if you think in a rational and creative way. If you don't think in this way, you are likely to make an error.
The way of thinking that was taught in the Soviet Union was based on the Communist dogma, which was a system of dogmatism. It was based on the belief that the state must have its own way, that the leader must have absolute control, and that all the ideas must be accepted. The way of thinking was used for ideological purposes. It was used to create an atmosphere of fear and anxiety…"
Ничего себе, да? Многочисленные тесты показали: человек с высокой долей вероятностью не может отличить текст, написанный GPT-2, от написанного человеком.
GPT-2 – результат работы компании Open AI. Это НКО, созданная Илоном Маском, Сэмом Альтманом из Y Combinator, Питером Тилем (Palantir, PayPal) и другими успешными людьми, которые опасаются развития недружественного человеку ИИ и вложили больше миллиарда долларов в исследования в этой сфере.
Первые месяцы Open AI не выкладывала в открытый доступ GPT-2 из-за многочисленных рисков.
Во-первых, эта нейросеть легко пишет экстремистские тексты в духе радикального ислама, неонацизма и какой угодно другой идеологии (если предварительно «скормить» ей другие тексты в таком духе).
Во-вторых, она может использоваться для создания целых автоматически сгенерированных сайтов с fake news, которые при этом содержат ссылки-“пруфлинки” на другие сайты с автоматически сгенерированными фейковыми новостями, и так далее. Так можно внедрять в мир любые фейковые новости.
После долгих дебатов программу всё-таки выложили: решили, что плюсы от этого перевесят минусы. Вся эта история, конечно, пугает.
Почитайте пресс-релиз Open AI на тему, там описаны и риски, и разные другие мысли на этот счёт:
openai.com/blog/gpt-2-1-5b-release#тренд_мастрид #техно_мастрид
