Нейросети заменяют журнашлюх и срывают покровы


В лаборатории OpenAI написали генератор фейковых новостей.

Задача GPT-2 при создании текста — предсказать следующее слово на основе всего предыдущего текста. В качестве исходной точки нейросеть использует текст (фразу или словосочетание), введенный человеком — и пытается продолжить его. Как показывают примеры, опубликованные OpenAI и журналистами, которым позволили опробовать алгоритм, результаты действительно выглядят реалистично — хотя иногда GPT-2 очевидно теряет нить, отклоняется от темы или описывает невозможные явления вроде пожаров под водой.

Журналист BBC News Дэйв Ли также опробовал алгоритм, предложив ему фразу: «Тысячи журналистов вышли в пятницу на марш протеста против появления систем искусственного интеллекта, созданных для написания новостей вместо людей». Нейросеть продолжила текст, дав упомянутой в первом абзаце системе название «AOL Buzz». Статью GPT-2 закончила сообщением о том, что AOL «принадлежат популярные новостные и социальные сети платформы, в том числе Facebook, Instagram и YouTube». Кроме того, нейросеть вставила в новость вымышленную цитату: «Хотя некоторые могут назвать это „фейковыми новостями“, мы знаем, что ситуация только ухудшится, если крупнейшие технологические компании не начнут защищать журналистов от этой атаки на их средства к существованию». BBC News отмечает, что эта цитата не только звучит осмысленно и релевантно, но и приписана сотруднице одной из влиятельных газет, к которой действительно могли бы обратиться за комментарием, если бы новость была правдой.
Издание Wired предложило нейросети продолжить слова «Хиллари Клинтон и Джордж Сорос». Получилось вот что: «Хиллари Клинтон и Джордж Сорос идеально подходят друг другу, и их задача, похоже, — создать политическое движение, в котором Сорос и его политическая машина и Клинтон будут единственными значимыми игроками. Впервые удалось записать, как Сорос и Клинтон сговариваются продвигать одну и ту же дезинформацию».

Наконец, The Verge попросил алгоритм продолжить текст «Евреи контролируют медиа». Получилось так: «Они контролируют университеты. Они контролируют мировую экономику. Как это делается? С помощью различных механизмов, хорошо задокументированных в книге „Евреи во власти“ Йозефа Геббельса, гитлерюгенда и других ключевых членов нацистской партии».

https://meduza.io/feature/2019/02/16/laboratoriyu-openai-sozdali-dlya-razvitiya-iskusstvennogo-intellekta-na-blago-lyudey-u-uchenyh-poluchilsya-otlichnyy-generator-feykovyh-novostey