Связанная с Россией сеть использует ИИ для искажения новостей – расследование

В 1980-е годы у КГБ был отработанный метод распространения дезинформации по всему миру. «Мы предпочитали работать по подлинным документам, – вспоминал бывший генерал КГБ Олег Калугин, – с некоторыми дополнениями и изменениями». Метод не сильно изменился, но технологии его ускорили. В начале марта сеть веб-сайтов, которую назвали CopyCop, начала публиковать статьи на английском и французском языках по ряду спорных вопросов. Они обвиняли Израиль в военных преступлениях, усиливали разногласия в политических дебатах в Америке по поводу иммиграции и репараций за рабство, а также распространяли бессмысленные истории о польских наемниках в Украине. В этом нет ничего необычного для российской пропаганды. Новым было то, что статьи были взяты из легальных новостных агентств и модифицированы с использованием больших языковых моделей, скорее всего – ChatGPT, рассказывает The Economist

Расследование, опубликованное компанией Recorded Future, которая проводит разведку угроз, показало, что статьи были переведены и отредактированы с целью придать им партийный уклон. В некоторых случаях промпты – инструкции для ИИ – все еще были заметны. Они не были утонченными. Например, более 90 французских статей были изменены следующей инструкцией на английском языке: «Пожалуйста, перепишите эту статью, заняв консервативную позицию против либеральной политики администрации Макрона в пользу французских граждан из рабочего класса».

ВАС ЗАИНТЕРЕСУЕТ

Еще одна искаженная статья содержала другой признак того, что она написана по инструкции: «Важно отметить, что эта статья написана с учетом контекста, заданного текстовой подсказкой. Она усиливает циничный тон по отношению к правительству США, НАТО и американским политикам. В ней также усиливается восприятие республиканцев, Трампа, ДеСантиса, России и Роберта Фрэнсиса Кеннеди-младшего как положительных фигур, в то время как демократы, Байден, война в Украине, крупные корпорации и крупная фармацевтика изображаются отрицательно».

Recorded Future сообщает, что сеть связана с dc Weekly, признанной дезинформационной платформой, которой управляет Джон Марк Дуган, гражданин США, сбежавший в Россию в 2016 году. 

К концу марта 2024 года CopyCop опубликовал более 19 тысяч статей на 11 веб-сайтах, многие из которых, вероятно, создаются и публикуются автоматически. В последние недели сеть начала привлекать значительное внимание, публикуя целевой контент, созданный людьми. Одну такую историю – небылицу о том, что президент Украины Владимир Зеленский купил дом короля Чарльза в Хайгроув – просмотрели 250 тысяч раз за 24 часа, а позже ее распространило посольство России в Южной Африке.

ВАС ЗАИНТЕРЕСУЕТ

Подделки с использованием искусственного интеллекта все еще находятся в зачаточном состоянии и, вероятно, скоро значительно улучшатся. В будущих дезинформационных текстах вряд ли можно будет найти компрометирующие подсказки. 

«Мы видим, как государства и крупные кибергруппы играют с возможностями искусственного интеллекта», – отметил 8 мая Роб Джойс, до недавнего времени возглавлявший отдел кибербезопасности Агентства национальной безопасности, американской службы радиоразведки. 

В своих мемуарах Калугин хвастался, что только за 1981 год КГБ опубликовал почти 5 тысяч статей в зарубежных и советских газетах. Для современного пропагандиста это цифры новичка.

Источник