OpenAI сообщила о пресечении операций влияния, связанных с Russia и Iran

Компания заявила, что заблокировала две группы аккаунтов ChatGPT, использовавших модели для подготовки пропагандистских материалов и продвижения их через СМИ и соцсети.

По версии OpenAI, одна из операций была связана с Iran и использовала семь вымышленных журналистских профилей. Под этими именами размещались или распространялись почти 100 статей примерно в дюжине небольших и средних онлайн-изданий, писала компания. Темы публикаций касались международной политики, геополитики и событий на Ближнем Востоке.

Одним из таких авторов был Ervin B. Hoskins, представлявшийся американским внештатным писателем. Статья под его именем на Beirut Today изображала United States ненадежным посредником между Lebanon и Tel Aviv. OpenAI также сообщила, что связанные с операцией аккаунты публиковали комментарии о войне между United States и Iran. Некоторые материалы, по данным компании, создавались с помощью других ИИ-сервисов.

Вторую операцию OpenAI связала с Russia. Ее участники, как говорится в отчете, создали фиктивный Social Research Center (SRC) и привлекали людей в Latin America, которые, по оценке компании, могли не знать о российских связях проекта. Через аккаунты ChatGPT готовились внутренние отчеты, пропагандистские тексты и фальшивые документы.

В качестве примеров OpenAI привела аудиозапись с ложными высказываниями, приписанными консулу Ukraine в Quito, и поддельное видео о якобы вербовке правительством Ecuador молодых людей для отправки в Ukraine. Компания заявила, что обнаружила в TikTok публикацию с записью, но она набрала мало откликов. Отдельный фейковый ролик распространялся в X и TikTok.

OpenAI оценила связанную с Russia операцию в категорию 5 по собственной шкале от 1 до 6, а иранскую — в категорию 4. Компания подчеркнула, что не весь контент создавался ее моделями. Это оценка самой OpenAI, основанная на ее расследовании и анализе открытых источников.