Исследователи обнаружили, что российская дезинформационная сеть активно использует западные чат-боты для манипуляции информацией. Согласно анализу, проведенному организацией NewsGuard, около трети ответов, сформулированных такими диалоговыми помощниками, как ChatGPT, содержат кремлевскую пропаганду.
Об этом сообщает News IO
Согласно исследованию,
«Огромное количество российской пропаганды – 3 600 000 статей в 2024 году – теперь включается в результаты работы западных систем искусственного интеллекта, заражая их ответы ложными утверждениями и пропагандой»
, отметили авторы отчета. По их подсчетам, московская сеть «Правда» стоит за распространением этих дезинформационных материалов по всему миру.
Влияние дезинформации на искусственный интеллект
В рамках своей работы NewsGuard проанализировала десять ведущих программ искусственного интеллекта, включая ChatGPT-4, Smart Assistant, Grok, Copilot, Meta AI, Google Gemini и Perplexity. Все они оказались способными воспроизводить дезинформацию, которая распространяется сетью «Правда». Семь чат-ботов даже ссылались на конкретные статьи этой сети как на источники.
Исследователи указывают, что «Правда» манипулирует чат-ботами, наполняя большие языковые модели (Large Language Model, LLM) фейковыми новостями, на основе которых формируются ответы. Этот процесс известен как «уход за LLM». Выяснилось, что чат-боты не только поглощают дезинформацию из интернета, но и подвергаются целенаправленному влиянию.
Растущая угроза дезинформации
В еще одном исследовании, проведенном американской некоммерческой организацией Sunlight Project, подчеркивается растущее влияние «Правдивой сети», также известной как «Портал Комбат».
«Способность «Правдивой сети» распространять дезинформацию в таких масштабах является беспрецедентной, а ее потенциал влияния на системы искусственного интеллекта делает эту угрозу еще более опасной»
, – отметила Нина Янкович, исполнительный директор American Sunlight Project.
По мнению экспертов, опасность российской дезинформации растет, поскольку США сейчас не принимают мер для ее противодействия. Среди прочего, министр обороны США Пит Хеггет приказал временно приостановить киберактивности против России, что, по словам ряда американских СМИ, вызвало беспокойство среди специалистов.