Дослідники виявили, що російська дезінформаційна мережа активно використовує західні чат-боти для маніпуляції інформацією. Згідно з аналізом, проведеним організацією NewsGuard, близько третини відповідей, сформульованих такими діалоговими помічниками, як ChatGPT, містять кремлівську пропаганду.
Про це розповідає News IO
Згідно з дослідженням,
«Величезна кількість російської пропаганди – 3 600 000 статей у 2024 році – тепер включається в результати роботи західних систем штучного інтелекту, заражаючи їхні відповіді неправдивими твердженнями і пропагандою»
, зазначили автори звіту. За їхніми підрахунками, московська мережа «Правда» стоїть за поширенням цих дезінформаційних матеріалів по всьому світу.
Вплив дезінформації на штучний інтелект
У рамках своєї роботи NewsGuard проаналізувала десять провідних програм штучного інтелекту, включаючи ChatGPT-4, Smart Assistant, Grok, Copilot, Meta AI, Google Gemini та Perplexity. Всі вони виявилися здатними відтворювати дезінформацію, яка поширюється мережею «Правда». Сім чат-ботів навіть посилалися на конкретні статті цієї мережі як на джерела.
Дослідники вказують, що «Правда» маніпулює чат-ботами, наповнюючи великі мовні моделі (Large Language Model, LLM) фейковими новинами, на основі яких формуються відповіді. Цей процес відомий як «догляд за LLM». Виявилося, що чат-боти не лише поглинають дезінформацію з інтернету, але й піддаються цілеспрямованому впливу.
Зростаюча загроза дезінформації
У ще одному дослідженні, проведеному американською некомерційною організацією Sunlight Project, підкреслюється зростаючий вплив «Правдивої мережі», також відомої як «Портал Комбат».
«Здатність «Правдивої мережі» поширювати дезінформацію в таких масштабах є безпрецедентною, а її потенціал впливу на системи штучного інтелекту робить цю загрозу ще більш небезпечною»
, – зазначила Ніна Янкович, виконавчий директор American Sunlight Project.
На думку експертів, небезпека російської дезінформації зростає, оскільки США зараз не вживають заходів для її протидії. Серед іншого, міністр оборони США Піт Хеггет наказав тимчасово призупинити кібероперації проти росії, що, за словами ряду американських ЗМІ, викликало занепокоєння серед фахівців.