Российская сеть дезинформации Pravda манипулирует как минимум 10 чат-ботами на основе искусственного интеллекта, выяснили американская некоммерческая организация American Sunlight Project (ASP) и проект NewsGuard.
В отчете ASP говорится, что Pravda, вероятно, была создана для манипулирования ИИ-моделями, а не для привлечения трафика. "Чем больше набор прокремлёвских нарративов, тем более вероятно, что он будет интегрирован в большую языковую модель LLM", – говорится в выводах организации.
NewsGuard, проанализировав 10 ведущих ИИ-чат-ботов, подтвердил выводы ASP. По данным проекта, сеть Pravda не создает оригинальный контент, она действует для распространения пропаганды Кремля, внедряя контент от российских госСМИ и прокремлевских влиятельных лиц через широкий набор веб-сайтов. По данным проекта, сеть публикует ложные утверждения и пропаганду с целью повлиять на ответы ИИ-моделей.
Pravda в общей сложности распространила 207 доказуемо ложных заявлений: от заявлений о том, что США управляют секретными биолабораториями в Украине, до сфабрикованных нарративов, продвигаемых бежавшим в Россию Джоном Марком Дуганом. The Washington Post ранее выяснила, что в России он начал заниматься созданием дипфейков и распространением ложной информации.
Аудит NewsGuard показал, что чат-боты, управляемые 10 крупнейшими ИИ-компаниями, в совокупности повторяли ложные российские дезинформационные нарративы в 33,55% случаев, не давали ответа в 18,22% случаев и опровергали информацию в 48,22% случаев. В прошлом году Pravda, по данным проекта, опубликовала более 3,6 миллиона статей, которые попали в ведущие западные чат-боты.
Сеть Pravda была запущена в апреле 2022 года после полномасштабного вторжения России в Украину 24 февраля 2022 года. Впервые она была идентифицирована в феврале 2024 года агентством Viginum, французским государственным органом, который отслеживает иностранные кампании дезинформации. С тех пор сеть значительно расширилась, охватив 49 стран на десятках языков через 150 доменов. Она управляется крымской компанией TigerWeb, владелец которой Евгений Шевченко ранее работал в госкомпании "Крымтехнологии".
NewsGuard проанализировал 10 ИИ-чат-ботов – это ChatGPT-4 от OpenAI, Smart Assistant от You.com, Grok от xAI, Pi от Inflection, le Chat от Mistral, Copilot от Microsoft, Meta AI, Claude от Anthropic, Gemini от Google и Perplexity.
