Популярные социальные сети плохо справляются с модерированием политического контента. Сеять ненависть к Украине, дискредитировать европейский выбор Молдовы, агитировать россиян идти на украинский фронт с помощью маленьких платных сервисов накрутки выходит дешево и легко, а соцсети таких кампаний "не видят", пишет Радио Свобода.
К такому выводу пришли авторы исследования, основанного на результатах эксперимента по изучению уязвимости социальных сетей к мелким коммерческим манипуляциям, в том числе и в политических целях. Работа проводилась сотрудниками Центра передового опыта стратегических коммуникаций НАТО при участии украинских специалистов. Эксперименты авторы проводили в 2018, 2019, 2021 и 2022 годах, так что могли наблюдать динамику процессов.
Вначале соцсети демонстрировали прогресс в модерации контента, но с началом полномасштабного вторжения России в Украину их способность справляться с дезинформацией заметно снизилась и до сих пор не достигла уровня 2021 года.
Закон о цифровых услугах (DSA)1, обязывающий онлайн-гиганты бороться с контентом, сеющим ненависть и дезинформацию, и Закон о цифровом рынке (DMA)2, обязывающий интернет-платформы и социальные сети принимать меры для защиты пользователей от нелегального контента, товаров и услуг, были приняты в начале 2024 года. Авторы пришли к выводу, что новое европейское регулирование оказало минимальное влияние на обнаружение "неаутентичных действий".
Нынешний эксперимент проводился в августе-сентябре 2024 года. В его рамках авторы зарегистрировали фейковые аккаунты в Facebook, Instagram, YouTube, TikTok, ВКонтакте и, потратив 58 евро, приобрели 1 150 недостоверных комментариев, 11 725 лайков, 3 150 репостов и 8 233 просмотра 44-х фейковых постов нейтральной, неполитической направленности. Примерно такой же объем вовлеченности три года назад обошелся втрое дороже. Если раньше тестировались только российские поставщики услуги, то в этот раз испытывались шесть сервисов, включая два из США, один из Великобритании, один итальянский и два российских. В октябре авторы познакомили платформы с результатами. Отчет "Манипуляции в социальных сетях на продажу" был опубликован в ноябре 2024 года.
Те же боты, которые продвигали фишинговые сайты и порнографию, использовались в политических кампаниях
Что выяснилось? За четыре недели было удалено в среднем 15% выявленных аккаунтов, что является самым низким показателем за последние два эксперимента (25% в 2021 году и 16% в 2022 году). Из всех платформ с удалением фейковых аккаунтов лучше всего справлялась соцсеть Х: 50% при 26% в 2022 году. TikTok и ВКонтакте показали худшие результаты: 3% и 2% соответственно. Причем статистика ВКонтакте просела катастрофически: в 2021 году было 71% удаленных фейковых аккаунтов, в 2022-м – 50%. TikTok за три года снизил эффективность с 12% до 3%, а Facebook повысил с 1% до 25%, Youtube – с нуля до 2%.
Тот же прогресс Х показала и в удалении фейковых репостов, лайков и комментариев. Если в 2022 году в этой соцсети в ходе эксперимента оставалось 82,27% неаутентичного контента, то в 2024 году – только 61,91%. Преуспел в модерации также Youtube (90% – 78.71%). На остальных платформах остался почти весь неаутентичный контент. Он не был удален соцсетями даже после того, как о нем было сообщено.
Те же боты, которые продвигали фишинговые сайты и порнографию, использовались в политических кампаниях. Например, в предвыборный период в США они продвигали или дискредитировали Джо Байдена, Камалу Харрис и Дональда Трампа. Причем авторы заметили, что мелкие кампании практически остаются ниже уровня радаров соцсетей.
Корреспондент Радио Свобода побеседовала с одним из авторов исследования, главным научным сотрудником Центра передового опыта стратегических коммуникаций НАТО Гундарсом Бергманисом-Коратсом.
– Расскажите, пожалуйста, об эксперименте. Что вы измеряли?
– Мы провели его пятый раз подряд. Этот эксперимент помогает нам понять, насколько уязвимы наши социальные платформы. Эксперимент разработан очень тонко, он дает возможность на основе записей в соцсетях, созданных нами самими, попытаться купить виртуальную манипуляцию, искусственно созданное вмешательство: лайки, шеры, просмотры и комментирование. Мы пытаемся понять, изменило ли нападение России на Украину отношение соцсетей к этой уязвимости, поскольку сервисы, предлагающие эту услугу, в мире существуют, и очень многие из них базируются в России. Я рассматриваю это как серую зону для пиар-компаний, предлагаемых за деньги: создание фейковых аккаунтов и их использование для комментирования, просмотров, шеров и лайков конкретных постов, которые мы хотим продвигать.
Бизнес-модель этих сервисов – создание за деньги иллюзии реакции людей на записи в соцсетях
Суммы варьируются в зависимости от желаемой активности, от того, идет ли речь, например, об одной записи или о тысяче, одном просмотре, лайке, шере или о тысяче. Бизнес-модель этих сервисов – создание за деньги иллюзии реакции людей на записи в соцсетях. Сами записи при этом создает заказчик. Например, я хочу, чтобы у моего аккаунта было очень много положительных комментариев. Я посылаю в сервис список комментариев в экселе, и с каких-то чужих аккаунтов меня начинают комментировать. Этот инструмент используется в бизнесе, но точно так же и в политической агитации и манипуляции.
Мы исследовали, насколько уязвимы различные социальные сети: Х (бывший Twitter), Facebook, Youtube, Instagram, Вконтакте и Tik Tok. Пытались определить, сколько стоит такая манипуляция, насколько легко это сделать на конкретном языке, в конкретном государстве и так далее, и как это меняется с годами. Нам было интересно, изменилось ли что-то в этом бизнесе после начала войны в Украине. И мы видим, что он стал еще дешевле и доступнее.
– Почему, как вы думаете?
– Я предполагаю, потому, что, во-первых, технологии развиваются. А во-вторых, в 2022 году на его услуги возник очень высокий спрос, и этот бизнес сильно вырос. Конкуренция повысилась.
– Кто был заказчик во время этого бума и где он находился?
– Трудно сказать, мы не знаем, чем эти сервисы занимаются в других местах. Все, что мы можем, это купить услугу на наши собственные записи. Мы видим, какие аккаунты для нее используются и отслеживаем, что еще и где еще они делают на той же платформе до или после нашего взаимодействия.
Мы заметили, что эти же аккаунты, с которых лайкали, шерили, комментировали и просматривали наши посты, используются в продвижении онлайн-бизнесов: интернет-магазинов, торговли криптовалютой, а также для фишинговых сайтов, мошеннических схем для выманивания у людей денег за несуществующие продукты. В игровой индустрии часто наблюдаем следы активности этих ботов, особенно в Youtube. А на платформе Х с помощью этой инфраструктуры часто шерят и делают более видимым порнографический контент. И, конечно, на некоторых платформах она задействуется для продвижения различных политических тем. Записи с определенной тематикой шерят, лайкают или просто просматривают, манипулируя алгоритмами рекомендаций для расширения аудитории и генерируя таким образом деньги для этих сетей.
– Несколько тестируемых вами сервисов базируется в России. Почему?
– Когда мы начинали в 2018 году, таких сервисов в других странах почти не было. В этом году мы рассмотрели два сервиса из США и один из Италии. И, конечно, сравнили их цены с российскими и выяснили, что на данный момент последние обходятся даже немного дороже.
– Они базируются в России, США и Европе, но где сидят люди, которые нажимают на шеры, лайки или "смотрят" видео?
– Этого мы не знаем. Они довольно хорошо прячутся.
– Какую разницу в политике платформ вы увидели?
– На данный момент мы ясно видим новую тенденцию, которая отодвигает модерирование контента на второй план. Все больше привлекается такой инструмент как "заметки сообщества" (community notes), значок, который пользователи могут поставить, если считают, что запись не соответствует действительности или манипулирует фактами. Таким образом социальные сети переносят с себя часть ответственности как с хранилища гигантского объема данных на сообщество пользователей. Пока я не видел этого на российских платформах и в Tik Tok, но наш следующий эксперимент будет посвящен исследованию этого аспекта. Х первая ввела этот инструмент, и Meta (корпорация, которой принадлежит, в частности, Facebook – РС) хочет последовать ее примеру. Но это свежая тенденция. Наш эксперимент закончился в сентябре 2024 года.
– Вы говорите, что большая доля неаутентичного контента сразу же удаляется с платформы Х, и вас это удивило.
– Да, мы ожидали одинаковой эффективности в этом процессе от всех платформ. И у Х значительный прирост по сравнению с предшествующим периодом. После того, как Илон Маск купил Twitter, платформа была сильно усовершенствована. Наш эксперимент показал, что она смогла очень быстро и своевременно остановить половину этой кампании по манипуляции. Но та половина, которая осталась, связана с разнообразными политическими процессами.
– То есть на платформе Х нет политической цензуры?
– За время нашего исследования ее не было.
– Facebook не был особо эффективен в этом смысле?
– К сожалению, нет. Но я понимаю положение Facebook – на этой платформе больше всего людей. Органическое вовлечение там гораздо выше, чем на других платформах, и ошибочно удаленный аккаунт обходится этой сети значительно дороже, чем другим.
Боты, за которыми мы следили, пытались оправдать российское вторжение в Украину, критиковать Запад, распространяли нарративы, направленные против мобилизации в Украине
– Расскажите о TikTok немного.
– TikTok оказался очень отзывчивым. Мы выслали им совершенно открыто и прозрачно все результаты, и платформа пыталась как-то ситуацию прояснить и исправить. Но, видимо, они очень быстро поняли, что не замечают таких маленьких кампаний, как наша. Они видят кампании на сотни тысяч взаимодействий с миллионами различных аккаунтов, действующих в какой-либо конкретной сети. Поэтому наш диалог встал на паузу. Но в следующий раз мы уделим больше внимания этой платформе.
– Какие политические нарративы продвигаются на платформах с помощью таких инструментов?
– Боты, за которыми мы следили, пытались оправдать российское вторжение в Украину, критиковать Запад, правительство Молдовы, особенно президента Санду, а также распространяли нарративы, направленные против мобилизации в Украине, чтобы украинцы не хотели защищать свое государство.
– Итак, это делают очень небольшие кампании за очень небольшие деньги. Так кто же, по-вашему, все это заказывает? Российское Минобороны?
– Не думаю. Этим, видимо, занимаются небольшие агентства, или отдельные люди, которым за это платят. Возможно, прокси. Мы не можем определить заказчика. Поскольку средство расчетов у этих компаний – биткоин. Соответственно, чтобы определить, кто еще шлет им деньги, нам нужно больше знать об этих расчетах, а у нас этой информации нет.
– Каковы же выводы?
– Платформы после российского полномасштабного вторжения в Украину по-прежнему не в состоянии предотвратить такие коммерческие манипуляции. Эти манипуляции очень дешевы, легко исполнимы и угрожают органическому взаимодействию на этих платформах, создавая иллюзорное представление о том, что нравится, а что не нравится людям, потому что различные враждебные силы пытаются усилить любую внутриполитическую проблему. Коммерческое продвижение – только один из множества способов манипуляции. Наконец, эти кампании чрезвычайно тщательно скоординированы и спланированы. И у нас нет способов эти враждебные операции своевременно распознавать и скоординировано им противостоять.
Мы выступаем за правдивость информации как таковой, независимо от того, кто у власти в США или в Европе
– Я хотела спросить также о готовности платформ к диалогу. Какие из них вам ответили?
– Мы обратились ко всем, кроме ВКонтакте, и нам ответили все, к кому мы обратились, кроме Х. По крайней мере в этом эксперименте, Google, Meta и TikTok были очень заинтересованы в продолжении диалога.
– Как вы думаете, как будет развиваться ситуация в связи с изменением политики Соединенных Штатов? Большая часть платформ находятся в юрисдикции США и регулируются они в основном там.
– Не могу комментировать внутреннюю политику США, но предполагаю, что платформы смогут более самостоятельно принимать решения о саморегуляции. Очень трудно спекулировать сейчас на эту тему, но допускаю, что у платформ сохранится здравый смысл, они будут работать над снижением таких неаутентичных эффектов, поскольку те могут сыграть зловещую роль и в отношении их самих. Главный наш месседж: мы выступаем за правдивость информации как таковой, независимо от того, кто у власти в США или в Европе. Мы изучаем только чисто технические параметры: если информацией на платформах можно так легко манипулировать против нынешнего европейского руководства, точно так же легко манипуляции можно обратить и против властей США.
Роскомнадзор пытается заблокировать доступ к сайту Крым.Реалии. Беспрепятственно читать Крым.Реалии можно с помощью зеркального сайта: https://drzg37n3pkul0.cloudfront.net/следите за основными новостями в Telegram, Instagram и Viber Крым.Реалии. Рекомендуем вам установить VPN.
