Американские исследователи предупреждают о влиянии российской пропаганды на искусственный интеллект
Американские исследователи выражают обеспокоенность тем, что российская пропаганда в интернете теперь направлена на искусственный интеллект (ИИ). Этот феномен, по мнению учёных, может изменить мировоззрение ИИ, особенно в популярных приложениях вроде ChatGPT. Их исследование подчёркивает, что ИИ, облучённый данной пропагандой, может передавать её точки зрения пользователям по всему миру, сообщает Yle.
Данная проблема стала предметом отчёта, опубликованного организацией American Sunlight Project. Выводы основаны на данных о том, что российская сеть пропагандистских сайтов, поддерживаемая компанией TigerWeb, расширяет своё влияние. Предположительно, организацию координируют с территории Крыма, аннексированного Россией, и она сотрудничает с российскими властями. Недавний французский отчёт указывает на аналогии в методах работы TigerWeb и военной разведки России.
Сайты сети опубликовали миллионы статей на различных языках, чтобы притягивать внимание и манипулировать ИИ. Некоторые работают и на финском языке. Несмотря на то, что прямая связь с Кремлём не доказана, TigerWeb обвиняется в распространении ложной информации, направленной на западные страны.
Организация NewsGuard провела тесты на десятке популярных ИИ приложений, включая ChatGPT, и обнаружила, что многие из них иногда повторяют дезинформацию из сети Pravda. В частности, они проверили устойчивость ИИ к ложным утверждениям, и оказалось, что 7 из 10 приложений принимали неверные данные за факты.
По словам исследователей, манипуляции ИИ открывают двери для злоумышленников. В числе обеспокоенных экспертов – София Фройден (Sophia Freuden), которая подчеркивает нехватку осторожности у технологических компаний по поводу информации, обучающей ИИ. В условиях информационной войны с Россией такие манипуляции могут привести к негативным последствиям для западного общества.
В дополнение к ИИ, российская пропаганда активно внедряется и в Wikipedia, что обозначает более широкий стратегический подход. Руководитель финской компании Check First Гийом Кустер (Guillaume Kuster) подчеркивает, что активность на Wikipedia позволяет легитимировать неверную информацию, поскольку это первая платформа, где крупные языковые модели ищут данные. Pravda уже оставила в ней тысячи ссылок на свои материалы.
Отмечается, что манипуляции с помощью ИИ могут привести к значительным изменениям в интернет-контенте, потенциально трансформируя его в поле для борьбы двух противоположных информационных потоков. Исследователи призывают пользователей к критическому восприятию информации и подчёркивают важность медийной грамотности в эпоху ИИ.
