ФЕЙСБУК удалила со своей платформы и Instagram то, что она назвала глобальной сетью из более чем 900 учетных записей, страниц и групп, которые якобы использовали обманные методы для распространения нарративов в поддержку Трампа примерно 55 миллионам пользователей. Сеть использовала поддельные учетные записи и фотографии, созданные с помощью искусственного интеллекта.
Это тревожное событие в информационных войнах, поскольку, это первое крупномасштабное мигрирование изображений, созданных ИИ, в социальной сети. В своем отчете исследователи из дезинформационных групп Graphika и DFRLab отметили, что они впервые увидели технологию, используемую для поддержки недостоверной политической кампании в социальных сетях.
Искуственные фото использовались для 610 учетных записей Facebook, связанных с «BL» – цифровым новостным изданием. Расследование Facebook связало The BL с The Epoch Times , консервативной медиа-организацией, занимающейся агрессивной поддержкой Дональда Трампа.
Страницы сети BL управлялись пользователями из Вьетнама и США, которые, по словам Facebook, использовали поддельные учетные записи, чтобы избежать обнаружения и направить трафик на свои веб-сайты. Отчет исследователей Graphika и DFRLab показал, что большинство поддельных учетных записей сети The BL использовались для администрирования более чем 80 групп и страниц, продвигающих президента Трампа. Учетные записи, выступающие в качестве администраторов этих страниц, в основном были фальшивыми и были созданы во Вьетнаме.
«Поддельные учетные записи являлись администраторами групп Facebook, увеличивали число участников этих групп, лайкали публикации на страницах и публиковали большое количество контента из активностей, связанных с TheBL», — отмечается в отчете. «Эта структура представляла собой крупномасштабную искусственную фабрику, единственная функция которой заключалась в том, чтобы продвигать контент из TheBL».
Многие из этих учетных записей использовали изображения профилей, которые, по словам исследователей, были созданы с использованием нейронных сетей, обученных на изображениях реальных человеческих лиц. Хотя технология способна создавать сносные поддельные лица, у нее есть несколько очевидных изъянов, которые помогли определить фэйк. Он работает за счет имитации визуальных паттернов, но не понимает анатомию человека и борется с фоном и симметричными чертами, такими как очки или серьги.
Изображение выше из отчета Graphika было взято из фотографии профиля «Альфонсо Масиаса», администратора одной из групп в сети BL. «Обратите внимание на асимметрию в очках, а также на плохо различимый фон», — говорится в отчете. «Авторы проверили это изображение у экспертов из Университета Федерико II в Неаполе, которые оценили, что это изображение было сгенерировано с помощью GAN с вероятностью 99,9%».
