Facebook удаляет учетные записи с фотографиями, созданными искусственным интеллектом

Это первая чистка фотографий, созданных искусственным интеллектом, в соцсетях
Facebook

ФЕЙСБУК удалила со своей платформы и Instagram то, что она назвала глобальной сетью из более чем 900 учетных записей, страниц и групп, которые якобы использовали обманные методы для распространения нарративов в поддержку Трампа примерно 55 миллионам пользователей. Сеть использовала поддельные учетные записи и фотографии, созданные с помощью искусственного интеллекта.

Это тревожное событие в информационных войнах, поскольку, это первое крупномасштабное мигрирование изображений, созданных ИИ, в социальной сети. В своем отчете исследователи из дезинформационных групп Graphika и DFRLab отметили, что они впервые увидели технологию, используемую для поддержки недостоверной политической кампании в социальных сетях.

 

две фотографии профиля с блоками анализа, указывающими на несоответствия
Фотографии профиля для учетных записей Facebook «Мэри Кин» и «Джейкобс Гильермо», администраторов групп, связанных с The BL

 

Искуственные фото использовались для 610 учетных записей Facebook, связанных с «BL» – цифровым новостным изданием. Расследование Facebook связало The BL с The Epoch Times , консервативной медиа-организацией, занимающейся агрессивной поддержкой Дональда Трампа.

Страницы сети BL управлялись пользователями из Вьетнама и США, которые, по словам Facebook, использовали поддельные учетные записи, чтобы избежать обнаружения и направить трафик на свои веб-сайты. Отчет исследователей Graphika и DFRLab показал, что большинство поддельных учетных записей сети The BL использовались для администрирования более чем 80 групп и страниц, продвигающих президента Трампа. Учетные записи, выступающие в качестве администраторов этих страниц, в основном были фальшивыми и были созданы во Вьетнаме.

«Поддельные учетные записи являлись администраторами групп Facebook, увеличивали число участников этих групп, лайкали публикации на страницах и публиковали большое количество контента из активностей, связанных с TheBL», — отмечается в отчете. «Эта структура представляла собой крупномасштабную искусственную фабрику, единственная функция которой заключалась в том, чтобы продвигать контент из TheBL».

 

две страницы Facebook с изображениями профилей
Слева администраторы «Патриотов за президента Трампа», девять из 15 из которых использовали лица, сгенерированные ИИ, говорят исследователи. Справа администраторы «Президент Трамп KAG 2020», восемь из 16 из которых, согласно отчету, являются поддельными лицами

 

Многие из этих учетных записей использовали изображения профилей, которые, по словам исследователей, были созданы с использованием нейронных сетей, обученных на изображениях реальных человеческих лиц. Хотя технология способна создавать сносные поддельные лица, у нее есть несколько очевидных изъянов, которые помогли определить фэйк. Он работает за счет имитации визуальных паттернов, но не понимает анатомию человека и борется с фоном и симметричными чертами, такими как очки или серьги.

 

3 фотографии мужчины, анализирующего несоответствия в изображении.
Фотография профиля для аккаунта «Альфонсо Масиас» с созданными искусственным интеллектом. Несоответствия вокруг его очков, которые, по словам Graphika, предполагают работу искусственного интеллекта

 

Изображение выше из отчета Graphika было взято из фотографии профиля «Альфонсо Масиаса», администратора одной из групп в сети BL. «Обратите внимание на асимметрию в очках, а также на плохо различимый фон», — говорится в отчете. «Авторы проверили это изображение у экспертов из Университета Федерико II в Неаполе, которые оценили, что это изображение было сгенерировано с помощью GAN с вероятностью 99,9%».