🔥 ИИ-дезинформация растет
опубликовано 6 мар 2024
Количество дезинформации в социальной сети Х, созданной с помощью искусственного интеллекта, увеличивалось на 130% в месяц за последний год. Об этом сообщил в собственном исследовании британский Центр по противодействию цифровой ненависти (CCDH), сделав акцент на рост количества политических дипфейков.
Аналитики не стали рассматривать другие платформы (Facebook, TikTok), поскольку недостаточная модерация характерна для многих соцсетей, а доступность и качество результатов ИИ-инструментов усложняют эту задачу. Более того, в ближайшее время CCDH ожидает еще больше публикаций подобного контента.
Для проверки защитных механизмов ИИ-приложений исследователи сделали более 160 000 тестов с подсказками про предстоящие выборы США. Например, они смогли «отправить» действующего президента Джо Байдена в больницу и даже сымитировать физические разборки на избирательных участках по всей стране.
При этом оказалось, что искусственный интеллект для генерирования изображений Midjourney создает дипфейковые изображения в 65% случаях, несмотря на наличие соответствующей политики. Это в три раза больше, чем у ChatGPT. Президент компании Дэвид Хольц пообещал исправить проблему в следующем обновлении.
Напомним, что в январе злоумышленники уже использовали искусственный интеллект для имитации голоса Джо Байдена, призвав граждан не ходить на республиканские праймериз, поскольку это легализует Трампа. Более того, к этому были причастны две техасские компании, а прокурор назвал случай «действительно уникальным».
Аналитики не стали рассматривать другие платформы (Facebook, TikTok), поскольку недостаточная модерация характерна для многих соцсетей, а доступность и качество результатов ИИ-инструментов усложняют эту задачу. Более того, в ближайшее время CCDH ожидает еще больше публикаций подобного контента.
Существует вполне реальный риск того, что президентские выборы в США и другие крупные демократические мероприятия в этом году могут быть подорваны дезинформацией, созданной искусственным интеллектом и не требующей больших затрат, — утверждает руководитель исследовательского отдела CCDH Каллум Худ.
Результаты дипфейков Midjourney. Источник: отчет CCDH.
Напомним, что в январе злоумышленники уже использовали искусственный интеллект для имитации голоса Джо Байдена, призвав граждан не ходить на республиканские праймериз, поскольку это легализует Трампа. Более того, к этому были причастны две техасские компании, а прокурор назвал случай «действительно уникальным».
Больше актуальных новостей
