ИИ-журналистика: контент-фермы вместо СМИ, деньги мимо кассы

Исследовательская компания NewsGuard была основана в 2018 году медиапредпринимателем и журналистом Стивеном Бриллом  и бывшим издателем Wall Street Journal Гордоном Кровитцем. Предприниматели решили совместно разрабатывать инструменты противодействия дезинформации.

Как показывает новый отчет NewsGuard, бесконтрольное внедрение ИИ в издательскую сферу может подорвать доверие к медиакомпаниям в целом и серьезно дестабилизировать сферу онлайн-новостей. В частности, исследование Брилла и Кровитца  выявило 37 веб-сайтов, на которых были размещены статьи с текстом, изображениями и цитатами, идентичными статьям, опубликованным в New York Times, Reuters CNN и других ведущих изданиях.

 

Эти веб-сайты, в основном контент-фермы и агрегаторы новостей, воздерживались от указания первоначальных источников или авторов. В общем, ничего нового в таком поведении недобросовестных издателей и журналистов нет. Но особый размах эта тактика получила благодаря внедрению искусственного интеллекта, который автоматизирует процесс переписывания контента для заполнения этих платформ.

Найти эти 37 ресурсов в сети было довольно легко по ряду характерных признаков. Скажем, в текстах появлялись автоматические сообщения об ошибках, характерные именно для ИИ. Некоторые статьи завершались заявлениями, признающими роль искусственного интеллекта в переписывании текста и, конечно, встречалась контрольная фраза, «мне, как искусственному интеллекту сложно судить о…». В NewsGuard подчеркивают, что эти сайты были обнаружены из-за довольно халатно исполненной работы и неумения правильно настроить ИИ. Сколько нераскрытых ресурсов осталось, можно лишь предполагать. 

Эксперты прогнозируют, что количество плагиаторов будет увеличиваться, пока не произойдет улучшение инструментов обнаружения ИИ-плагиата и принятие соответствующих регулирующих мер. И это при том, что OpenAI прямо запрещает использовать свои большие языковые модели для плагиата. Аналогичный запрет есть и у Google для его генеративного ИИ. Google предостерегает пользователей от использования искусственного интеллекта для создания контента, который может вводить читателей в заблуждение, дезинформировать их или искажать их представления, в том числе об источнике информации. Особо оговаривается запрет на распространение контента, созданного ИИ под видом продукта интеллектуальной деятельности человека. Но, как показывает исследование NewsGuard, эти запреты носят чисто декларативный характер и никак не препятствуют появлению контент-ферм.

Но проблема выходит далеко за рамки этических вопросов. Для контент-ферм использование ИИ для переработки статей из других источников рассматривается как основная стратегия увеличения доходов от рекламы. Авторский контент серьезных изданий готовится довольно долго, в его создании принимают участие иногда десятки людей. Неавтоматизированный плагиат подобных публикаций, распространенный до эры ИИ, также требовал длительного времени. Таким образом, создатели оригинальных статей имели в запасе несколько дней, чтобы привлечь рекламные бюджеты под эксклюзивный контент. Сегодня, как отмечается в отчете NewsGuard, на контент-фермах с крадеными статьями во всю размещается программная реклама известных компаний. Иными словами, ведущие бренды, сами того не зная, помогают финансировать практику использования искусственного интеллекта для мошеннического воспроизведения авторского контента.

Постепенно между медиа индустрией и технологическими компаниями назревает напряженность, ведь ИИ-инструменты все чаще посягают на контент, защищенный авторским правом. Это прямо влияет на авторов и издателей, как минимум снижая поступления от рекламы. В зарождающемся мире создания контента с помощью искусственного интеллекта баланс между инновациями, точностью и оригинальностью остается вопросом номер один. Хотим мы или не хотим, но ИИ-медиа продолжают развиваться. Все заинтересованные стороны и регуляторы должны установить четкие стандарты этичного использования ИИ.

Напомним, ранее GN давал ответ на вопрос, может ли искусственный интеллект уничтожить Голливуд.