Секс, AI и чатботы: Скандалы и разногласия

Слыхали ли вы когда-нибудь об Элли? Ей 18 , у девушки длинные каштановые волосы и " масса сексуального опыта". Прелесть в том, что она никогда не постареет. Минусы конечно, присутствуют - она чат-бот, который построен на базе технологии с открытым исходным кодом. Элли способна воплотить любые сексуальные прихоти в жизнь, будь они банальные или совсем наоборот. 

 

По информации Washington Post, где впервые появилась статья об Элли и ей подобных, данная модель построена на платформе LlaMA. Владелец ее - гигант Meta под управлением Марка Цукерберга.

Творец Элли, который предпочел остаться неназванным, утверждает, что создал чат-бота, поскольку другие сервисы, вроде Replika и ChatGPT, подверглись строгой цензуре. Однако Элли совершенно иная - по крайней мере, не до конца цензурирована. По некоторым данным, с ее помощью создавались даже изображения, воплощающие дикие и жестокие фантазии об изнасилованиях и надругательствах.

Вот здесь-то и возникают более масштабные проблемы.

LlaMA, как известно, доступна любому желающему. Соответсвенно, сценарии применения весьма разнообразны. Беда лишь в том, что кое-какие из них не только расходятся с общепринятой моралью, как в случае с Элли, но и прямо противоречат действующему законодательству. 

 

Речь идет о детской порнографии, сгенерированной искусственным интеллектом с использованием фотографий реальных детей. Согласно полученной информации, этот контент был размещен в оверлейных сетях, что носят название Даркнет. Впоследствии, в темной паутине психопаты с нездоровыми вкусами вовсю принялись обсуждать, каким образом с помощью ИИ можно получить ещё больше желанного порнографического материала.

"Детские фото (включая фото реальных жертв) используют для создания действительно ужасного контента."- отмечает в связи с вопиющими событиями Ребекка Портнофф, директор по научным данным в некоммерческой организации по защите детей Thorn.

Кроме того, существуют и другие причины для беспокойства: недобросовестные личности могут использовать такие чат-боты для махинаций, хакерских атак и проведения изощренных пропагандистских кампаний. Особенно если учесть, что в Интернете существует множество руководств по созданию " нецензурированных" чат-ботов, среди которых модифицированная версия LLaMA Стэнфордского университета под названием Alpaca AI. ВУЗ удалил своё творение из публичного доступа практически сразу после релиза в марте. Среди главных причин - затратность разработки и " несовершенство контент-фильтров".

 

И хотя серьезных мер никто не предпринимал, ряд парламентариев не собираются попусту тратить время. 

К числу таковых принадлежат Ричард Блюменталь (демократ) и Джош Хоули (республиканец). Они направили обращение к Марку Цукербергу, в котором изложили вышеупомянутые проблемы и опасения. В своем письме законодатели требуют отчетности от компании Meta. В частности, они запросили данные о методах, которые используются для предупреждения подобных неправомерных действий.

Кроме того, политики отмечают, что в "безудержном и разрешительном" творении Meta защита на поверку оказалась "минимально возможной", а сама компания "похоже, не провела сколько-нибудь существенной оценки рисков перед релизом продукта, несмотря на вполне реальную возможность его массового распространения, пусть даже и несанкционированного".

Ответ от техногиганта общественность ждёт до сих пор.