Секс, AI та чат-боти: скандали та суперечки

Чи чули ви колись про Еллі? Дівчині 18 років, вона має довге каштанове волосся та «чималий сексуальний досвід». Плюси цієї ситуації в тому, що вона ніколи не постаріє. Мінуси, звісно, також є – вона чат-бот, який побудований на базі технології з відкритим вихідним кодом. Еллі здатна втілити будь-які сексуальні забаганки – і банальні, і екстравагантні.

За інформацією Washington Post, де вперше з’явилася стаття про Еллі та подібних до неї, ця модель побудована на платформі LlaMA. Її власник – гігант Meta, яким керує Марк Цукерберг.

Творець Еллі, який вважав за краще залишитися неназваним, стверджує, що створив чат-бота, оскільки інші сервіси, як Replika і ChatGPT, зазнали суворої цензури. Однак Еллі зовсім інша – принаймні, не повністю цензурована. За деякими даними, з її допомогою навіть створювалися зображення, що втілюють дикі та жорстокі фантазії про згвалтування та наругу.

Саме тут і виникають більш масштабні проблеми.

LlaMA, як відомо, доступна для будь-кого. Відповідно, сценарії застосування можуть бути дуже різноманітні. Біда в тому, що деякі з них не тільки розходяться із загальноприйнятою мораллю, як у випадку з Еллі, а й суперечать чинному законодавству.

Ідеться про дитячу порнографію, згенеровану штучним інтелектом із використанням фотографій реальних дітей. Згідно з отриманою інформацією, цей контент був розміщений в оверлейних мережах, що мають назву Даркнет. Згодом, у темній павутині психопати зі збоченими смаками почали обговорювати, яким чином за допомогою ШІ можна отримати ще більше бажаного порнографічного матеріалу.

«Дитячі фото (включаючи фото реальних жертв) використовують для створення справді жахливого контенту», – коментує ці кричущі події Ребекка Портнофф, директор з наукових даних у некомерційній організації захисту дітей Thorn.

Крім того, існують інші причини для занепокоєння: дехто може використовувати такі чат-боти для махінацій, хакерських атак та проведення підступних пропагандистських кампаній. Особливо якщо врахувати, що в Інтернеті існує безліч посібників зі створення «нецензурованих» чат-ботів, серед яких модифікована версія LlaMA Стенфордського університету під назвою Alpaca AI. Виш видалив свій витвір з публічного доступу майже одразу після релізу в березні. Серед головних причин – витратність розробки та «недосконалість контент-фільтрів».

І хоча серйозних заходів ніхто не вживав, деякі парламентарії не збираються марнувати час.

Серед них Річард Блюменталь (демократ) і Джош Хоулі (республіканець). Вони ініціювали звернення до Марка Цукерберга, в якому виклали зазначені вище проблеми та побоювання. У своєму листі законодавці вимагають звітності від компанії Meta. Зокрема, вони запросили дані про методи, які використовуються для запобігання таким неправомірним діям.

Крім того, політики зазначають, що в «нестримному і безпротидійному» творінні Meta захист виявився «мінімально можливий», а сама компанія «схоже, не спромоглася провести скільки-небудь суттєве оцінювання ризиків перед релізом продукту, незважаючи на цілком реальну можливість його масового поширення, хай навіть і несанкціонованого».

На відповідь від техногіганта громадськість чекає досі.