ЄС прийняв перший у світі закон про ШІ! Що чекати?

Основні положення включають заборону певних застосунків на основі штучного інтелекту, які порушують права громадян. Наприклад, забороняється:

- біометрична категоризація на основі конфіденційних характеристик;
- нецільове сканування обличчя чи вилучення зображень облич з інтернету з метою створення баз даних для розпізнавання;
- соціальна оцінка;
- розпізнавання емоцій на робочих місцях і в школах. 

Також забороняється ШІ, який маніпулює поведінкою або використовує людські вразливості. Це справді є серйозною проблемою сьогодення. У нашій статті ми висвітлювали тему наслідків, які несуть за собою ШІ-партнери.

Винятки для правоохоронних органів

У законі передбачені винятки, зроблені для використання біометричних систем ідентифікації в режимі реального часу правоохоронними органами в суворо регламентованих ситуаціях. Наприклад, для пошуку зниклих безвісти або задля запобігання терористичним загрозам, за умови дотримання заходів безпеки та наявності відповідних дозволів.

Класифікація ризиків ШІ

До високого ризику відносяться технології ШІ, які використовуються в: 

• критичній інфраструктурі;
• освітній або професійній підготовці;
• приватних і державних послугах (охорона здоров’я, банки);
• правоохоронних діях;
• управлінні міграцією;
• здійсненні правосуддя;
• демократичних процесах тощо. 

Такі системи повинні оцінювати та зменшувати ризики, вести журнали використання, бути прозорими та точними, а також забезпечувати нагляд з боку людини.

Обмеженим ризиком називається той, що пов’язаний із недостатньою прозорістю використання ШІ. Наприклад, люди повинні бути повідомлені про  взаємодію з чат-ботом на базі ШІ, а постачальники повинні забезпечити ідентифікацію контенту, створеного штучним інтелектом. Особливо це стосується дипфейків, загрозу яких ми також висвітлювали.

Закон про штучний інтелект дозволяє вільно використовувати ШІ із мінімальним ризиком. Сюди входять відеоігри з підтримкою ШІ або фільтри спаму. Переважна більшість систем ШІ, які зараз використовуються в ЄС, підпадають під цю категорію.

Нагляд та розвиток індустрії

Нагляд за дотриманням і реалізацією Закону про штучний інтелект буде здійснювати Європейський офіс з ШІ разом із Комісією. Він також буде сприяти інноваціям та дослідженням у цій сфері.

Що далі?

Правила очікують на остаточну юридичну перевірку та офіційне схвалення Радою. Закон набуде чинності через 20 днів після публікації, а повне застосування розпочнеться через 24-36 місяців, залежно від положення.

Резюме

Закон ЄС про штучний інтелект виглядає прийнятним для громадян, а точніше таким, що справді захищає їхні права, безпеку та конфіденційність. Він захищає від загроз, пов’язаних з ШІ, та дає надію на те, що світ не перетвориться на антиутопію, керовану штучним інтелектом.