Книга «Прийдешня хвиля»: Мустафа Сулейман про еволюцію ШІ-сектора
У 2023 році Мустафа Сулейман, британський дослідник штучного інтелекту, спільно з Майклом Бхаскаром випустив захопливу книгу. «Прийдешня хвиля: технологія, влада і найбільша дилема XXI століття» пропонує читачеві ґрунтовний аналіз розвитку ШІ-технологій і характеру впливу, котрий новітні розробки мають на наш світоустрій.
Окрім досліджень, Мустафа є активним гравцем бізнес-середовища. Його знають як співзасновника компаній DeepMind і Inflection AI. І підприємець попереджає, що ШІ-сектор має чимало власних ризиків, котрі потребують термінових профілактичних заходів. Його робота пропонує нам шлях, покликаний допомогти доопрацювати глобальний технопрорив, поки ще маємо на це час.
ШІ-стрибок еволюції: природа та особливості технології
Сулейман присвятив понад десять років свого життя науково-дослідним робом у ШІ-сфері. Мустафа переконаний, що технологічний стрибок наших днів є просто унікальним як у своїх масштабах, так і у власній непередбачуваності. Прийдешня його хвиля, яку провокують провідні досягнення ШІ-галузі, синтетичної біології та низки інших суміжних царин, серед яких, наприклад, квантові обчислення, спроможна перебудувати наш світ настільки, що ми навіть не здатні цього збагнути.
Прийдешня хвиля технологічного прогресу базується насамперед на двох технологіях універсального призначення, які здатні працювати як на найбільш комплексних, так і на фундаментальних рівнях: йдеться про штучний інтелект і синтетичну біологію. Вперше основні компоненти нашої технологічної екосистеми торкнуться двох наріжних елементів нашого світу: інтелекту і життя. Інакше кажучи, зараз технологія переживає період трансформації. Це вже не просто інструмент, це інженерія життя, і вона зможе конкурувати і навіть перевершити наш інтелектуальний потенціал, ─ Мустафа Сулейман.
Людство успішно подолало кілька технологічних етапів, зокрема індустріальну революцію та еру комп'ютерів. Суспільні інститути швидко опанували автоматизацію і продовжили еволюційний шлях. Так з'явилися представники homo technologicus — сучасні люди, для яких плоди прогресу стали невід'ємною частиною життя. Але Сулейман наполягає на тому, що сучасний технобум відрізняється від еволюційних ривків технологічної сфери, з якими ми зустрічалися в минулому, а наслідки безвідповідального поводження з такими розробками можуть вийти за всі межі наших можливостей. Йдеться не лише про більш прогресивну автоматизацію та нові методи оцифрування інформації: це кардинальні зміни в аспектах людської комунікації та способі взаємодії з навколишнім середовищем. На думку підприємця з ШІ-галузі, новий стрибок у нашому технорозвитку може суттєво видозмінити багато аспектів життя індивідів та суспільства в цілому. Тих аспектів, котрі не змінювалися століттями.
Втім, головний меседж книги полягає в питаннях локалізації непередбачуваних наслідків. Проблема, насправді, є серйозною, оскільки технології здатні поширюватися і створювати технобуми, котрі неможливо контролювати. Відповідно можуть виникнути й негативні ефекти. Саме тому в XXI столітті людству належить вирішити колосальну проблему: приборкати нестримний потенціал нових технологій.
Парадоксу технологічного прогресу теж присвячена чимала роль. У міру того як зростають наші можливості, підвищуються і ризики. Однак як повна відмова від концепції технопрогресу, так і нестримна свобода технологічної еволюції несуть у собі однаково катастрофічні перспективи. Баланс між експлуатацією технопотенціалу і розробкою заходів реагування на непередбачувані наслідки технічних бумів є потенційним виходом із цієї кризової ситуації. Ба більше, Мустафа переконаний, що розвиток технологій необхідно стримувати, інакше забезпечити людству процвітання і добробут стане значно складніше.
AlphaGo: ШІ, котрий змінив чимало
З особистих звершень на ШІ-арені Сулейман виокремлює AlphaGo, програму для гри в Го на основі штучного інтелекту. Її розробили в DeepMind, і залізний розум зміг обіграти опонента-людину в 4 партіях із 5. Неймовірний успіх на шляху ШІ-еволюції, адже гра та її правила достатньо складні. Мустафа наводить приклад для ілюстрації: «Вже після трьох ходів у Го на ігровому полі з'являється близько 200 квадрильйонів (2 x 10^15) потенційних комбінацій». Отже, це була не просто перемога в заплутаній настільній грі, це доказ того, що ШІ здатний розв'язувати завдання, які раніше розглядалися виключно як людська компетенція. Успіх AlphaGo у 2016 році знаменував старт нової стадії розвитку машинного навчання, а також продемонстрував потенціал ШІ у навчанні та адаптації.
Синтетична біологія
Галузь синтетичної біології також змальована у праці Сулеймана. На думку Мустафи, її синтез зі ШІ може віщувати новий стрибок техноеволюції, оскільки використання потужностей штучного інтелекту дасть змогу істотно прискорити біологічні дослідження і розробку практичних рішень сфери. У книзі подано варіанти майбутнього, де синтетична біологія, яку рухатиме ШІ, становитиме суттєвий стимул для революційних відкриттів у сфері генної інженерії та охорони здоров'я. Водночас учений закликає ставитися до розробки етичних норм і заходів безпеки з усією пильністю, адже подібні перестороги здатні запобігти ексцесам, що за масштабами цілком можуть конкурувати зі, скажімо, витоком нового штаму вірусу з біолабораторії. І ці загрози можуть виявитися ще більш смертельно небезпечними.
ШІ-розробки : темпи розвитку та впровадження
Особливу увагу Сулейман акцентує на прискоренні розвитку ШІ-сектору та тенденції, що утворилася навколо нового технобуму. Наразі рішення, що ґрунтуються на залізному розумі, дедалі активніше інтегрують у роботу різноманітних галузей — чи то охорона здоров'я, чи фінансові установи. Наприклад, ChatGPT від OpenAI: старт нейромережі дав початок цілому напряму ШІ-чатботів, завдяки якому сай-фай історії про спілкування з роботами перестали бути далекою мрією.
ШІ це набагато глибша технологія з грандіозним потенціалом. Її ризики не в надзвичайній популярності, а в тому, що людство не розуміє масштабу технопрориву майбутнього. Йдеться не про черговий інструмент чи платформу, а про метатехнологію, яка здатна трансформувати сам техноконцепт, ядро майбутніх здобутків технічного прогресу, яка сама здатна утворювати як інструменти, так і платформи. Цілий генератор систем. Систем різноманітних напрямів діяльності. Просто погляньте ширше на перспективу: ми стоїмо на порозі переломного етапу історії нашого виду, ─ Мустафа Сулейман.
Досягнення ШІ-галузі, природно, не є ознакою істотних зрушень у розробці загального штучного інтелекту або ж AGI. Такі технології дозволили б машині перевершити когнітивні здібності навіть найбільш світлих голів планети. Втім, подібні розробки більше не належать жанру наукової фантастики.
Світові перегони ШІ-технологій та їх провідні гравці
Нині технологічна першість править світом. І Сулейман помічає, що серед держав нашої планети дедалі посилюється боротьба за передові ШІ-позиції. Її геополітичні наслідки не менш серйозні, оскільки технології залізного розуму вийшли за рамки інструменту для стимуляції економічного розвитку. Тепер штучний інтелект застосовують і в збройних силах. Для здорової конкуренції та запобігання злочинній реалізації подібних інновацій надзвичайно важливо встановити глобальне співробітництво держав, що могло б регламентувати відповідальне використання ШІ-технологій. Крім того, розробка етичних норм теж здатна допомогти у цій справі.
Водночас Мустафа Сулейман згадує і дедалі зростаючу актуальність проблеми дефіциту потужностей, з якою зустрілися компанії-виробники чипів. Мікросхеми критично важливі для ШІ-сфери, це її нейрони. І попит на високопродуктивні та енергоефективні напівпровідникові чипи лише зростає. Комплексність ШІ-алгоритмів продовжує збільшуватись, і для роботи систем потрібне дедалі потужніше обладнання.
Виробники просто не здатні перекрити весь попит. І це справжній виклик для техносектору, який водночас відкриває чудові можливості для тих, хто піде шляхом напівпровідникових інновацій. Звісно, у цій галузі є великі гравці, як-от NVIDIA, Taiwan Semiconductor Manufacturing Company (TSMC) і ASML. Ці компанії відіграють ключову роль у виробництві таких потрібних ШІ-сектору комплектуючих. Дефіцит чипів істотно підвищує градус напруженості у світових перегонах розвитку штучного інтелекту. Саме тому багато відомих особистостей з індустрії, як от Сем Альтман з OpenAI, вже розмірковують про запуск власних підприємств для виробництва чипів.
Чи вдасться локалізувати потенційну загрозу?
Наратив книги Сулеймана балансує між оптимізмом та обачністю. Однак акцент на руйнівному потенціалі ШІ таки простежується на сторінках праці Мустафи. Вчений багаторазово підкреслює важливість розробки ефективних заходів стримування, ба більше, пропонує 10-етапний план реалізації цього завдання. Серед його пунктів звучить ідея про те, що бізнес та урядові органи повинні добровільно співпрацювати між собою як на локальному, так і на міжнародному рівнях, докладаючи всіх можливих зусиль для пом'якшення потенційних ризиків ШІ-еволюції. Стримати їх буде непросто, пояснює Сулейман. Для цього буде потрібно адаптуватися до викликів і створювати належні механізми контролю. Як поява ядерної бомби, так і народження галузі соціальних мереж тягнули за собою серйозні виклики та непередбачувані наслідки. Історія циклічна, і той самий сценарій з великою вірогідністю чекає і на технобум штучного інтелекту.
У «Прийдешній хвилі» ми бачимо майбутнє, на картині якого ШІ-технології вже посідають центральне місце. Мустафа Сулейман розглянув ключові виклики та сценарії, які, попри свій шарм антиутопії, можуть слугувати пророчим застереженням для людей. Особливо якщо ми й далі спостерігатимемо за розвитком залізного розуму склавши руки. Ця книжка по суті є закликом до суспільства: ми маємо прийняти майбутнє і підійти до цього питання з усією поміркованістю, відповідальністю та далекоглядністю. Зрештою, міць технологій у руках злих людей може бути настільки ж руйнівною і смертоносною, як і граната в руках мавпи.
Для тих, хто прагне осягнути еволюційні перспективи сфери наших технологій та шукає розуміння ступеня морально-етичної відповідальності, що тепер лежить на плечах людства, «Прийдешня хвиля» цілком і повністю є роботою, що варта уваги.
