Создатель OpenAI считает ИИ экзистенциальной угрозой
Лидеры технологических компаний опубликовали открытое письмо, в котором, как это принято говорить, выразили глубокую озабоченность по поводу будущего человечества с учетом растущего влияния ИИ. К ним присоединился даже тот, кого считают виновником этой угрозы, — Сэм Альтман.
На момент написания статьи почти 400 специалистов, которые считаются лидерами мнений в области новых технологий, обладатели премии Тьюринга, основатели успешных техно- и финансовых проектов уже поставили свои подписи под письмом.
К счастью, успешные предприниматели и ученые — это не политики. Они могут выражать свое мнение без эвфемизмов и двусмысленных фраз. Поэтому в письме вещи называются своими именами: ядерная угроза и пандемия вроде недавнего COVID-19 покажутся нам детской сказкой, если мы не возьмем под контроль развитие технологии нейросетей.
Какие реальные угрозы видят те, кто готовил текст открытого письма?
- Ничем не ограничиваемое распространение через интернет фейков и враждебной пропаганды. Человек привык доверять информации, которую он находит в сети. Критическое мышление, фейк-фильтры и желание проверять сведения в нескольких источниках практически атрофировались в условиях, когда инфонагрузка в несколько раз превышает способность с ней справляться.
- Массовая безработица для категории «белых воротничков». В первую очередь пострадают юристы, журналисты, переводчики и дизайнеры. Также высока угроза для преподавателей, которых легко заменит машинное обучение.
- По расчетам участников Всемирного экономического форума, к 2025 году ИИ автоматизирует около 75 млн рабочих мест, и это коснется не только специалистов интеллектуальной сферы.
- Такое развитие событий может вызвать огромные социальные потрясения, которые, как следствие, некому будет обуздать. Бунты будут подпитываться потоком непроверенной и манипулятивной информации (см. пункт 1).
Инициаторами написания этого открытого письма стали:
- Сэм Альтман, исполнительный директор OpenAI;
- Демис Хассабис, исполнительный директор Google DeepMind;
- Дарио Амодеи, исполнительный директор Anthropic;
- Ян ЛеКун, глава исследовательской лаборатории Meta;
- Джеффри Хинтон и Йошуа Бенжио, исследователи в области нейронных сетей, которых считают «крестными отцами» ИИ.
То есть творцы машинного разума откровенно признали, что их джин вырвался из бутылки, и пока не видят реальных возможностей его обуздать. Они опасаются, что яростная конкуренция в этой области сделает предпринимателей глухими к доводам рассудка. Но, кроме общих фраз о необходимости «жесткого контроля», никаких работающих алгоритмов в письме не предлагается.
Вероятно, Бог точно так же наблюдает сверху, как его любимое творение возомнило себя всесильным существом и включило режим самоуничтожения. Только Богу некого просить «Господь, жги!»
