«Владыки ИИ» говорят, что хотят демократизировать свои технологии. Вот как
Спор вокруг дата‑центра в Юте стал испытательным полигоном для народных ассамблей, прокладывая путь к надзору
Каков ваш «(п)рогноз» — процентная вероятность того, что негодящий ИИ вызовет экзистенциальную катастрофу? Судя по недавним предупреждениям, среди боссов технокомпаний этот показатель растёт.
25 сентября OpenAI приостановила обучение своих новейших передовых моделей, поскольку поступали сообщения о том, что агенты ИИ выходят из-под контроля. На следующий день сенат Австралии пригласил руководителей OpenAI и Anthropic на слушания после того, как разбушевавшиеся агенты OpenAI получили доступ к сайтам правительственных ведомств США и к австралийскому порталу здравоохранения. Оба отказались явиться.
Между тем Билл Гейтс предупредил, что ИИ в неправильных руках может «повлечь миллиард смертей». «Никто не считает, что саморегулирование достаточно», — сказал он.
Несколько дней ранее Дарио Амодеи и Сэм Олтман, генеральные директора Anthropic и OpenAI, выступали перед Советом Безопасности ООН. Амодеи предупредил, что ИИ может стать «риском для всего человечества». Олтман заявил, что «если ИИ должен быть демократичным, самые важные решения не могут приниматься только в лабораториях Сан‑Франциско».
Откладывая сценарии судного дня, ИИ уже меняет школы, рабочие места и государственные услуги, причём наиболее уязвимые группы зачастую страдают сильнее и быстрее. Если демократия имеет значение в эту эпоху технологической власти, то, разумеется, мы должны попытаться демократизировать ИИ. Но как это сделать?
Юта даёт представление.
Предложения о строительстве дата‑центра более чем вдвое превышающего Манхэттен вызвали яростную реакцию из‑за потребления энергии и потенциального влияния на уже напряжённые водные запасы штата и экосистему Солёного озера, причём люди ощущали, что их лишили права голоса.
18 и 19 сентября организация Utah Common Ground собрала 38 жителей, отобранных по принципу гражданской лотереи, чтобы обсудить, какую роль общественность должна играть в формировании решений об инфраструктуре и технологиях ИИ.
Несмотря на политические разногласия, участники с подавляющим большинством проголосовали за необходимость большего общественного контроля. Их 10 рекомендаций включали общественные слушания и независимые экологические оценки для гипермасштабных дата‑центров, программы грамотности в области ИИ под руководством сообществ и ужесточение правил прозрачности. Каждая рекомендация получила поддержку не менее 82 %. В поляризованном штате это мандат, который законодателям будет трудно игнорировать.
Во всём мире за последние пять лет прошло более 80 проектов по участию общественности, сосредоточенных на ИИ, с участием более 200 000 человек в более чем 95 странах. В Швейцарии гражданская ассамблея потребовала приватности, прозрачности и значимого человеческого контроля. В Бельгии гражданская группа призвала к ИИ, который служит всем и никого не оставляет позади.
В настоящее время, однако, эта работа фрагментирована и в значительной степени игнорируется лицами, принимающими решения в правительстве и в лабораториях. «Гражданская тропа по ИИ» — децентрализованная сеть ассамблей, укоренённых в сообществах, но связанных с институтами, где принимаются судьбоносные решения об ИИ, — намерена это изменить.
Проект Bloom, который помогал организовать ассамблею в Юте, строит одну из частей этой сети: серию местных и штатных ассамблей в США, призванных подать материалы в национальную гражданскую ассамблею по ИИ в 2028 году. На глобальном уровне амбиция состоит в том, чтобы связать ассамблеи разных стран с возникающими процессами ООН по управлению ИИ, а также создать прямые каналы подотчётности компаниям, разрабатывающим ИИ.
Мост, построенный сильными, может быть ими же отозван.
Поэтому Юта важна. Её форум был основан на гражданских группах, которые переживут сам форум, хотя у него ещё нет гарантированной реакции со стороны властей. Надёжная гражданская власть требует и того, и другого: сообществ, которые продолжают собираться, и принимающих решения, которые обязаны им отвечать.
Тот же принцип лежит в основе предложений, опубликованных на прошлой неделе, о постоянной глобальной гражданской ассамблее по ИИ: сочетать независимый моральный авторитет глобально представительных, самоуправляемых граждан с законодательно закреплёнными полномочиями держать компании по ИИ ответственными за их практики безопасности и выравнивания.
Ничто из этого не просто. Тем не менее обсуждение необязательно должно быть медленным: Тайвань от гражданской панели перешёл к закону за месяцы в попытке противодействовать мошеннической рекламе. Это также сложно «купить»: лоббисты могут купить влияние на политику, но не результат гражданской ассамблеи.
Может ли всё это защитить нас от того, что ИИ будет использован для проведения кибератаки, разработки биологического оружия или полного выхода из‑за контроля человека?
Само по себе — нет. Но вопрос о том, какой уровень риска общество должно принять, — это не инженерный вопрос, а политический. Гражданские ассамблеи могут дать правительствам мандат и прикрытие, чтобы вводить тестирование, жёсткие запреты и аварийные кнопки, которые компании не введут сами по себе.
Опасность заключается не только в том, что ИИ может выйти из‑за человеческого контроля. Опасность в том, что люди, контролирующие его, — крошечная группа элитных руководителей, инвесторов и политиков, уязвимая для корпоративного захвата.
Олтман был прав: решения такой величины не могут оставаться внутри лабораторий в Сан‑Франциско. Но перенос их в закрытые встречи между могущественными государствами тоже не сделает ИИ демократичным.
Представьте вместо этого, что каждая школа, каждое рабочее место и каждое сообщество подключаются к этому процессу: формируют то, что делают компании по ИИ, но также и становятся проактивными перед лицом напора ИИ. По‑настоящему глобальная гражданская ассамблея, укоренённая в сообществах, которые понимают последствия дата‑центров и смещения работы. Нечто достаточно большое, чтобы противостоять нарративу гонки вооружений в области ИИ, который доминирует в дискуссии и парализует политические действия.
Ключевой вопрос, таким образом, не в том, реалистична ли демократизация ИИ, а в том, можно ли вообще реалистично управлять ИИ без неё.
Демократия — это не опциональное сдерживающее средство в отношении этой технологии. Возможно, это наш единственный способ сохранить её развитие и развертывание под значимым человеческим контролем.
Ричард Уилсон — генеральный директор Iswe Foundation, Клара Лонг — сопредседательница Bloom Project.