Самая большая угроза от ИИ — это ощущение, что у нас нет влияния на происходящее. На это я отвечаю: игра началась.
Технократы и их хорошо оплачиваемые наёмные пропагандисты рассчитывают, что мы поддаёмся их «доктрине неизбежности». Но в Австралии и во всём мире растёт сопротивление.
Из всех факторов, подпитывающих волну популизма, одним из самых мощных является ощущение неизбежности, которое окружает то, что нам представляют как неуклонный ход прогресса. Представляя будущее как свершившийся факт, это отравляет гражданскую жизнь, выводя нас из игры.
Пока США цепляются за статус старейшей конституционной демократии, нечистое сою — между технолордами и Белым домом — создаёт собственную реальность ИИ, не связанную с волей народа.
По скорости и направлению развития технологий Трамп и технолорды решили нажать на газ и снять все предохранители, чтобы «выиграть» плохо определённую гонку по созданию бога в коробке. Эта безрассудная демонстрация власти со стороны угасающей империи создала свою собственную реальность для всех нас.
В Австралии правительство решило, что единственный способ сохранить контроль в мире такой хаотичности — ухватиться за этот могучий поезд. Мы становимся для американских технокомпаний тем же, чем Саудовская Аравия была для нефти: используя возобновляемые источники энергии для питания гигантских центров обработки данных в пустыне, превращая солнечную энергию в «токены ИИ» и прокладывая их в Азию — новый экспортный сектор, который будет питать наше общественное благосостояние.
В рамках доктрины неизбежности у этой стратегии есть логика. Альтернатива, нам говорят, — превратиться в клиентское государство Кремниевой долины.
Но в преследовании этого видения мы рискуем ослепнуть относительно предсказуемых последствий того, на что подписываемся.
Отрасль, которую мы выстраиваем, создаёт ценность, заменяя работников; она построена на украденных работах создателей; её нерегулируемое внедрение наносит немыслимый вред, особенно в зонах военных действий; она испытывает ненасытную жажду энергии и воды; и даже её создатели признают, что шанс уничтожения человечества вовсе не ничтожен.
«Доктрина неизбежности» требует от нас капитуляции, а не тщательной проработки и переговоров о компромиссах. Эта ширма демократии порождает популистское противодействие. Мы видим это в США, где правые Банона и левые Сандерса объединяются, чтобы помешать масштабированию центров обработки данных — часть более широкого и своевременного политического переосмысления.
За последние недели в Австралии произошло несколько событий, указывающих на то, что нечто подобное начинает происходить и здесь.
Во‑первых, австралийцы, несмотря на высокий уровень принятия некоторых инструментов ИИ, остаются одними из самых скептичных в мире и мало терпят технолордов. Успешная кампания GetUp против партнёрства Coles с Palantir — компанией по обработке данных, чьё программное обеспечение лицензируется для использования армией США, которая бомбит детей и использует данные о мигрантах для слежки за людьми — демонстрирует уязвимость публичных брендов, которые слишком близко приближаются к зверю.
Во‑вторых, создатели, чьи работы были украдены для обучения моделей, которые уменьшат ценность их будущей карьеры, отстаивают свою позицию. Они справедливо возмущены и не будут просто предоставлять амнистию. Они требуют возмещения за кражу своих работ, а также постоянной модели, дающей им контроль над условиями использования.
Ещё более значимым может оказаться провал IPO Firmus, которое должно было стать крупнейшим австралийским листингом со времён Telstra. Решение не выходить на биржу последовало за отменой проекта центра обработки данных в Сиднее — первого крупного проекта, сорванного местным давлением сообщества. Причин неудачи могло быть несколько, включая обвинения в жадности, но, несомненно, растущее общественное сопротивление центрам обработки данных заставило многих задуматься о перспективах гипермасштабного развития.
Потребители, создатели, сообщества — все они бросают вызов нарративу «неизбежности». В совокупности это ряд ответных ударов, которые говорят о том, что наши демократические механизмы ещё не исчерпаны.
Но «доктрина неизбежности» устойчива, и любое противодействие придётся поддерживать постоянно, потому что у этих компаний есть ресурсы, влияние и откровенная корысть, чтобы добиваться своих целей с полной самоотдачей, подобно вышедшему из-под контроля агенту ИИ.
Самая большая опасность для нашей демократии от этой технологии — не только в циничном злоупотреблении непроверенным и нерегулируемым внедрением (хотя это будет чрезвычайно разрушительно), но и в том более широком смысле, что у нас нет голоса в том, что с нами происходит. Прямо сейчас — игра началась.
В ближайшие недели в нашем парламенте будут баталии за принятие реформ в области конфиденциальности, цифрового долга заботы, стандартов для центров обработки данных и правил использования правительством технологий по отношению к гражданам. На рабочих местах будут споры о применении, наблюдении и вытеснении работников. В школах и в социальных кругах будут реальные переговоры о том, как мы решаем использовать ботов и агентов, или нужно ли использовать их вообще.
Я знаю, что это утомительно и ошеломляет, и именно на этом технобратия и их хорошо оплачиваемые наёмники делают ставку — что мы все просто исчерпаем силы и найдём убежище в пользовательских опытах, созданных для удовлетворения каждого нашего желания.
Но сопротивление, которое многие из нас чувствуют, реально, и до тех пор, пока мы остаёмся демократией, на избирательном участке у нас будет шанс потребовать от тех, кто претендует на руководство, бросить вызов ощущению неизбежности. Потому что вот в чём дело: неизбежность — это тоже выбор.
Питер Льюис является неисполнительным председателем компании Essential, прогрессивного агентства стратегических коммуникаций и исследований, которое проводило качественные исследования для Лейбористской партии на последних федеральных выборах. Он ведёт еженедельный подкаст Burning Platforms. Его колонки отмечены как Proudly Human.