Джейсон Квон из OpenAI дал спокойные, ровные, обнадёживающие ответы австралийскому правительству. Написал ли это … ChatGPT?
Ответы Квона были даны в отзывчивой, тихой и спокойной манере, но его извинения оставили слушателей мало осведомлёнными.
Джейсон Квон из OpenAI пролетел 15 часов из Сан‑Франциско в Сидней, чтобы дать первую личную извинительную презентацию компании после того, как она признала — в неподписанном электронном письме на публичный почтовый ящик ведомства — что один из её AI‑агентов без разрешения получил доступ к сайту Services Australia и извлёк данные, связанные с Medicare.
Квон — вежливый, дружелюбный, с ровным тембром — без помарок прошёл через потенциально рискованное слушание в парламентском комитете, пообещав исправиться и пообещав помощь Австралии. Ни одной досадной ошибки, никаких вирусных моментов, просто спокойные и полезные ответы, сочувствующие вопросу и поднимаемому им тезису.
Даже содержание его ответов напоминало поведение защищаемого им чат‑ассистента.
На вопрос сенатора Дэвида Покока «почему вы отправили письмо на какой‑то произвольный ведомственный адрес?» Квон ответил: «Оглядываясь назад, нам следовало бы сделать то, что вы предлагаете». На вопрос, почему генеральный директор OpenAI Сэм Альтман не был проинформирован до своей встречи с заместителем премьер‑министра Австралии Ричардом Марлсом и почему компания не призналась тогда, Квон сказал: «Согласен, процесс, по которому люди внутри нашей компании узнали об этом инциденте, мог быть значительно лучше».
Нельзя было не вспомнить реакцию чат‑бота на обнаруженную ошибку: «Хорошая находка. Вы правы, что настояли. Моя ошибка, это на мне».
По словам Квона, модели — созданные OpenAI, которая, как сообщается, хочет оценить себя в 1,4 трлн долларов — «получали доступ к австралийским правительственным сайтам способами, к которым их не направляли». Он пытался объяснить, что «новизна» этого инцидента означала, что компания «извлекла урок», заключающийся в том, что пострадавших следует уведомлять о таких случаях намного раньше, а не ждать.
Квон вновь извинился за то, что компания ограничилась неформальным письмом федеральному правительству, в котором раскрыла, что её агент неправомерно получил доступ к статистике Medicare, но попытался объяснить на слушаниях во вторник, что иногда «сложно» понять, как делать такие уведомления большому разветвлённому государственному аппарату.
Покок любезно предложил: «Полагаю, у кого‑то в вашей команде по взаимодействию с государственными органами есть номера мобильных телефонов министров и разных людей?»
Была подобная атмосфера послесобытийного раскаяния, поскольку Квон — директор по стратегии OpenAI — мог предоставить мало ответов о том, почему Альтман не проинформировал Марлса об инциденте во время их личной встречи в Сан‑Франциско 1 сентября. Это было за девять дней до того, как компания написала Services Australia, и почти через месяц после того, как она впервые узнала о взломе 18 июня.
Квон сказал, что Альтман не знала об инциденте до встречи с Марлсом. После слушаний во вторник почему‑то всё ещё неясно, почему.
Правительство большое, и, возможно, Квон прав, говоря, что «сложно» найти нужного человека, с которым нужно связаться. Но кто‑то мог бы также возразить, что рукопожатие вашего начальника с заместителем премьер‑министра Австралии представляло бы полезную возможность.
По крайней мере, мы узнали, что, как сказал он, компания не использовала AI для написания того пресловутого письма. Маленькое утешение — что письмо всё же написал человек, даже если оно ушло в малоизвестный почтовый ящик.
Но при том, что Австралия стремится стать технологической столицей для дата‑центров и AI — как на слушаниях напоминали представительницы и представители крупных технологических компаний, от Anthropic до Microsoft и Google — установление базовых правил для этих фирм о том, как они должны действовать и реагировать в отношении этой страны и её правительства, имеет решающее значение.
Квон сказал, что OpenAI обязуется предоставлять будущие уведомления «очень быстро», и что известных им других инцидентов нет. Но он вскользь сообщил один поразительный факт: OpenAI всё ещё просматривает журналы активности агентов, вовлечённых в нарушение в Services Australia, объём этих журналов составляет 50 петабайт данных.
Петабайт — это 1 000 терабайт или 1 млн гигабайт.
Квон сделал ошеломляющее утверждение, что человеку потребовалось бы 66 миллионов лет — не спя и не отдыхая — чтобы просмотреть эти данные вручную.
Команда, которой поручено проверять почтовые ящики Services Australia, должно быть, надеется, что там не таится ещё больше неприятных сюрпризов.