График стоимости корпорации Nvidia составляет 5,5 трлн долларов; компания пожертвует Великобритании вычислительные мощности на 250 млн долларов для исследований безопасности ИИ Обязательство в течение пяти лет от самой дорогостоящей компании в мире поступает на фоне роста обеспокоенности агентами ИИ
Американский производитель чипов Nvidia с капитализацией 5,5 трлн долларов (4,1 трлн фунтов) пожертвует Великобритании вычислительные мощности на сумму 250 млн долларов в поддержку исследований безопасности искусственного интеллекта.
Пожертвование от самой дорогой компании в мире последовало после того, как правительство Великобритании подтвердило создание Института безопасности ИИ (AISI), который тестирует продвинутые модели ИИ и сможет изучать передовые технологии, разработанные компаниями такими как OpenAI, Anthropic и Google, до их публичного выпуска.
Nvidia сообщила, что пожертвование, рассчитанное на пять лет, «поддержит исследования в области агентной безопасности и безопасности в целом по всей Великобритании».
Беспокойство по поводу агентных ИИ — высокопроизводительных компьютерных программ, способных автономно разрабатывать и выполнять последовательности задач — возросло с лета, когда OpenAI подтвердила, что «рой» агентов атаковал стартап Hugging Face.
В своем заявлении Nvidia не упоминала AISI, но отметила, что большая часть средств будет «поддерживать более широкое сообщество исследователей безопасности и защиты ИИ в Великобритании», а часть средств будет направлена в британскую лабораторию Open-Ended Learning and Discovery Lab, Лабораторию фундаментальных исследований в области ИИ (Science of Fundamental AI Research), которой управляют университеты Эдинбурга, Кембриджа, Оксфорда и Университетский колледж Лондона, а также в Имперский колледж Лондона.
Вычислительные мощности будут предоставлены через дата-центры, базирующиеся в Великобритании, с использованием чипов Nvidia.
«Великобритания вносит мировую научную строгость в эту важнейшую инженерную задачу», — сказал генеральный директор Nvidia Дженсен Хуанг. «С этим обязательством в 250 млн долларов Nvidia передаст ускоренные вычисления в руки британских исследователей, чтобы разрабатывать, тестировать и укреплять средства защиты для все более мощного ИИ».
Канишка Нараян, министр по вопросам ИИ в Великобритании, заявил, что объявление является «голосом доверия к нашим ведущим в мире возможностям и опыту в исследованиях ИИ».
В понедельник Нараян подтвердил, что AISI проводит испытания моделей ИИ, разработанных в США, до их выпуска, после сообщений о том, что Белый дом ограничил доступ к ним.
Министр по вопросам ИИ также предупредил, что Великобритания сталкивается с агентными атаками, аналогичными той, которую агенты OpenAI осуществили в этом году против австралийской системы здравоохранения.
«Кажется вероятным, если не неизбежным, что наши собственные киберзащиты будут нарушены», — сказал Нараян.
Anthropic, разработчик чат-бота Claude, в понедельник предупредила о новой угрозе безопасности ИИ, опубликовав заметку в блоге, в которой говорилось, что их модели вскоре могут стать саморазмножающимися. По их словам, модели находят способы проникать в подключенные к интернету устройства, такие как «умные» печи и газонокосилки.
В таком сценарии модели могли бы функционировать без дата-центров, используя вместо этого «ботнет» из взаимосвязанных устройств, заявили в Anthropic, добавив, что миру следует готовиться к будущему, где такие ботнеты останутся надолго.
«Репликатор такого рода было бы трудно остановить, поскольку нет централизованной точки, чтобы его выключить», — написали исследователи Anthropic.
Nvidia заявляла, что вероятность того, что ИИ уничтожит мир к 2030 году, составляет 0%.
Nvidia планирует купить платформу разработчиков Hugging Face в сделке на 12,9 млрд долларов.
Nvidia налаживает связи с компаниями Уолл-стрит для сделки по финансированию ИИ на 500 млрд долларов.
Турбулентность на фондовом рынке освещает непрозрачную экономику ИИ.
Apple сместила Nvidia с поста самой дорогой компании мира.
Nvidia представляет «суперчип», дающий мощность ИИ в ноутбуках и ПК.
Дженсен Хуанг из Nvidia присоединился к другим руководителям США в поездке Трампа в Китай.
Сообщается, что Nvidia планирует инвестировать 30 млрд долларов в следующий раунд финансирования OpenAI.