Испания передала Брюсселю реагирование на модель ИИ Claude Mythos

Экстренные консультации в США из‑за рисков Claude Mythos

На прошлой неделе министр финансов США Скотт Бессент срочно собрал руководителей Goldman Sachs, Bank of America, Citigroup, Morgan Stanley и Wells Fargo, а также председателя Федеральной резервной системы Джерома Пауэлла. Участники обсудили киберриски, которые, по оценкам властей, создает модель искусственного интеллекта Claude Mythos компании Anthropic. Встреча стала ответом на опасения, что модель способна подорвать безопасность корпоративных и финансовых систем.

Aesia заявило о передаче полномочий Еврокомиссии

На этом фоне Агентство по надзору за искусственным интеллектом Испании Aesia, подчиняющееся Министерству цифровой трансформации, сообщило, что не принимает самостоятельных мер. Агентство указало, что Claude Mythos относится к системам общего назначения, поэтому регулирование входит в компетенцию Европейской комиссии. Таким образом, Мадрид передал принятие решений Брюсселю.

Aesia также уточнило, что через свое участие в руководящей группе GPAI (международный альянс правительств по координации управления ИИ) передало Еврокомиссии запрос о доступной у нее информации по Claude Mythos. GPAI не обладает законодательными полномочиями и служит площадкой для согласования позиций перед выработкой норм.

Еврокомиссия и реакции Германии и Великобритании

Европейская комиссия через своего представителя Томаса Ренье заявила, что оценивает возможные последствия Claude Mythos с точки зрения действующей политики и законодательства ЕС. Комиссия сообщила, что отслеживает последствия для кибербезопасности, включая усиление защитных мер и возможные злоупотребления.

В Германии Федеральное ведомство по информационной безопасности BSI заявило, что Claude Mythos будет иметь значительные последствия. Глава BSI Клаудия Платтнер сообщила о контактах с Anthropic и получении информации о принципах работы модели напрямую от разработчиков. По ее словам, ведомство серьезно относится к заявлениям компании, поскольку они затрагивают обработку уязвимостей и вопросы национальной и европейской безопасности.

В Великобритании финансовые регуляторы начали срочные переговоры с банками и специалистами по кибербезопасности. По данным Financial Times, Банк Англии, Управление по финансовому надзору и Казначейство взаимодействуют с Национальным центром кибербезопасности, чтобы проверить, угрожает ли Claude Mythos ИТ‑системам финансового сектора. В течение ближайших двух недель регуляторы намерены проинформировать банки, страховые компании и биржи о связанных с моделью киберрисках.

Тесты Mythos, Project Glasswing и рамка ЕС

Claude Mythos, известный внутри Anthropic под кодовым названием Capybara, не существует как коммерческий продукт. Компания решила не выпускать модель в открытый доступ, посчитав ее слишком опасной без предварительного контроля последствий. Во время внутренних тестов Mythos обнаружил тысячи уязвимостей в ключевых браузерах и операционных системах, включая 27‑летнюю уязвимость в OpenBSD, 17‑летнюю — в FreeBSD, позволявшую получить полный контроль над системой без пароля, и 16‑летнюю — в библиотеке FFmpeg.

Сообщения о возможностях Mythos отразились на рынках. Индекс программного обеспечения и услуг S&P 500 упал на 1,6 % в пятницу после объявления и с начала года снизился на 26 %. Акции CrowdStrike потеряли 4 %, Palo Alto Networks — 7 %, Datadog — 3 %, также потери понесли компании частного кредитования, связанные с сектором программного обеспечения.

В ответ на риски Anthropic запустила Project Glasswing и сформировала закрытую коалицию из 12 организаций, включая Apple, Microsoft, Google, Amazon Web Services, Nvidia, Cisco, CrowdStrike, Palo Alto Networks, JPMorgan Chase, Broadcom и Linux Foundation. Участники получили контролируемый доступ к модели для выявления и устранения уязвимостей в собственных системах. Anthropic выделила партнерам 100 миллионов долларов в виде кредитов на использование технологий и дополнительно направила 4 миллиона долларов пожертвований организациям, занимающимся безопасностью открытого кода. Проект охватывает коммерческое ПО и критическую инфраструктуру, включая водоснабжение, энергетику и транспорт.

Регламент ЕС об искусственном интеллекте, принятый в 2024 году и вводимый поэтапно, классифицирует модели общего назначения по объему вычислительных ресурсов. Модели, превышающие установленный порог, получают статус системного риска и подпадают под дополнительные требования, включая стресс‑тесты, уведомления о серьезных инцидентах и меры кибербезопасности. По данным Anthropic, Claude Mythos соответствует этой категории, а надзор за такими моделями осуществляет AI Office при Европейской комиссии, тогда как национальные агентства, включая Aesia, выполняют вспомогательную роль.

Испанские власти не уточнили, участвуют ли национальные критические инфраструктуры в превентивных мерах Project Glasswing и существует ли отдельный канал оценки рисков для цифровой инфраструктуры страны. Ни профильное министерство, ни Aesia не ответили на дополнительные запросы журналистов.

Оригинал: источник