Anthropic об’єднала 12 гігантів для запуску програми «Glass Wing», щоб за допомогою невипущеної найпотужнішої моделі Mythos виправити глобальні програмні вразливості

Автор: Anthropic

Переклад: Deep Tide TechFlow

Огляд від Deep Tide: Anthropic випустила прогресивну модель Claude Mythos Preview, яка ще не була оприлюднена. Її можливості з аудиту коду вже перевищили можливості переважної більшості експертів із кібербезпеки, здатної автономно виявляти нульові вразливості, що існували десятиліттями.

Спираючись на цю здатність, Anthropic спільно з AWS, Apple, Google, Microsoft, NVIDIA та ще 12 технологічними гігантами започаткувала план Project Glasswing. Компанії виділили кредитний ліміт у 100 млн доларів США, щоб, доки нападники не отримають такі самі можливості, закрити вразливості в глобальному критичному програмному забезпеченні.

Вступ

Сьогодні ми оголошуємо Project Glasswing (план «Glasswing») — нову ініціативу, яка об’єднує Amazon Web Services (AWS), Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan, Linux Foundation, Microsoft, NVIDIA та Palo Alto Networks. Мета — захистити безпеку найкритичнішого програмного забезпечення у світі.

Ми ініціювали Project Glasswing, тому що нова прогресивна модель, яку навчила Anthropic, продемонструвала здатність, яку ми вважаємо такою, що може змінити ландшафт кібербезпеки. Claude Mythos Preview — це універсальна прогресивна модель, яка ще не була випущена. Вона відкриває жорстокий факт: можливості AI- моделей у кодуванні вже досягли такого рівня, що щодо виявлення та використання вразливостей у програмному забезпеченні вони можуть перевершувати всіх, окрім найтоповіших експертів.

Mythos Preview уже виявила тисячі вразливостей високого ризику, охопивши кожну з основних операційних систем і кожен з основних браузерів. З огляду на темпи прогресу AI, така здатність швидко пошириться в найближчому майбутньому й може потрапити до безвідповідальних користувачів. Наслідки для економіки, громадської безпеки та національної безпеки можуть бути дуже серйозними. Project Glasswing — це термінова спроба спрямувати ці можливості насамперед на захист.

У межах Project Glasswing зазначені партнери використовуватимуть Mythos Preview у своїй оборонній безпековій роботі; Anthropic поділиться набутими знаннями, щоб принести користь усьому індустріальному сектору. Ми також відкрили доступ ще більш ніж 40 організаціям, які створюють або підтримують критичну інфраструктуру програмного забезпечення, щоб вони могли сканувати й підсилювати як власні системи, так і системи з відкритим кодом. Anthropic бере на себе зобов’язання виділити на це до 100 млн доларів США ліміту використання Mythos Preview, а також надати 4 млн доларів США напряму як пожертву організаціям із відкритим кодом у сфері безпеки.

Project Glasswing — це лише старт. Жодна установа не може самостійно вирішити проблеми кібербезпеки: у всіх є незамінні ролі — передові розробники AI, інші компанії з програмного забезпечення, дослідники з безпеки, підтримувачі проєктів із відкритим кодом і уряди країн по всьому світу. Захист глобальної кіберінфраструктури може тривати роками; натомість можливості передового AI можуть суттєво стрибнути вже за кілька місяців. Щоб захисники мережі встигли зайняти перевагу, потрібно діяти вже зараз.

Кібербезпека в епоху AI

Програмне забезпечення, від якого ми щодня залежимо — системи для роботи банків, зберігання медичних записів, підключення до логістичних мереж, підтримка роботи електромереж — завжди має баги. Більшість з них неважливі, але деякі є серйозними прогалинами безпеки: щойно їх буде виявлено, нападники зможуть захоплювати системи, паралізувати операції або викрадати дані.

Пагубні наслідки кібератак на корпоративні мережі, медичні системи, енергетичну інфраструктуру, транспортні вузли та органи влади різних країн добре відомі. На глобальному рівні державні атаки з Китаю, Ірану, Північної Кореї та Росії вже загрожують інфраструктурі, що підтримує як цивільне життя, так і військову готовність. Навіть невеликі атаки проти однієї лікарні чи школи можуть спричинити величезні економічні втрати, розкрити конфіденційні дані й навіть поставити під загрозу життя. Щорічні економічні втрати від світової кіберзлочинності важко точно оцінити, але вони можуть становити близько 500 млрд доларів США.

Раніше багато дефектів у програмному забезпеченні роками не виявлялися, бо знайти й використати їх могли лише небагато експертів із безпеки, які мають спеціальні знання. Але з появою найновіших передових моделей AI вартість, зусилля та професійний поріг для виявлення й використання вразливостей у програмному забезпеченні різко знизилися. За минулий рік AI-моделі стали дедалі сильнішими в читанні коду та міркуванні, зокрема виявляючи вразливості та конструюючи способи їх експлуатації — це вражає. Claude Mythos Preview здійснила стрибок у цих навичках кібербезпеки: деякі з виявлених нею вразливостей лишалися живими навіть після десятків років людського перегляду та після мільйонів автоматизованих тестів безпеки, а створений нею код експлуатації стає дедалі витонченішим.

Через десять років після першого конкурсу DARPA Cyber Grand Challenge передові AI-моделі наближаються або навіть зрівнюються з можливостями найтоповіших людей щодо виявлення та використання вразливостей. За відсутності необхідних заходів безпеки ці потужні можливості можуть бути використані для експлуатації великої кількості наявних дефектів у найважливішому програмному забезпеченні у світі. Кібератаки ставатимуть частішими, руйнівнішими, і даватимуть противникам США та їхніх союзників більше сили. Це пріоритет безпеки, на який демократії мають звертати увагу.

Хороша новина полягає в тому, що ті можливості, які роблять AI-моделі небезпечними в неправильних руках, водночас дуже цінні для виявлення та виправлення критично важливих дефектів у програмному забезпеченні — і також допомагають створювати нове програмне забезпечення з безпечнішими багами. Project Glasswing — важливий крок, який допоможе захисникам здобути тривалу перевагу в майбутній епосі AI-керованої кібербезпеки.

Здатність Claude Mythos Preview виявляти вразливості та способи експлуатації

Протягом кількох останніх тижнів ми використовували Claude Mythos Preview, щоб виявити тисячі нульових вразливостей (тобто дефектів, про які раніше не знали розробники самого програмного забезпечення) у кожній основній операційній системі, кожному основному браузері та низці інших важливих програм. Багато з них — високого рівня небезпеки.

У блозі Frontier Red Team ми розкрили технічні деталі частини вразливостей, які вже були виправлені, а також способи експлуатації, знайдені Mythos Preview. Майже всі ці вразливості було виявлено (і, так само, багато пов’язаних способів експлуатації було розроблено) повністю автономно моделлю без будь-якого керівництва людиною. Нижче наведено три приклади:

Mythos Preview виявила в OpenBSD вразливість, яка існувала 27 років. OpenBSD відома дуже високим рівнем захарднення безпеки, її широко використовують для міжмережевих екранів та іншої критичної інфраструктури. Ця вразливість дозволяє нападникам дистанційно спричинити її аварійне завершення лише шляхом підключення до цільової машини.

Також модель виявила в FFmpeg вразливість, що існувала 16 років. FFmpeg використовують безліч програм для кодування/декодування відео. Проблема була в одному рядку коду, і автоматизовані інструменти тестування влучили в цей рядок 5 млн разів, але так і не виявили проблему.

Модель автономно виявила й «с’єднала» кілька вразливостей у ядрі Linux (ядро Linux працює на більшості серверів у світі), реалізувавши підвищення привілеїв — атаку, що починається з прав звичайного користувача й доходить до повного контролю над машиною.

Усі вищезгадані вразливості ми вже повідомили відповідним підтримувачам програмного забезпечення, і всі вони виправлені. Щодо багатьох інших вразливостей сьогодні ми надаємо деталі в зашифрованих хешах (див. блог Red Team); конкретну інформацію буде оприлюднено після завершення виправлень.

Бенчмарки оцінювання, зокрема CyberGym, також підтвердили суттєву різницю між Mythos Preview та нашою наступною за силою моделлю Claude Opus 4.6:

Відтворення уразливостей кібербезпеки — CyberGym

Крім нашої власної роботи, багато партнерів також користувалися Claude Mythos Preview протягом кількох тижнів. Нижче наведено їхні відгуки:

«Можливості AI перейшли через поріг і докорінно змінили нагальність, з якою потрібно захищати критичну інфраструктуру від кіберзагроз — і це незворотно. Наша робота з базовими дослідженнями цих моделей показує, що можна з нечуваною швидкістю та масштабом виявляти й виправляти вразливості в апаратному та програмному забезпеченні. Це глибока зміна, а також чіткий сигнал: старі підходи до захарднення систем уже не достатні. Постачальники технологій мають негайно й активно переймати нові методи, а клієнти — бути готовими до розгортання. Саме тому Cisco приєдналася до Project Glasswing — ця робота надто важлива й надто термінова, щоб її можна було робити поодинці».

— Anthony Grieco, старший віцепрезидент Cisco та головний директор із безпеки й довіри

«У AWS ми будуємо оборону ще до того, як з’являється загроза — від власних чипів до цілого технологічного стеку. Безпека — це не питання якогось етапу, вона безперервна та вбудована в усе, що ми робимо. Наша команда щодня аналізує понад 4 млн мільярдів (4000000000000000) звернень мережевого трафіку, щоб виявляти загрози, і AI є ядром наших можливостей масштабної оборони. Ми постійно тестували Claude Mythos Preview у власних операціях безпеки, застосовуючи її до ключових репозиторіїв коду — і вона вже допомагає нам захарднювати код. Ми вносимо глибоку експертизу з безпеки в нашу співпрацю з Anthropic та допомагаємо посилити Claude Mythos Preview, щоб більше організацій могли просувати роботу на максимально високих стандартах безпеки».

— Amy Herzog, віцепрезидент AWS та головний директор з інформаційної безпеки

«Коли кібербезпека більше не обмежена лише людськими можливостями, можливість відповідально використовувати AI для масштабного підвищення безпеки й зниження ризиків — безпрецедентна. Приєднавшись до Project Glasswing та отримавши доступ до Claude Mythos Preview, ми можемо раніше виявляти й пом’якшувати ризики, посилюючи наші рішення з безпеки та розробки, щоб краще захищати клієнтів і Microsoft. Під час тестування на нашому open-source безпековому бенчмарку CTI-REALM Claude Mythos Preview продемонструвала суттєве покращення порівняно з попередніми моделями. Ми з нетерпінням чекаємо на співпрацю з Anthropic і ширшою індустрією, щоб покращувати результати безпеки для всіх».

— Igor Tsyganskiy, віцепрезидент з кібербезпеки Microsoft та виконавчий віцепрезидент із досліджень Microsoft

«Вікно від моменту виявлення вразливості до її використання нападником — зруйнувалося: те, що раніше займало місяці, тепер за допомогою AI можна зробити за хвилини. Claude Mythos Preview показує можливість того, що захисники можуть діяти у масштабі, а опоненти неминуче шукатимуть використання тих самих можливостей. Це не причина сповільнюватися — це привід прискоритися разом. Щоб розгортати AI, потрібні гарантії безпеки. Саме тому CrowdStrike бере участь з першого дня».

— Elia Zaitsev, технічний директор CrowdStrike

«Раніше безпекова експертиза була розкішшю, яку могли собі дозволити лише організації з величезними командами з безпеки. Підтримувачі open-source програмного забезпечення — чий код підтримує більшість критично важливої інфраструктури у світі — історично були змушені самотужки знаходити спосіб вирішувати проблеми безпеки. Open-source програмне забезпечення становить переважну більшість коду в сучасних системах, включно із самими системами, які AI-агенти використовують для написання нового програмного забезпечення. Надаючи підтримувачам цих ключових open-source репозиторіїв доступ до нової генерації AI-моделей — здатних масштабно проактивно виявляти й виправляти вразливості — Project Glasswing надає реальний шлях змінити цю ситуацію. Це як саме AI-посилена безпека може перейти від інструменту лише для великих команд до надійного помічника для кожного підтримувача».

— Jim Zemlin, генеральний директор Linux Foundation

«Просування кібербезпеки та стійкості фінансової системи є в центрі місії JPMorgan. Ми віримо, що коли провідні установи кидають виклик спільно й долучаються одна до одної, індустрія стає найсильнішою. Project Glasswing надає унікальну ранню можливість оцінити за нашими власними стандартами можливості наступних AI-інструментів у оборонній кібербезпеці критичної інфраструктури, працюючи пліч-о-пліч із авторитетними технологічними лідерами. Ми застосуємо суворий, незалежний підхід, щоб визначити, як рухатися далі та як допомогти. Ініціатива Anthropic відображає далекоглядний, кооперативний підхід, необхідний у цей момент».

— Pat Opet, головний директор із інформаційної безпеки JPMorgan

«Google з радістю бачить формування цієї міжгалузевої ініціативи з кібербезпеки та надає учасникам Mythos Preview через Vertex AI. Співпраця індустрії щодо нових проблем безпеки завжди була критично важливою — будь то постквантова криптографія, відповідальне розкриття нульових вразливостей, безпека open-source програмного забезпечення чи захист від AI-керованих атак. Ми завжди вважали, що AI в кіберзахисті приносить і нові виклики, і нові можливості — саме тому ми створили AI-керовані інструменти на кшталт Big Sleep і CodeMender для виявлення й виправлення критичних дефектів у програмному забезпеченні. Ми й надалі інвестуватимемо в провідні платформи кібербезпеки та культуру, що ставить у центр захист користувачів, клієнтів, екосистеми та національної безпеки».

— Heather Adkins, віцепрезидент із безпеки інженерного напряму Google

«Протягом кількох останніх тижнів ми використовували модель Claude Mythos Preview, щоб ідентифікувати складні вразливості, які повністю пропустила попередня генерація моделей. Це не тільки змінило правила гри для виявлення прихованих вразливостей, але й означає, що нападники дуже швидко зможуть виявляти ще більше нульових вразливостей і розробляти код експлуатації — швидше, ніж раніше. Очевидно, що ці моделі потрібно передати власникам open-source проєктів і всім захисникам, щоб знаходити й виправляти вразливості до того, як нападники отримають доступ. І, можливо, ще важливіше: кожен має підготуватися до атак, які допомагає здійснювати AI. Атаки будуть частішими, швидшими та складнішими. Зараз час для повного оновлення кіберзахисної системи. Ми цінуємо співпрацю Anthropic з індустрією, щоб переконатися, що ці потужні можливості в першу чергу служать захисту».

— Lee Klarich, головний директор із продукту та технологій Palo Alto Networks

Могутні можливості Claude Mythos Preview у кібербезпеці походять від її видатних можливостей кодування та міркування як агента. Нижче наведені результати оцінювання, які показують, що модель досягла найвищих балів серед усіх відомих моделей у багатьох завданнях з програмування.

Кодування агентом

Міркування

Пошук та використання комп’ютера агентом

Примітки:

SWE-bench Verified, Pro і Multilingual: мітки кешування-відсіву позначили частину задач. Після виключення задач, щодо яких потенційно могли застосувати кешування, перевага Mythos Preview відносно Opus 4.6 не змінюється.

SWE-bench Multimodal: використовується внутрішня реалізація, і результати напряму не порівнюються з публічним лідербордом.

Terminal-Bench 2.0: використовується фреймворк Terminus-2, режим максимальної уваги з адаптивним режимом мислення; загальний бюджет 1 млн token на завдання, 1x гарантія / 3x ліміт ресурсів розподіляється, у середньому 5 спроб на завдання. Після збільшення ліміту тайм-ауту до 4 годин і оновлення до Terminal-Bench 2.1, результат Mythos Preview становить 92.1%.

BrowseComp: Claude Mythos Preview має вищий бал, ніж Opus 4.6, при цьому витрати токенів лише 1/4.9 від витрат останнього.

Humanity’s Last Exam: Mythos добре показує себе в режимі низьких зусиль, можлива певна міра кешування.

Додаткову інформацію про можливості цієї моделі, її властивості безпеки та базові характеристики див. у системній картці Claude Mythos Preview.

Ми не плануємо надавати Claude Mythos Preview у публічний доступ, але кінцева мета — щоб користувачі могли безпечно та в масовому масштабі розгортати моделі рівня Mythos — не лише для кібербезпеки, а й для багатьох інших цінностей, які приносять моделі з такими високими можливостями. Для цього нам потрібно досягти прогресу в розробці безпекових заходів для кіберзахисту (та інших сфер), здатних виявляти й блокувати найнебезпечніші виходи моделі. Ми плануємо опублікувати нові безпекові заходи в найближчих моделях Claude Opus, щоб ми могли покращувати й доводити ці заходи до досконалості за допомогою моделі, яка не має такого ж рівня ризику, як Claude Mythos Preview.

Наступні кроки Project Glasswing

Сьогоднішній реліз є початком довгострокової роботи. Щоб це стало успішним, потрібна широка участь як у технологічній індустрії, так і поза нею.

Партнери Project Glasswing матимуть доступ до Claude Mythos Preview для виявлення й виправлення вразливостей та слабких місць у своїх базових системах — системах, які становлять значну частку глобального спільного простору атак. Очікувані фокус- напрями роботи включають виявлення вразливостей локально, тестування бінарних «чорних скринь» (black box), зміцнення кінцевих точок (endpoint hardening) і тестування систем на проникнення.

Ліміт у 100 млн доларів США на використання моделей, який Anthropic зобов’язалася надати для Project Glasswing та інших учасників, покриє значну частину використання під час дослідницького прев’ю. Після цього Claude Mythos Preview надаватиметься учасникам за ціною 25 доларів США за кожен мільйон вхідних / 125 доларів США за кожен мільйон вихідних token (учасники зможуть отримати доступ до моделі через Claude API, Amazon Bedrock, Google Cloud Vertex AI та Microsoft Foundry).

Окрім ліміту використання моделей, ми також через Linux Foundation пожертвували 2.5 млн доларів США Alpha-Omega та 1.5 млн доларів США Апачі (Apache Software Foundation), щоб допомогти підтримувачам open-source програмного забезпечення впоратися з цією зміною в ландшафті (зацікавлені підтримувачі можуть подати заявку на доступ через програму Claude for Open Source).

Ми плануємо, щоб ця робота масштабувалася за обсягом і тривала кілька місяців, та щоб ми ділилися якомога більше досвідом, щоб інші організації могли застосувати ці знання до власної безпеки. Партнери обмінюватимуться інформацією та найкращими практиками у межах, дозволених умовами; протягом 90 днів Anthropic опублікує звіт про наші знахідки, а також про виправлені вразливості та заходи покращення, які можна буде розкривати. Ми також співпрацюватимемо з провідними організаціями з безпеки, щоб розробити набір практичних рекомендацій щодо еволюції практик безпеки в епоху AI; це може включати: процеси розкриття вразливостей, процеси оновлення програмного забезпечення, безпеку open-source та ланцюгів постачання, життєвий цикл розробки ПЗ та практики безпечного проєктування, стандарти для регульованих галузей, масштабування через чергування/сортування (triage) та автоматизацію, а також автоматизацію патчів.

Anthropic також постійно обговорює з посадовцями уряду США можливості Claude Mythos Preview у наступальних і оборонних мережевих кіберзастосунках. Захист критичної інфраструктури є головним пріоритетом національної безпеки для демократичних держав — поява таких кіберможливостей знову показує, що США та їхні союзники мають зберігати вирішальну технологічну перевагу в AI. Уряд має незамінну роль у допомозі підтримувати цю перевагу та в оцінці й пом’якшенні пов’язаних із моделями AI національних ризиків безпеки. Ми готові співпрацювати з представниками урядів на всіх рівнях, щоб допомогти виконати ці завдання.

Ми хочемо, щоб Project Glasswing породив масштабніші зусилля, що охоплять і індустрію, і державний сектор, — аби всі разом відповіли на головну проблему впливу потужних моделей на безпеку. Ми запрошуємо інших учасників AI-індустрії приєднатися та допомогти сформувати індустріальні стандарти. У середньостроковій перспективі незалежна стороння організація — така, що здатна об’єднати приватні та державні організації — може бути ідеальною платформою для подальшого виконання цих масштабних проєктів з кібербезпеки.

Додаток

Проєкт названо на честь стекляннокрилого метелика (Greta oto). Ця метафора має два рівні значення: прозорі крила метелика дозволяють йому бути непомітним — як і вразливості, які ми обговорюємо, що «ховаються» в коді; прозорі крила також допомагають йому уникнути шкоди — так само, як ми відстоюємо прозорі підходи.

Слово Mythos походить із давньогрецької мови й означає «оповідь» або «історія»: цивілізації використовують систему історій, щоб розуміти світ.

Безпекові професіонали, діяльність яких відповідає цим безпековим заходам, можуть подати заявку на майбутню програму верифікації з кібербезпеки (Cyber Verification Program).