Классификатор кибербезопасности Fable 5: что каждый оператор должен знать перед настройкой routing

Когда AI gateway направляет запрос к Fable 5 и получает отказ, вопрос для инженерной команды звучит не так: «это был jailbreak?» — а иначе: «какой из четырёх классификаторов сработал, и что должна сделать моя fallback-цепочка дальше?» Публикация Anthropic от 2 июля с полной таксономией классификаторов кибербезопасности и шкалой Cyber Jailbreak Severity (CJS) наконец даёт операторам словарь для точного ответа на этот вопрос.

Что произошло

Anthropic опубликовала развёрнутый технический материал на anthropic.com/news/fable-safeguards-jailbreak-framework, в котором сделано два ключевых заявления:

1. Раскрытие таксономии классификаторов. Впервые Anthropic явно описала, какие типы запросов по кибербезопасности попадают в категорию «Запрещённого использования» (всегда блокируется), «Высокорискового двойного использования» (блокируется до появления контроля доступа), «Низкорискового двойного использования» (чаще пропускается, но может быть заблокировано в рамках safety margin) или «Безопасного использования» (пропускается с мониторингом).

2. Шкала серьёзности кибератак CJS. Предложена четырёхмерная система оценки — прирост возможностей (Capability gain), охват возможностей (Breadth), простота оружизации (Ease of weaponization) и обнаруживаемость (Discoverability) — формирующая диапазон от CJS-0 (информационный) до CJS-4 (критический). Шкала разрабатывается совместно с партнёрами Glasswing, включая Amazon, Microsoft и Google; параллельно запущена программа HackerOne для приёма отчётов.

Почему это важно для AI-инженерных команд

До этой публикации операторы, направляющие трафик к Fable 5, работали с чёрным ящиком: запрос либо получал ответ, либо — отказ, без какой-либо задокументированной таксономии причин. Команды, создающие инструменты безопасности — сканеры уязвимостей, pipeline для анализа логов, обогащение SOC-оповещений, аудит кода в CI/CD — сталкивались с непредсказуемым уровнем отказов и не могли проектировать fallback-логику системно.

Четырёхкатегорийная таксономия меняет ситуацию:

Ключевой вывод: безопасное использование охватывает большую часть легитимной работы по безопасности — написание защищённого кода, отладку, миграцию на более безопасные языки, общее IT и администрирование облака, анализ логов, обогащение SOC, threat hunting, реагирование на инциденты, реверс-инжиниринг вредоносного ПО. Эти сценарии теперь официально задокументированы как ожидаемые пропуски. Если вы наблюдаете отказы на таких рабочих нагрузках, вы попадаете в safety margin — рекомендуется подать отчёт через HackerOne.

Высокорисковое двойное использование — операционально важная граница. Оно явно включает penetration testing, bug bounty, разработку эксплойтов, red team-задания и поиск уязвимостей с высоким приростом возможностей. Всё это блокируется «до появления более надёжного контроля доступа для проверенных специалистов». Эта формулировка сообщает оператору: блокировка не постоянна, но управляется политикой, а не prompt-настройкой. Ни одна конфигурация system prompt сегодня надёжно не разблокирует эту категорию.

Routing-политика оператора для классификатора кибербезопасности Fable 5

Для операторов таксономия имеет три прямых следствия для routing-политики:

1. Калибровка бюджета ложных срабатываний. Safety margin для Fable 5 намеренно установлен шире, чем у предыдущих моделей. Рабочие нагрузки из категории «низкорискового двойного использования» — OSINT, сканирование публично доступных систем, тестирование SSL/TLS — дадут более высокий процент ложных срабатываний, чем на Sonnet 5 или Opus 4.8. Если ваш SLA требует стабильных ответов на таких нагрузках, fallback-цепочка должна автоматически срабатывать при 400-ответе классификатора и направлять запрос к альтернативной модели, не выставляя отказ пользователю.

2. Сегментация routing-политики. Таксономия даёт достаточно сигналов для предварительной классификации типов запросов: известные безопасные нагрузки (анализ логов, код-ревью, написание защищённого кода) направляйте напрямую к Fable 5 с лёгким fallback; известные высокорисковые нагрузки (автоматизация пентестов, scaffolding эксплойтов) сразу маршрутизируйте на модель без кибер-классификаторов. Это позволяет не тратить токены Fable 5 на запросы, которые она заблокирует в любом случае.

3. CJS-оценка как показатель здоровья routing. По мере того как CJS-шкала становится отраслевым стандартом, операторы gateway должны ожидать, что Anthropic будет ужесточать или смягчать safety margin в ответ на зарегистрированные jailbreak. Публично раскрытый результат CJS-4 с высокой вероятностью приведёт к обновлению классификатора, временно повышая процент ложных срабатываний. Наблюдение за частотой отказов Fable 5 как за метрикой здоровья routing — наряду с latency и частотой ошибок — позволяет обнаружить такие изменения раньше, чем их заметят пользователи.

На что обратить внимание

• Программа HackerOne на hackerone.com/anthropic-cyber-jailbreak — официальный канал для сообщений о ложных срабатываниях в легитимных сценариях безопасности. Если вы ведёте регулируемые операции в области безопасности и Fable 5 стабильно блокирует безвредные рабочие нагрузки, именно этот путь зафиксирован как официальный механизм улучшения.
• Контроль доступа для высокорискового двойного использования. Формулировка Anthropic «до появления более надёжного контроля» прямо сигнализирует: оператор-уровневые гранты доступа для верифицированных команд безопасности находятся в roadmap. Следите за примечаниями к выпускам платформы Anthropic на предмет объявлений об управляемом политикой доступе.
• Стандартизация шкалы CJS. Если эта шкала получит широкое признание при участии Amazon, Microsoft и Google, она повлияет на то, как все провайдеры AI gateway классифицируют и маршрутизируют запросы по кибербезопасности — не только Fable 5.

Команды, направляющие к Fable 5 нагрузки, смежные с безопасностью, наконец получили карту классификаторов. Следующий шаг — выстроить observability для частоты отказов, чтобы в production понимать, в какую именно категорию вы попадаете.