앤트로픽, AI 탈옥 심각도 5단계 표준 체계 공개
한 줄 요약: 앤트로픽이 아마존·MS·구글과 함께 AI 탈옥 위험도를 0~4단계로 표준화한 'Cyber Jailbreak Severity(CJS)' 체계를 공개했다.
핵심
- CJS 0(정보성)~CJS 4(치명적)의 5단계로 탈옥 심각도를 분류하며, 단계마다 위험이 기하급수적으로 증가하는 지수 척도 적용
- 능력 향상 정도·피해 범위·무기화 난이도·발견 가능성 4개 축을 점수화해 산출
- 이번 체계는 사이버보안 탈옥만 대상으로 하며, 시스템 프롬프트 유출 등 비보안 탈옥은 범위 밖
- 클로드 페이블 5의 19일간 수출 통제 후 재배포 조건으로 제출한 안전 분류기(99%+ 차단)와 함께 발표
왜 중요한가
그동안 업계에는 탈옥 사고의 위험성을 비교할 공통 기준이 없었다. CJS 프레임워크가 표준으로 자리잡으면 AI 기업, 규제당국, 보안연구자가 사건의 심각성을 같은 언어로 소통할 수 있게 된다—사이버보안 분야의 CVSS 점수와 유사한 역할이다.
더 보기
- Anthropic 공식 발표 — Anthropic
- CybersecurityNews 분석 — CybersecurityNews