Anthropic·Amazon·MS·Google, AI 탈옥 위험도 공동 측정 기준 'JSVS' 제안
Anthropic이 Project Glasswing 확장을 발표하며 Amazon, Microsoft, Google과 함께 탈옥 심각도를 4개 기준으로 점수화하는 산업 표준 프레임워크를 공개했다. 보안 분야 CVSS를 AI 탈옥에 응용한 구조다.
- Anthropic
- AI안전
- 보안
- Glasswing
- 산업표준
2건의 기사
Anthropic이 Project Glasswing 확장을 발표하며 Amazon, Microsoft, Google과 함께 탈옥 심각도를 4개 기준으로 점수화하는 산업 표준 프레임워크를 공개했다. 보안 분야 CVSS를 AI 탈옥에 응용한 구조다.
Anthropic의 Project Glasswing을 통해 Claude Mythos 모델이 주요 오픈소스 소프트웨어에서 1만 건 이상의 고위험·치명적 취약점을 식별했다. 90% 이상이 실제 취약점으로 검증됐다.