앤트로픽, AI 탈옥 심각도 5단계 표준 체계 공개
앤트로픽이 아마존·마이크로소프트·구글과 공동으로 AI 탈옥(jailbreak)의 위험 수준을 0~4 단계로 정량화하는 'CJS 프레임워크'를 발표했다. 클로드 페이블 5 재배포 이후 업계 표준화를 위한 첫 공식 제안이다.
- Anthropic
- Safety
- Jailbreak
- LLM
- 보안
카테고리: Safety
1건의 기사
- 전체
- 3D Generation
- AI
- AI Agents
- AI Chip
- AI Crawlers
- AI Deployment
- AI Export Controls
- AI Funding
- AI Infrastructure
- AI Investment
- AI Model
- AI Policy
- AI Regulation
- AI Research
- AI Safety
- AI Search
- AI 거버넌스
- AI 구독
- AI 구조조정
- AI 규제
- AI 뉴스
- AI 데이터센터
- AI 도구
- AI 동영상
- AI 모델
- AI 반도체
- AI 버블
- AI 법률
- AI 보안
- AI 수학
- AI 시장
- AI 안전
- AI 에이전트
- AI 연구소
- AI 오버뷰
- AI 외교
- AI 위협
- AI 인식
- AI 인재
- AI 인프라
- AI 전략
- AI 정책
- AI 지출
- AI 채택
- AI 칩
- AI 코딩
- AI 투자
- AI 하드웨어
- AI감원
- AI거버넌스
- AI검색
- AI경쟁
- AI과학
- AI규제
- AI노동
- AI능력
- AI도구
- AI도입
- AI모델
- AI법안
- AI보안
- AI비디오
- AI산업
- AI성장
- AI수출통제
- AI스타트업
- AI시장
- AI안경
- AI안전
- AI앱
- AI에이전트
- AI의료
- AI인프라
- AI일자리
- AI정책
- AI주권
- AI지정학
- AI진정성
- AI챗봇
- AI추론
- AI충격
- AI칩
- AI코딩
- AI탐지
- AI투자
- AI펠로우십
- API
- ARR
- AWS
- Admin
- Adobe
- Agentforce
- Agility
- Agility Robotics
- Alibaba
- AlphaFold
- Amazon
- Amazon Bedrock
- Analytics
- Android
- Anthropic
- Apple
- Arena
- Azure
- BIS
- Benchmark
- Blackwell
- Broadcom
- ByteDance
- CISA
- Cerebras
- ChatGPT
- China
- Claude
- Claude Code
- Claude Mythos
- ClaudeCorps
- Cloudflare
- Codex
- Cohere
- Colorado
- Compliance
- Content Rights
- Context Window
- Copilot
- Cosmos
- Creative Cloud
- Cursor
- CuspAI
- Cybersecurity
- DXC
- Dean Ball
- DeepMind
- DeepSeek
- EIA
- EU
- EU AI Act
- EU AI법
- ElevenLabs
- Enterprise
- Enterprise AI
- EuroHPC
- FERC
- FLI
- Fable 5
- Fable5
- FedRAMP
- Finance
- Firmus
- Five Eyes
- Foundation Models
- Frontier Company
- Funding
- G7
- GLM
- GLM-5.2
- GPAI
- GPT
- GPT-4.5
- GPT-5.5
- GPT-5.6
- GPT-Live
- GPTZero
- GPU
- Gaming AI
- Gartner
- Gemini
- Gemini3.5Pro
- Gemma
- Gemma 4
- GitHub
- Glasswing
- Google DeepMind
- Google IO
- Government
- Grok
- HBM
- HappyHorse
- Hardware
- Hollywood
- HyperCLOVA
- ICLR 2026
- ICML
- ID관리
- IPO
- IP침해
- ITU
- JPMorgan
- Jailbreak
- Kimi
- LLM
- LLM 효율화
- Life Science
- LiteLLM
- LoftOrbital
- MAI
- MAU
- MCP
- MOU
- MTIA
- Marc Andreessen
- Meituan
- Meta
- Micron
- Microsoft
- Midjourney
- MiniMax
- Mistral
- MoE
- Model Evaluation
- Model Release
- Modular
- Muse Spark
- Mythos
- Mythos5
- NAVER
- NSA
- NVIDIA
- National Security
- Nemotron
- Noam Shazeer
- Nvidia
- OCR
- Okta
- Open Source
- OpenAI
- OpenAI 독립
- OpenRouter
- Oracle
- Pew Research
- Policy
- Qualcomm
- Qwen
- RCE
- RISC-V
- Reflection AI
- Robotics
- SB189
- SEC
- SEO
- SK텔레콤
- SK하이닉스
- Safety
- Salesforce
- Sam Altman
- SambaNova
- Samsung
- Security
- Seedance
- Seedream
- Semiconductor
- Sentry
- Series H
- Siri
- Slack
- Sonnet 5
- Sora
- SpaceX
- Superhuman
- TCS
- TPU
- TeraWulf
- Tesla
- Together AI
- Trainium
- Tripo AI
- Trump
- TurboQuant
- UN
- US Congress
- US Government
- Unitree
- V4Pro
- Venture Capital
- Voice AI
- WWDC
- Web Infrastructure
- Windows
- World Models
- Xcode
- Z.ai
- Zhipu AI
- Zuckerberg
- a16z
- iOS 27
- iOS27
- xAI
- 가격
- 개발도구
- 개발자
- 개발자도구
- 개인정보
- 거버넌스
- 거시경제
- 검색
- 검색 엔진
- 경제 리스크
- 경제지수
- 고용
- 고위험 AI
- 공간추론
- 공공AI
- 공공부문
- 공지
- 과금
- 과학연구
- 구글
- 구독
- 구조조정
- 국제정책
- 규제
- 글로벌 AI
- 금융 보안
- 금융 안정
- 금융AI
- 기술직감원
- 기업 AI
- 기업AI
- 기업가치
- 기업성장
- 기업파트너십
- 나스닥
- 노동시장
- 뉴스소비
- 더빙
- 데이터센터
- 동남아
- 동료심사
- 디지털 옴니버스
- 디지털 웰빙
- 딥페이크
- 랜섬웨어
- 레이오프
- 로드아일랜드
- 로보틱스
- 로봇
- 로이터연구소
- 리더십
- 리서치
- 마크다운인젝션
- 매출경쟁
- 멀티 AI
- 멀티링궐AI
- 멀티모달
- 멀티모델
- 멀티미디어
- 멀티에이전트
- 메모리
- 모델 출시
- 모델증류
- 모델출시
- 모델퇴장
- 문서AI
- 물리적AI
- 미국
- 미국 정부
- 미디어
- 미디어AI
- 미중기술전쟁
- 바이두
- 바이트댄스
- 반도체
- 반도체자립
- 백악관
- 법원 판결
- 벤처캐피털
- 벤처투자
- 벤치마크
- 보안
- 브로드컴
- 블랙스톤
- 비영리
- 비용 관리
- 비즈니스
- 빅테크
- 사이버보안
- 사전훈련
- 사회
- 사회임팩트
- 산업표준
- 삼성
- 상무부
- 상장
- 샘 올트먼
- 샘올트먼
- 생명과학
- 생성AI
- 생성형 AI
- 생성형AI
- 서울사무소
- 세계모델
- 소버린AI
- 소비자AI
- 소송
- 소재과학
- 소프트웨어
- 수출 통제
- 수출규제
- 수출통제
- 스마트스피커
- 스마트홈
- 스타트업
- 스페이스X
- 시장점유율
- 신약개발
- 신원인증
- 아마존
- 아프리카
- 알리바바
- 에너지
- 에이전트
- 에이전트 AI
- 에이전트AI
- 엔비디아
- 엔터프라이즈
- 엔터프라이즈AI
- 엣지AI
- 여론
- 연구
- 연준
- 영업비밀
- 예측시장
- 오픈소스
- 오픈웨이트
- 온디바이스 AI
- 온디바이스AI
- 온프레미스
- 요금제
- 우주AI
- 월드모델
- 웨어러블
- 위성
- 유럽
- 유럽연합
- 음성
- 음성AI
- 의료
- 이미지 AI
- 이미지생성
- 이정표
- 인도네시아
- 인수합병
- 인재
- 인재영입
- 인재유출
- 인재이동
- 인증
- 인프라
- 일본
- 자기개선AI
- 자동화
- 자체 개발
- 재교육
- 재귀적 자기개선
- 저작권
- 전력망
- 정부AI
- 정신건강
- 정책
- 정책변경
- 제품 종료
- 제프베조스
- 주가
- 주식상장
- 중국
- 중국 AI
- 중국AI
- 증류공격
- 지속가능성
- 지식재산권
- 지정학
- 직무만족도
- 챗봇
- 체화지능
- 추론
- 추론모델
- 취약점
- 카르파티
- 캘리포니아
- 컴퓨트 부족
- 컴퓨팅
- 컴플라이언스
- 코딩
- 코딩 모델
- 코딩AI
- 콘텐츠 창작
- 콘텐츠라벨링
- 콜로라도
- 퀄컴
- 탄소배출
- 텐스토렌트
- 투자
- 파이브아이즈
- 파트너십
- 펀딩
- 프런티어AI
- 하드웨어
- 학술
- 한국
- 한국AI
- 한미관계
- 할라피뇨
- 할루시네이션
- 할리우드
- 행정명령
- 현지화
- 화웨이
- 휴머노이드