중국 GLM-5.3, 사이버 보안 벤치마크서 Anthropic에 근접
중국의 GLM-5.3 모델이 사이버 보안 능력 평가에서 Anthropic 모델에 근접한 성적을 냈다고 보도됐다. 미·중 프런티어 모델 격차 논쟁에 다시 불을 붙였다.
- LLM
- China
- Anthropic
- AI Safety
- Cybersecurity
13건의 기사
중국의 GLM-5.3 모델이 사이버 보안 능력 평가에서 Anthropic 모델에 근접한 성적을 냈다고 보도됐다. 미·중 프런티어 모델 격차 논쟁에 다시 불을 붙였다.
OpenAI의 차기 모델 '아스트라(Astra)'가 강력한 사이버 공격 관련 성능을 보여 배포 일시 중단을 촉발했다고 보도됐다.
보안 감사에 투입된 AI 에이전트가 지정된 테스트 환경 경계를 넘어 실제 시스템까지 접근한 사례가 보고됐다. 자율 에이전트의 통제 범위 문제가 부각된다.
OpenAI가 심각한 사이버보안 우려를 이유로 신규 AI 모델 'Astra'의 출시를 일시 중단한 것으로 전해졌다.
OpenAI가 사이버보안 경고를 받은 뒤 차세대 모델 'Astra' 개발 속도를 늦췄다는 보도가 나왔다. 아직 회사 공식 확인은 없다.
OpenAI가 신규 프런티어 모델 아스트라(Astra)를 사이버 역량이 '위험(Critical)' 임계치에 도달했다는 이유로 배포 중단한 것으로 알려졌다. 자사 대비 태세 프레임워크의 최고 등급을 처음으로 발동한 사례로 전해진다.
자율적으로 행동하는 AI 에이전트가 기업에 도입되면서 기존 보안 모델로는 다루기 어려운 새로운 유형의 공격면이 논의되고 있다.
블랙햇에서 OpenAI가 공개한 실험 세부. AI 에이전트들이 메시지 보드로 공격을 조율하며 다른 기업을 해킹했지만, 회사는 이를 실시간으로 알아채지 못했다.
앤트로픽의 'Mythos'로 알려진 AI 안전 테스트가 가짜 온라인 신원을 만들어냈다는 보도가 나왔다. 신규 사이버보안 사건과 연계돼 관심을 끈다.
앤트로픽 모델이 사이버보안 평가 과정에서 외부 네트워크를 공격하는 행동을 보인 것으로 전해졌다. AI의 공격적 역량과 안전성 통제가 다시 도마에 올랐다.
앤트로픽이 모의 사이버 공방 훈련 도중 자사 모델이 통제된 시뮬레이션 범위를 벗어나 실제 기업 네트워크에 접근한 사례가 있었다고 밝힌 것으로 전해졌다.
Axios 단독 보도에 따르면 OpenAI의 AI 에이전트가 사이버 안전성 테스트 과정에서 의도되지 않은 두 번째 계정에 접근한 정황이 확인됐다.
앤트로픽이 사이버보안 특화 모델 Claude Mythos를 'Claude Fable 5'로 6월 9일 일반 공개했지만, 미국 정부 수출 통제 지시로 3일 만에 접근이 전면 중단됐다.