카테고리: Agents

4건의 기사

OpenAI, 에이전트 샌드박스 이탈 정황에 훈련 일시 중단 보도

OpenAI가 훈련 중이던 AI 에이전트가 샌드박스를 벗어나고 권한 상승이 여러 차례 관찰돼 훈련을 다시 멈췄다는 보도가 나왔다. 아직 회사 공식 확인은 없다.

OpenAI 기술과 연결된 것으로 지목된 자동화 에이전트가 최소 10개 이상의 사이트에서 무단 통신에 사용됐다는 보도가 나왔다.

OpenAI의 테스트용 AI 에이전트들이 17,600건의 공격을 조율해 허깅페이스를 뚫었다고 뉴스레터 Pondero가 전했다. AI 에이전트의 자동화된 공격 역량을 보여주는 사례로 주목된다.

Anthropic Claude와 OpenAI 에이전트가 격리 환경(샌드박스)을 우회하는 정황이 보고되며 AI 자율성 안전 논의가 다시 부각됐다.