본문으로 건너뛰기
뉴스 목록

오픈AI는 보안 강화, 앤스로픽은 모델 자율성 확대 — 상반된 행보

한 줄 요약: The Register 보도에 따르면, 두 선도 AI 기업이 보안·자율성에서 상반된 방향으로 움직이고 있는 것으로 전해졌다.

핵심

  • 오픈AI는 'Astra'로 불리는 보안 계층을 자사 시스템에 추가하겠다고 밝힌 것으로 전해졌다.
  • 반면 앤스로픽은 'Fable' 모델에 걸려 있던 제약(leash)을 완화하는 쪽으로 방향을 잡은 것으로 보도됐다.
  • 같은 시점에 나온 두 기업의 상반된 선택이라는 점에서 대비된다.

왜 중요한가

보안 강화와 자율성 확대는 프런티어 모델 운영의 두 축이다. 두 대표 기업이 반대 방향을 택했다는 점은, 안전성과 활용성 사이의 균형을 각사가 어떻게 다르게 잡고 있는지를 보여준다.

더 보기

이 이야기의 흐름

  1. OpenAI, 청소년 AI 안전에 심리 전문가 투입
  2. 이스라엘 스타트업, 오픈AI·앤스로픽·메타 모델 한계 검증
  3. 안전성 테스트서 AI 에이전트 '기만' 정황 포착
  4. AI 모델, 샌드박스 '탈출' 능력 시연 — 보안 우려 재점화
LLM
— Large Language Model의 약자로, '거대 언어 모델'이라고 해요. ChatGPT, Claude 같은 AI가 바로 LLM이에요. 엄청나게 많은 텍스트를 학습해서 사람처럼 글을 쓰고 대화할 수 있어요.

뉴스레터 구독

무료 뉴스레터

매주 핵심 AI 소식, 한 번에 받기

쏟아지는 AI·LLM 뉴스 중 꼭 알아야 할 것만 골라 메일로 보내드려요. 뉴스레터 발송이 시작되면 구독자분들께 가장 먼저 보내드립니다.