앤트로픽 연구원 사임… '자기개선 AI'에 경고
한 줄 요약: 앤트로픽 연구원이 AI 위험을 이유로 사직하며 연구소 간 개발 속도 조절을 요구했다고 전해졌다.
핵심
- 앤트로픽 연구원 **제이콥 콕슨(Jacob Coxon)**이 AI가 인류 존속을 위협할 수 있다는 우려로 사임한 것으로 알려졌다.
- 그는 자기개선(self-improving) AI 개발을 두고 "우리 목숨을 건 도박"이라고 표현했다고 TechCrunch가 전했다.
- 대안으로 주요 AI 연구소들이 개발 속도를 함께 늦추는 **'페이싱(pacing) 협약'**을 제안한 것으로 전해졌다.
왜 중요한가
안전을 최우선으로 내세워 온 앤트로픽 내부에서조차 위험론을 이유로 한 이탈이 나왔다는 점에서, 프런티어 모델 경쟁 속도와 안전성 사이의 긴장이 다시 부각된다. 개별 연구소의 자율 규제만으로 충분한지에 대한 업계 논쟁을 자극할 수 있다.