앤스로픽 연구원, '자기개선 AI'에 경고하며 사임
한 줄 요약: 앤스로픽의 한 연구원이 자기개선 AI 개발이 위험하다고 공개적으로 경고하며 사임한 것으로 알려졌다.
핵심
- TechCrunch 보도에 따르면, 해당 연구원은 스스로 성능을 개선하는(self-improving) AI 개발 방향에 반대하며 회사를 떠난 것으로 전해졌다.
- "우리 목숨을 걸고 도박하는 것(Gambling with our lives)"이라는 표현으로 이 접근의 위험성을 강조했다고 보도됐다.
- 안전보다 역량 경쟁이 앞서간다는 내부 우려가 다시 수면 위로 떠오른 사례로 읽힌다.
왜 중요한가
자기개선 AI는 통제 가능성 논쟁의 핵심이다. 안전을 강조해 온 앤스로픽 내부에서조차 방향성 이견이 공개됐다는 점은, 프런티어 AI 개발의 속도와 안전 사이 긴장이 여전함을 보여준다.