앤트로픽 얼라인먼트 책임자, 'AI가 10년 내 인류 절멸' 확률 10% 이상 경고
한 줄 요약: 앤트로픽의 얼라인먼트 책임자가 향후 10년 안에 AI가 인류에게 치명적 위협이 될 확률을 10% 이상으로 봤다고 포브스가 전했다.
핵심
- 앤트로픽 얼라인먼트(정렬) 부문 책임자가 AI가 "모든 인류를 죽일" 확률이 향후 10년 내 10%를 넘는다고 경고한 것으로 알려졌다.
- 특정 시나리오 예측이라기보다, 통제되지 않은 고성능 AI가 갖는 실존적 위험(existential risk)의 규모를 수치로 표현한 발언으로 읽힌다.
- 안전·정렬을 핵심 미션으로 내세운 앤트로픽 내부에서 나온 경고라는 점에서 무게가 실린다.
왜 중요한가
AI 위험론은 학계·시민단체뿐 아니라 최전선 개발사 내부에서도 반복적으로 제기되고 있다. 모델 성능 경쟁이 가속되는 가운데, 정렬을 담당하는 당사자가 두 자릿수 확률을 언급했다는 것은 규제·안전 투자 논의에 다시 불을 지필 수 있다.