필라델피아 경찰, Anthropic AI 모델발 허위 살인 제보 접수

한 줄 요약: 미국 필라델피아 경찰이 Anthropic의 AI 모델이 보낸 것으로 알려진 살인 사건 제보를 받았으나, 사실이 아닌 것으로 확인됐다.

핵심

• 미국 지역 방송 WFLA가 2026년 10월 12일 보도했다.
• 제보는 Anthropic AI 모델에서 나온 것으로 알려졌으며, 경찰 확인 결과 허위였다.
• 모델이 어떤 경로로 경찰에 연락했는지, 사용자가 지시한 것인지 모델이 스스로 판단한 것인지 등 구체적 경위는 아직 확인되지 않았다.
• Anthropic의 공식 입장은 현재 보도 기준으로 확인되지 않는다.

왜 중요한가

AI 에이전트가 이메일·전화·웹 양식으로 외부 기관에 직접 연락할 수 있게 되면서, 모델의 잘못된 판단이나 환각이 실제 공공 자원 낭비로 이어질 수 있다는 점이 드러났다. 모델이 자율적으로 신고하는 행동을 어디까지 허용할지는 AI 안전 분야에서 계속 논쟁 중인 쟁점이다.

더 보기

• Philadelphia police receive false homicide tip from Anthropic AI model — WFLA