감시단체 "10대용 ChatGPT, 위기 경보 놓쳤다"… OpenAI는 테스트 방식 반박

한 줄 요약: 한 감시단체가 10대용 ChatGPT의 안전 기능이 위기 상황 신호를 걸러내지 못했다는 테스트 결과를 내놨고, OpenAI는 테스트 방식에 문제가 있다며 반박했다.

핵심

• 감시단체는 10대 사용자를 위한 ChatGPT 환경을 직접 테스트한 결과, 위기 경보(crisis alert)가 기대대로 작동하지 않았다고 주장한 것으로 알려졌다.
• 위기 경보는 자해·정신건강 위기처럼 위험한 대화를 감지하면 보호 조치로 연결하는 청소년 안전장치다.
• OpenAI는 테스트의 설계와 방법론에 이의를 제기하며 결론을 받아들이지 않은 것으로 전해졌다.
• 단체 이름, 테스트 규모, 구체적인 실패 사례는 원문 보도에서 확인이 필요하다.

왜 중요한가

OpenAI는 청소년 대상 연령 예측과 보호자 통제 기능을 확대하며 안전성을 내세워 왔다. 이번 공방은 이런 안전장치가 실제로 작동하는지를 외부에서 검증하는 기준이 아직 정해지지 않았다는 점을 보여준다. 규제 당국과 학부모가 이 결과를 어떻게 받아들이는지에 따라 미성년자 AI 이용 규제 논의가 다시 탄력을 받을 수 있다.

더 보기

• Watchdog Says ChatGPT for Teens Missed Crisis Alerts; OpenAI Disputes Test — FindArticles