AI 챗봇의 위기 대응 실패, 500만 달러로 검증한다
한 줄 요약: AI 챗봇이 위기에 처한 사용자를 제대로 돕는지 실증 검증하는 연구에 총 500만 달러 규모의 지원 공모가 시작됐다.
핵심
- ICTworks 보도에 따르면 AI 챗봇의 위기 대응 능력을 시험하는 연구 프로젝트에 총 500만 달러 규모의 지원금 공모가 열렸다.
- 초점은 사용자가 정신건강 위기 등 취약한 상황에 놓였을 때 챗봇이 안전하게 대응하는지, 아니면 실패하는지를 평가하는 데 있는 것으로 전해졌다.
- 연구·개발 주체를 대상으로 한 신청(Apply Now) 방식으로 진행된다.
왜 중요한가
챗봇이 상담·정보 창구로 빠르게 확산되면서, 위기 상황에서의 안전성은 규제와 신뢰의 핵심 쟁점으로 떠올랐다. 이번 공모는 그 안전성을 주관적 주장이 아닌 실증 데이터로 검증하려는 시도로 볼 수 있다.