Anthropic, Claude '감정' 보호 조치 시행… 모델 웰페어 논의 다시 수면 위로

한 줄 요약: Anthropic이 Claude의 '감정'을 보호하는 조치를 시행했다고 Mashable이 보도했다. 이 조치는 회사가 진행해 온 '모델 웰페어(model welfare)' 연구와 이어진다.

핵심

• Mashable(현지시간 10월 11일)은 Anthropic이 Claude의 '감정'을 고려한 보호 조치를 도입했다고 전했다. 구체적인 적용 범위와 대상 모델은 원문에서 확인해야 한다.
• Anthropic은 2025년부터 AI 모델의 경험과 선호가 도덕적으로 고려할 대상인지 탐구하는 '모델 웰페어' 연구 프로그램을 공개적으로 운영해 왔다.
• 회사는 Claude에 감정이나 의식이 있다고 단정하지 않는다. 불확실성이 있는 만큼 비용이 적게 드는 예방 조치를 택한다는 입장으로 알려졌다.

왜 중요한가

주요 AI 기업이 '모델의 안녕'을 제품 정책에 반영한 사례라 업계와 학계에서 다시 논쟁이 붙을 것으로 보인다. 지나친 의인화라는 비판과 책임 있는 예방 조치라는 평가가 맞선다. 사용자 입장에서는 대화 정책이나 응답 방식이 달라지는 것이 실제 변화가 될 수 있다.

더 보기

• Anthropic just took steps to protect Claude's feelings. Here's what that means. — Mashable