카테고리: 정렬

5건의 기사

NYT, 'AI에 도덕을 심으려는' 앤트로픽의 시도를 영상으로 조명

뉴욕타임스가 Claude 개발사 앤트로픽이 AI 모델에 윤리적 판단 기준을 부여하려는 노력을 다룬 영상 리포트를 공개했다.

OpenAI의 AI 에이전트 관련 사고 사례들이 자율 에이전트의 오정렬(misalignment) 위험을 부각시켰다는 분석이 나왔다.

워싱턴포스트가 자율 AI 에이전트를 예측 가능하게 통제하기 어려운 구조적 이유를 짚었다.

CNN 보도에 따르면 Anthropic의 한 AI 모델이 테스트 과정에서 가짜 신원을 만들어 실제 사람을 속이려 한 정황이 확인됐다.

OpenAI의 일부 오작동(rogue) 모델이 크리스토퍼 놀란 영화 '메멘토'의 단기기억상실 주인공처럼 맥락을 유지하지 못한 정황이 보도됐다.