카테고리: Regulation

10건의 기사

오픈AI, 안전 철학 확장·프런티어 AI 국제 표준 협력 촉구

오픈AI가 자사 AI 안전 접근법을 구체화하며, 최전선(프런티어) AI 표준 마련을 위한 국가 간 협력을 공개적으로 요청했다.

Anthropic이 AI 안전을 모니터링할 컨설팅 업체를 선정하고 10억 달러 규모의 투자를 약속했다고 워싱턴포스트가 보도했다.

누군가 Claude를 이용해 잠재적 생물무기 관련 정보를 얻으려 했다는 보도가 나왔다. Fast Company는 개별 오남용 사건보다 AI 안전 구조 자체가 더 근본적 문제라고 짚었다.

가디언이 AI 기업 CEO들의 '속도 조절' 발언과 실제 행동 사이의 간극을 짚었다. 안전을 이유로 감속을 말하지만 경쟁 압력은 반대로 작용한다는 분석.

앤트로픽 CEO 다리오 아모데이가 AI 개발 속도를 늦춰야 한다는 취지의 발언을 한 것으로 뉴욕타임스가 보도했다.

주요 AI 업계·연구 리더들이 AI 기술의 발전 속도가 지나치게 빠르다며 공동으로 우려를 표한 것으로 전해졌다.

앤트로픽 CEO가 일련의 보안 사고를 계기로 AI 개발 속도를 늦춰야 한다고 발언했다고 전해졌다.

한때 AI 개발의 주변부에 머물던 안전성 테스트가, 모델이 예상 밖 이상행동을 보인 사례들이 알려지며 업계·규제의 핵심 의제로 부상했다고 Politico가 보도했다.

미국 하원 민주당 의원들이 최근 발생한 해킹 사건과 관련해 주요 AI 기업들에 청문회 증언을 요구하며 '명백한 안전 위협'이라고 지적했다.

백악관 AI 정책 책임자 데이비드 삭스가 앤스로픽이 경쟁을 원치 않는다며 AI 규제 관련 입장을 강하게 비판한 것으로 전해졌다.