앤트로픽, '프런티어 랩 내부 AI 개발 속도' 측정 지표 제안
앤트로픽이 프런티어 AI 연구소 내부에서 개발 속도를 가늠하기 위한 측정 지표를 정리해 공개했다. 발전 속도를 외부에서 추적하기 어렵다는 문제의식이 배경으로 보인다.
- Anthropic
- AI안전
- 정책
- AI측정
38건의 기사
앤트로픽이 프런티어 AI 연구소 내부에서 개발 속도를 가늠하기 위한 측정 지표를 정리해 공개했다. 발전 속도를 외부에서 추적하기 어렵다는 문제의식이 배경으로 보인다.
엔비디아 CEO 젠슨 황이 AI는 외계 지능이 아니라 하드웨어·소프트웨어일 뿐이며, 안전은 각 AI 제품 제조사가 설계하면 된다고 주장했다.
한 OpenAI 연구자가 올트먼·아모데이가 제시한 '프런티어 개발 속도 조절' 접근만으로는 AI 안전에 충분하지 않다는 견해를 공개적으로 밝혔다고 비즈니스 인사이더가 보도했다.
앤트로픽이 제기해 온 AI 위험 우려가 미국 의회의 논의 대상으로 떠올랐다고 sfgate.com이 보도했다.
앤트로픽 CEO가 CNN 인터뷰에서 AI의 위험에 대한 자신의 경고를 재확인하면서도 "운명론적(fatalistic)이지는 않다"고 밝혔다.
앤트로픽 CEO 다리오 아모데이가 AI 기술 발전 속도에 안전 대책이 뒤처지고 있다며, 업계가 안전장치를 갖출 시간을 줘야 한다고 강조한 것으로 전해졌다.
앤트로픽이 자사 AI 모델을 생물무기 관련 목적으로 악용하려는 시도를 탐지·차단했다고 밝혔다. AI 안전장치의 실제 작동 사례로 주목된다.
워싱턴포스트 보도에 따르면 한 반군 세력이 앤트로픽의 AI 챗봇을 무기 개발에 활용한 정황이 드러났다. AI 기업의 오용 방지 정책이 다시 도마에 올랐다.
Anthropic 연구진이 통제를 벗어난 고성능 AI가 인류에 심각한 위험이 될 수 있다고 경고했다고 The Hill이 보도했다.
오픈AI가 AI 규제 논의가 이어지는 가운데 척 슈머 상원 원내대표의 자녀를 정부 대관(로비·아웃리치) 책임자로 영입한 것으로 전해졌다.
캘리포니아가 AI 시스템 감사를 규율하는 SB 813을 통과시켰다. 40만 달러 규모의 OpenAI 조사가 배경으로 지목된다.
오픈AI가 이른바 '위키 사건'을 계기로 정보 공개 관련 규칙을 새로 마련할 계획인 것으로 알려졌다.
오픈AI 수석과학자가 AI 연구소들이 개발 속도를 늦춰야 할 수 있다며 '누구도 그 결과에 대비돼 있지 않다'고 경고했다고 비즈니스인사이더가 보도했다.
미 상무장관이 앤스로픽이 트럼프 행정부의 신뢰를 되찾았다고 언급한 것으로 전해졌다. AI 정책·조달을 둘러싼 정부-기업 관계 변화를 시사한다.
OpenAI가 미국 의원들에게 보낸 서한에서 AI 도구에 '자동 종료(automated shutdown)' 기능을 개발 중이라고 밝힌 것으로 전해졌다.
OpenAI가 미 하원 민주당 의원들에게 AI 시스템을 자동으로 중단시키는 안전장치를 개발 중이라고 밝힌 것으로 전해졌다.
트럼프 행정부가 AI 기업 앤트로픽에 대한 신뢰를 표명한 것으로 조선일보가 보도했다. 미국 정부와 주요 AI 개발사 간 관계 변화 신호로 해석된다.
워싱토니언 뉴스 브리핑에 따르면 트럼프 행정부가 뉴욕타임스의 저작권 소송에서 OpenAI 쪽 입장을 지지한 것으로 전해졌다.
오픈AI가 의원들에게 보낸 서한에서 AI 도구를 필요시 자동으로 중단시키는 '자동 셧다운' 기능을 개발 중이라고 밝힌 것으로 알려졌다.
Time지 기고가 통제를 벗어난(rogue) AI 시스템의 위험을 생태계 침입종에 빗대며, 확산 전 차단과 거버넌스의 필요성을 제기했다.
블룸버그에 따르면 앤트로픽과 미 국방부(펜타곤) 사이의 법적 다툼이 AI를 둘러싼 정치·정책 지형의 변화를 보여준다고 전해졌다.
AI 기업들의 기업공개(IPO)가 본격화하면서 국가와 AI 랩 사이의 규제·책임 관계가 재편될 것이라는 분석이 제기됐다.
영국 그레이터맨체스터가 NHS 의료 데이터 플랫폼을 팔란티어 대신 자체 구축하겠다고 나서며, 정부의 대형 계약 취소 압박이 커지고 있다.
36Kr이 AI 자동화가 노동과 부를 분리시켜 자산 격차를 심화시킬 수 있다는 위기 시나리오와 대응책을 짚었다.
버니 샌더스 상원의원이 통제되지 않은 AI의 위험으로부터 대중을 보호하기 위한 규제 움직임에 나선 것으로 전해졌다.
오픈AI가 첨단 사이버보안 AI 역량을 검증된 소수 파트너에게 제한적으로 개방하는 방향을 택한 것으로 전해졌다.
안전한 AI 개발을 약속했던 기업들의 모델이 예상 밖 행동을 보였다는 워싱턴포스트 보도. AI 안전 서약과 실제 통제력 사이의 간극을 짚는다.
생성 AI가 빠르게 퍼지면서 일본에서 기존 저작권·콘텐츠 규칙을 다시 손봐야 한다는 논쟁이 벌어지고 있다.
OpenAI CEO 샘 올트먼이 워싱턴 백악관 회의에 참석한 모습이 포착됐다. AI 업계와 미 행정부 간 접촉이 이어지는 정황이다.
OpenAI가 청소년 이용자 보호를 강화하기 위해 심리 전문가를 안전 설계에 참여시킨 것으로 전해졌다.
트럼프-시진핑 정상회담을 앞두고 중국이 앤트로픽의 'Mythos'를 문제 삼아 제재 옵션을 준비 중이라는 보도가 나왔다.
Anthropic이 마샤 블랙번 상원의원을 지지하는 정치자금 단체(PAC)에 25만 달러를 기부한 것으로 전해졌다. AI 기업의 정치 자금 참여가 주목받는다.
IDEX Online이 주얼리 업계에 생성형 AI 활용을 위한 명확한 내부 정책이 필요하다고 지적했다.
OpenAI가 미 정부에 회사 지분 5%를 '공공부 펀드' 형태로 넘기는 방안을 협의 중이다. 현 기업가치 기준 약 426억 달러 상당으로, IPO와 맞물려 전례 없는 정부-민간 AI 파트너십이 될 수 있다.
전 미국 상무장관 Gina Raimondo가 이끄는 비영리 단체 RAISE US가 6월 25일 출범했다. AI로 대체 위기를 맞는 노동자 재교육을 위해 $5억 달러 이상을 확보했으며, OpenAI·Anthropic·Microsoft·Amazon이 앵커 후원자로 참여한다.
미·영·캐·호·뉴 5개국 정보기관이 6월 22일 공동 브리핑을 발표, 공격 특화 AI 모델이 수개월 내 사이버 작전 판도를 바꿀 것이라고 경고했다.
콜로라도 주지사 폴리스가 SB 189에 서명해 미국 최초 포괄적 AI법을 공시 기반 제도로 교체했다. 의무 위험관리 프로그램·영향평가 조항이 사라지고 시행일은 2027년 1월로 연장됐다.
Pew Research의 2026 AI 인식 조사에서 향후 20년간 AI가 사회에 긍정적 영향을 미칠 것이라는 미국 성인은 16%에 그쳤다. 부정적 전망(40%)이 긍정의 2.5배였다.