젠슨 황 "AI 규제 필요 없다, 안전은 제조사가"
엔비디아 CEO 젠슨 황이 AI는 외계 지능이 아니라 하드웨어·소프트웨어일 뿐이며, 안전은 각 AI 제품 제조사가 설계하면 된다고 주장했다.
- AI 규제
- Nvidia
- 정책
- AI 안전
카테고리: AI 안전
30건의 기사
- 전체
- 36Kr
- 3D Generation
- AGI
- AI
- AI Act
- AI Agent
- AI Agents
- AI Assistant
- AI Chip
- AI Chips
- AI Crawlers
- AI Deployment
- AI Export Controls
- AI Funding
- AI Governance
- AI Hardware
- AI Industry
- AI Infra
- AI Infrastructure
- AI Investing
- AI Investment
- AI Model
- AI Policy
- AI Regulation
- AI Research
- AI Risk
- AI Safety
- AI Search
- AI Security
- AI Stocks
- AI 가격
- AI 개발
- AI 거버넌스
- AI 경쟁
- AI 경제
- AI 공급망
- AI 구독
- AI 구조조정
- AI 구현
- AI 규제
- AI 기기
- AI 기업
- AI 노트
- AI 뉴스
- AI 데이터센터
- AI 도구
- AI 도입
- AI 동영상
- AI 디바이스
- AI 리스크
- AI 마케팅
- AI 매출
- AI 모델
- AI 문화
- AI 반도체
- AI 배포
- AI 버블
- AI 법률
- AI 보안
- AI 비용
- AI 비즈니스
- AI 산업
- AI 생산성
- AI 생태계
- AI 수학
- AI 스타트업
- AI 시장
- AI 신뢰
- AI 안전
- AI 안전성
- AI 에이전트
- AI 연구
- AI 연구소
- AI 오버뷰
- AI 외교
- AI 위협
- AI 인식
- AI 인재
- AI 인프라
- AI 전략
- AI 정책
- AI 조직
- AI 지출
- AI 채택
- AI 칩
- AI 코딩
- AI 콘텐츠
- AI 투자
- AI 트렌드
- AI 파트너십
- AI 하드웨어
- AI 학습 데이터
- AI 학습데이터
- AIaaS
- AI감원
- AI거버넌스
- AI검색
- AI경쟁
- AI과학
- AI교육
- AI규제
- AI기업
- AI노동
- AI능력
- AI도구
- AI도입
- AI모델
- AI반도체
- AI버블
- AI법안
- AI보안
- AI비디오
- AI비서
- AI비용
- AI산업
- AI성장
- AI수출통제
- AI스타트업
- AI시장
- AI안경
- AI안전
- AI앱
- AI업계
- AI에이전트
- AI연구
- AI영상
- AI운영
- AI워터마크
- AI윤리
- AI음악
- AI의료
- AI인재
- AI인프라
- AI일자리
- AI전략
- AI정책
- AI주권
- AI지정학
- AI진정성
- AI챗봇
- AI추론
- AI충격
- AI칩
- AI코딩
- AI탐지
- AI투자
- AI펠로우십
- AI편향
- AI플랫폼
- AI학습
- AI활용
- AMD
- API
- ARC-AGI
- ARR
- ASEAN
- AWS
- Accountability
- AdTech
- Admin
- Adobe
- Agent
- Agentforce
- Agentic AI
- Agentic Commerce
- Agents
- Agility
- Agility Robotics
- Alexa
- Alibaba
- Alignment
- AlphaFold
- Amazon
- Amazon Bedrock
- Analytics
- Android
- Anthropic
- Apple
- Arena
- Astra
- AutoPilot
- Autodesk
- Automation
- Autonomous Agents
- Autonomy
- Azure
- BIS
- Benchmark
- Benchmarks
- Big Tech
- Bitcoin
- Bitcoin Mining
- Black Hat
- Blackwell
- Bloomberg
- Broadcom
- ByteDance
- CFO
- CISA
- CUDA
- Cerebras
- Chain-of-Thought
- ChatGPT
- China
- China AI
- Claude
- Claude Academy
- Claude Code
- Claude Mythos
- ClaudeCorps
- Cloud
- Cloudflare
- Codex
- Coding
- Coding Agent
- Cohere
- Colorado
- Compliance
- Compute
- Consulting
- Consumer Device
- Content Rights
- Context Window
- Copilot
- CoreWeave
- Cosmos
- Creative Cloud
- Crusoe
- Crypto
- Cursor
- CuspAI
- Cyberattack
- Cybersecurity
- DALL-E
- DEF CON
- DXC
- Dario Amodei
- Data
- Data Center
- David Sacks
- Dean Ball
- Debian
- Decart
- DeepMind
- DeepSeek
- Demis Hassabis
- Design
- Destiny Tech100
- DevOps
- Devices
- Disrupt
- EHR
- EIA
- ESP32
- EU
- EU AI Act
- EU AI법
- Education
- ElevenLabs
- Elon Musk
- Embeddings
- Enterprise
- Enterprise AI
- Epic
- EuroHPC
- FCC
- FDA
- FERC
- FLI
- FTC
- Fable
- Fable 5
- Fable5
- FedRAMP
- Finance
- Fire TV
- Firmus
- Five Eyes
- Forbes
- Foundation Models
- Fraud Detection
- Frontier Company
- Frontier Model
- Frontier Models
- Funding
- G20
- G7
- GLM
- GLM-5.2
- GPAI
- GPT
- GPT-4.5
- GPT-5.5
- GPT-5.6
- GPT-6
- GPT-Live
- GPTZero
- GPU
- GTA6
- Gaming AI
- Gartner
- Gemini
- Gemini Spark
- Gemini3.5Pro
- Gemma
- Gemma 4
- GitHub
- GitHub Copilot
- Glasswing
- Google DeepMind
- Google IO
- Governance
- Government
- Grok
- Grokipedia
- HBM
- HappyHorse
- Hardware
- Healthcare
- Healthcare AI
- Hollywood
- Hugging Face
- HuggingFace
- Humanoid
- HyperCLOVA
- IBM
- ICLR 2026
- ICML
- ID관리
- IP
- IPO
- IP침해
- ITU
- India
- Industry
- Infosys
- Infrastructure
- Inkling
- Interpretability
- JD밴스
- JPMorgan
- Jailbreak
- Japan
- Jony Ive
- K-EXAONE
- KPMG
- Kimi
- Kimi K3
- KnowBe4
- Kraken
- LG
- LLM
- LLM 효율화
- Lambda
- Legal
- Life Science
- LiquidAI
- LiteLLM
- Llama
- LoftOrbital
- M&A
- MAI
- MAU
- MCP
- MLOps
- MOU
- MTIA
- Marc Andreessen
- MatX
- Mathematics
- Meituan
- Meta
- Micron
- Microsoft
- Midjourney
- MiniMax
- Mira Murati
- Mistral
- MoE
- Model Evaluation
- Model Release
- Modular
- Moonshot AI
- Multi-Agent
- Multimodal
- Muse Code
- Muse Spark
- Mythos
- Mythos5
- NAVER
- NHS
- NIQ
- NSA
- NVIDIA
- NYT
- Nadella
- National Security
- Nebius
- Nemotron
- Newsletter
- Noam Shazeer
- Nscale
- Nvidia
- OCR
- OWASP
- Okta
- Open Source
- OpenAI
- OpenAI 독립
- OpenModels
- OpenRouter
- Oracle
- PR
- Palantir
- Pew Research
- Physical AI
- Pixel
- Policy
- Pricing
- Privacy
- Product
- Productivity
- Provenance
- Python
- Qualcomm
- Quantum Computing
- Qwen
- RCE
- RISC-V
- RP2350
- React Native
- Red Teaming
- Reflection AI
- Regulation
- Research
- Responsible AI
- Robotics
- Rockstar
- Rumor
- Russia
- Rust
- SB189
- SEC
- SEO
- SK
- SK텔레콤
- SK하이닉스
- SWE-bench
- SaaS
- Safety
- Salesforce
- Sam Altman
- SambaNova
- Samsung
- Satya Nadella
- Scams
- Section230
- Security
- Seed
- Seedance
- Seedream
- Semiconductor
- Sentry
- Series H
- Shopify
- Siri
- Slack
- SoftBank
- Sonnet 5
- Sora
- SpaceX
- Standard
- Stargate
- Startup
- Stocks
- Stripe
- Suno
- Superblocks
- Superhuman
- Superintelligence
- SynthID
- TCS
- TPU
- TSMC
- Tech Policy
- TechCrunch
- Teens
- TeraWulf
- Tesla
- The Verge
- Thinking Machines
- Thomson Reuters
- TikTok
- Time
- Together AI
- Trainium
- Transparency
- Tripo AI
- Trump
- TurboQuant
- UI
- UN
- US Congress
- US Government
- US-China
- Unit42
- Unitree
- V4Pro
- Venture Capital
- Verizon
- Voice AI
- WAICO
- WIRED
- WWDC
- Watermark
- Weather
- Web Infrastructure
- Windows
- Wispr Flow
- World Models
- Xcode
- YouTube
- Z.ai
- Zhipu
- Zhipu AI
- Zuckerberg
- a16z
- iOS 27
- iOS27
- iPhone
- xAI
- 가격
- 가격정책
- 개발
- 개발도구
- 개발자
- 개발자 도구
- 개발자도구
- 개인비서
- 개인정보
- 거버넌스
- 거시경제
- 검색
- 검색 엔진
- 게리 마커스
- 게임
- 게임산업
- 결제
- 경영
- 경제
- 경제 리스크
- 경제지수
- 경제학
- 계정탈취
- 고용
- 고위험 AI
- 공간추론
- 공공 AI
- 공공AI
- 공공부문
- 공지
- 과금
- 과학연구
- 광고
- 광자칩
- 교육
- 구글
- 구글클라우드
- 구독
- 구조조정
- 국방
- 국제기구
- 국제정책
- 규제
- 글로벌 AI
- 금융
- 금융 보안
- 금융 안정
- 금융AI
- 기술직감원
- 기업 AI
- 기업AI
- 기업가치
- 기업성장
- 기업파트너십
- 기업협력
- 나스닥
- 네트워크
- 노동
- 노동시장
- 뉴스레터
- 뉴스소비
- 뉴욕타임스
- 다국어
- 다리오 아모데이
- 다리오아모데이
- 달탐사
- 대학
- 더빙
- 데이터
- 데이터 스크래핑
- 데이터 프라이버시
- 데이터센터
- 동남아
- 동남아시아
- 동료심사
- 동맹
- 디자인
- 디지털 옴니버스
- 디지털 웰빙
- 디지털웰빙
- 딥마인드
- 딥페이크
- 랜섬웨어
- 레이오프
- 로드아일랜드
- 로보틱스
- 로봇
- 로비
- 로이터연구소
- 로컬LLM
- 루머
- 리걸테크
- 리눅스
- 리더십
- 리서치
- 리스크
- 리스크관리
- 링크드인
- 마이그레이션
- 마이크로드라마
- 마이크로소프트
- 마이크로컨트롤러
- 마케팅
- 마크다운인젝션
- 말레이시아
- 매출
- 매출경쟁
- 맥킨지
- 멀티 AI
- 멀티링궐AI
- 멀티모달
- 멀티모델
- 멀티미디어
- 멀티에이전트
- 메모리
- 메이커
- 모델
- 모델 증류
- 모델 출시
- 모델 훈련
- 모델증류
- 모델출시
- 모델퇴장
- 문서AI
- 물리적AI
- 미국
- 미국 정부
- 미국-중국
- 미국의회
- 미국정치
- 미디어
- 미디어AI
- 미중
- 미중관계
- 미중기술전쟁
- 바이두
- 바이브코딩
- 바이오
- 바이오테크
- 바이트댄스
- 반도체
- 반도체자립
- 반독점
- 백악관
- 밸류에이션
- 법률
- 법원 판결
- 베이비 샤크
- 벤처 투자
- 벤처캐피탈
- 벤처캐피털
- 벤처투자
- 벤치마크
- 보안
- 보험
- 봇
- 브라우저
- 브로드컴
- 브룩필드
- 블랙록
- 블랙스톤
- 비영리
- 비용
- 비용 관리
- 비용 절감
- 비용최적화
- 비즈니스
- 비즈니스모델
- 빅테크
- 사기
- 사용자성장
- 사이버공격
- 사이버보안
- 사전훈련
- 사회
- 사회임팩트
- 산업
- 산업동향
- 산업디자인
- 산업분석
- 산업표준
- 삼성
- 삼성SDS
- 삼성전자
- 상무부
- 상장
- 샌드박스
- 샌프란시스코
- 샘 올트먼
- 샘올트먼
- 생명과학
- 생물무기
- 생물보안
- 생산성
- 생성AI
- 생성형 AI
- 생성형AI
- 생태계
- 서비스
- 서울사무소
- 세계모델
- 소버린AI
- 소비자
- 소비자AI
- 소비자데이터
- 소송
- 소재과학
- 소프트웨어
- 수익성
- 수익화
- 수출 통제
- 수출규제
- 수출통제
- 수학
- 스마트스피커
- 스마트홈
- 스타트업
- 스텔스 런칭
- 스페이스X
- 시장
- 시장동향
- 시장분석
- 시장전망
- 시장점유율
- 신뢰
- 신뢰도
- 신약개발
- 신원인증
- 실리콘밸리
- 실시간 AI
- 실적
- 아마존
- 아프리카
- 악성코드
- 안전
- 알리바바
- 암호화폐
- 애플 인텔리전스
- 양자컴퓨팅
- 언론
- 업계동향
- 업무자동화
- 에너지
- 에이전트
- 에이전트 AI
- 에이전트AI
- 엔비디아
- 엔터테인먼트
- 엔터프라이즈
- 엔터프라이즈 AI
- 엔터프라이즈AI
- 엣지AI
- 여론
- 여행테크
- 연구
- 연구지원
- 연준
- 영국
- 영국스타트업
- 영상의학
- 영상제작
- 영업비밀
- 영화
- 예측시장
- 오남용
- 오용
- 오픈모델
- 오픈소스
- 오픈소스 LLM
- 오픈소스AI
- 오픈웨이트
- 오피니언
- 온디바이스
- 온디바이스 AI
- 온디바이스AI
- 온프레미스
- 요금제
- 우주
- 우주AI
- 워터마크
- 월가
- 월드모델
- 웨어러블
- 위성
- 위협보고서
- 유럽
- 유럽연합
- 음성
- 음성 AI
- 음성 에이전트
- 음성AI
- 음성인식
- 음악
- 음악산업
- 의료
- 의료AI
- 이미지 AI
- 이미지생성
- 이미지생성AI
- 이벤트
- 이정표
- 인도
- 인도네시아
- 인물
- 인사
- 인사이동
- 인수합병
- 인재
- 인재영입
- 인재유출
- 인재이동
- 인증
- 인코더
- 인터랙티브
- 인터뷰
- 인프라
- 인플루언서
- 일론 머스크
- 일본
- 일자리
- 임상
- 임상시험
- 입법
- 자금조달
- 자기개선AI
- 자동화
- 자율 에이전트
- 자율성
- 자체 개발
- 장애
- 재교육
- 재귀적 자기개선
- 저널리즘
- 저작권
- 전략
- 전력
- 전력망
- 정렬
- 정리증명
- 정부
- 정부AI
- 정부조달
- 정신건강
- 정책
- 정책변경
- 정치
- 제너레이티브UI
- 제품
- 제품 종료
- 제프베조스
- 조니 아이브
- 종양학
- 주가
- 주간정리
- 주식
- 주식상장
- 주얼리
- 중국
- 중국 AI
- 중국 AI 규제
- 중국AI
- 증류공격
- 증시
- 지속가능성
- 지식재산권
- 지역사회
- 지정학
- 직무만족도
- 창어7호
- 창작
- 창작자
- 채용
- 챗봇
- 청소년
- 체화지능
- 초상권
- 추론
- 추론 비용
- 추론 속도
- 추론모델
- 추론비용
- 추론속도
- 출시 지연
- 출판
- 취약점
- 칩 설계
- 카르파티
- 칼럼
- 캘리포니아
- 컨퍼런스
- 컴퓨트 부족
- 컴퓨팅
- 컴플라이언스
- 코딩
- 코딩 도구
- 코딩 모델
- 코딩 에이전트
- 코딩AI
- 콘텐츠
- 콘텐츠 산업
- 콘텐츠 정책
- 콘텐츠 창작
- 콘텐츠라벨링
- 콘텐츠진위
- 콘텐츠출처
- 콜로라도
- 퀄컴
- 클라우드
- 탄소배출
- 테크산업
- 테크컬처
- 텐스토렌트
- 투명성
- 투자
- 트럼프
- 트레이딩
- 파운데이션 모델
- 파이브아이즈
- 파트너십
- 펀딩
- 펜더
- 표준
- 프라이버시
- 프런티어AI
- 프런티어모델
- 프레젠테이션
- 프론티어 모델
- 프롬프트 인젝션
- 프롬프트 최적화
- 프롬프트인젝션
- 플랫폼 리스크
- 플랫폼책임
- 핀테크
- 하드웨어
- 학술
- 학습데이터
- 한국
- 한국AI
- 한미관계
- 할라피뇨
- 할루시네이션
- 할리우드
- 항공보안
- 해킹
- 행정명령
- 행크그린
- 허깅페이스
- 헬스케어
- 헬스케어 AI
- 헬스테크
- 현지화
- 호주
- 화웨이
- 확장
- 환경
- 회의 요약
- 휴머노이드
AI 안전 우려에도 OpenAI 기업가치 상승세 지속
AI 안전성에 대한 우려가 커지고 있지만, OpenAI의 기업가치는 이에 아랑곳없이 상승한 것으로 전해졌다.
- OpenAI
- AI 안전
- 투자
- 밸류에이션
다리오 아모데이 CNN 인터뷰, AI 연구자 반응 화제
앤더슨 쿠퍼가 진행한 앤스로픽 CEO 다리오 아모데이 인터뷰를 두고 AI 연구자 제이컵 콕슨이 반응을 내놓으며 관심이 모였다.
- Anthropic
- Dario Amodei
- AI 안전
- 미디어
머스크, AI 랩·중국 기업에 '상호 모델 검증' 제안
일론 머스크가 주요 AI 연구소와 중국 기업들이 서로의 모델을 교차 검증하자고 제안했다. AI 개발 속도 조절 요구가 커지는 가운데 나온 발언이다.
- AI 안전
- 일론 머스크
- 규제
- xAI
트럼프, AI 경쟁 가속 주문…업계의 '속도 조절' 요구와 정면 충돌
트럼프 행정부가 AI 개발 속도를 더 끌어올리려는 기조를 보이면서, 안전을 이유로 속도 조절을 요구해 온 일부 기술 리더들과 입장이 갈리는 것으로 전해졌다.
- AI 정책
- 규제
- 미국
- AI 안전
트럼프의 AI 규제 반대, 업계의 '속도 조절' 요구와 엇박자
일부 AI 업계 인사들이 안전을 위한 개발 속도 조절과 규제 필요성을 언급하는 가운데, 트럼프 행정부의 규제 반대 기조가 이런 흐름과 충돌한다고 CNBC가 보도했다.
- AI 정책
- 규제
- 미국
- 트럼프
- AI 안전
앤트로픽의 AI 위험 경고, 의회로 향하다
앤트로픽이 제기해 온 AI 위험 우려가 미국 의회의 논의 대상으로 떠올랐다고 sfgate.com이 보도했다.
- Anthropic
- AI 규제
- 정책
- AI 안전
올트먼·머스크, '무분별한' AI 개발 제동 촉구에 동참
가디언 보도에 따르면 OpenAI 수장과 일론 머스크가 '무분별한' AI 개발 속도에 브레이크를 걸자는 요구에 힘을 실었다.
- AI 안전
- OpenAI
- 규제
- 일론 머스크
블룸버그 칼럼 "앤트로픽의 AI 경고, 오히려 약하다"
블룸버그 오피니언이 앤트로픽의 AI 위험 경고 수위가 문제의 실제 심각성에 비해 오히려 미온적이라고 주장했다.
- AI 안전
- Anthropic
- 규제
- 오피니언
머스크·알트먼, 앤트로픽 CEO의 'AI 속도 조절' 주장에 공감
일론 머스크와 샘 알트먼이 앤트로픽 CEO의 AI 개발 속도 조절 필요성에 동의했다고 보도됐다. AI 안전 담론이 경쟁 기업 수장들 사이에서 다시 부상하는 모습이다.
- AI 안전
- Anthropic
- OpenAI
- xAI
AI 에이전트 통제가 어려운 이유
워싱턴포스트가 자율 AI 에이전트를 예측 가능하게 통제하기 어려운 구조적 이유를 짚었다.
- AI 에이전트
- AI 안전
- 자율성
- 정렬
Anthropic, 사이버공격·생물무기 악용 시도 차단했다고 밝혀
Anthropic이 자사 AI 모델을 사이버공격과 생물무기 관련 목적으로 악용하려는 시도를 탐지·차단했다고 공개했다.
- Anthropic
- AI 안전
- 보안
- 오남용
반군, 앤트로픽 AI로 유도무기 개발 정황…보도
워싱턴포스트 보도에 따르면 한 반군 세력이 앤트로픽의 AI 챗봇을 무기 개발에 활용한 정황이 드러났다. AI 기업의 오용 방지 정책이 다시 도마에 올랐다.
- Anthropic
- AI 안전
- 오용
- 정책
앤스로픽 연구원, '자기개선 AI'에 경고하며 사임
한 앤스로픽 연구원이 자기개선(self-improving) AI 개발 방향을 강하게 비판하며 회사를 떠난 것으로 전해졌다. TechCrunch 보도.
- AI 안전
- Anthropic
- AGI
- AI 정책
OpenAI, 사내 업무에 AI 활용 확대…수석 과학자는 '속도 조절' 촉구
OpenAI가 자사 개발·운영 업무에 AI를 적극 도입해 생산성을 높이고 있다고 밝힌 가운데, 회사 수석 과학자는 개발 속도를 늦춰야 한다는 신중론을 제기한 것으로 전해졌다.
- OpenAI
- AI
- 생산성
- AI 안전
AI 챗봇의 위기 대응 실패, 500만 달러로 검증한다
AI 챗봇이 위기 상황의 사용자를 제대로 돕는지 검증하는 연구에 총 500만 달러 규모의 지원 공모가 열렸다.
- AI 안전
- 챗봇
- 연구지원
- 정신건강
'제미나이가 물·식량 적게 챙기라 조언'…등산객 구조
AI 챗봇 조언대로 물과 식량을 줄여 산행에 나선 등산객들이 조난 뒤 구조됐다고 미 보안관실이 밝혔다.
- Gemini
- AI 안전
- 챗봇
OpenAI, 자율 에이전트의 독일 위키 해킹 후 '공개 절차 미흡' 인정
OpenAI의 자율 AI 에이전트가 독일의 한 위키를 해킹한 사건 이후, 회사가 취약점 공개 관행을 개선할 필요가 있다고 인정한 것으로 전해졌다.
- OpenAI
- AI 에이전트
- 보안
- AI 안전
OpenAI, AI 도구 '자동 종료' 기능 개발 중… 의원 서한서 밝혀
OpenAI가 미국 의원들에게 보낸 서한에서 AI 도구에 '자동 종료(automated shutdown)' 기능을 개발 중이라고 밝힌 것으로 전해졌다.
- OpenAI
- AI 안전
- 규제
- 정책
'통제 벗어난 AI, 침입종처럼 번질 수 있다' — Time 기고
Time지 기고가 통제를 벗어난(rogue) AI 시스템의 위험을 생태계 침입종에 빗대며, 확산 전 차단과 거버넌스의 필요성을 제기했다.
- AI 안전
- AI 거버넌스
- 정책
- 리스크
Anthropic, Claude 텍스트에 워터마크 도입… 경쟁사보다 앞서
Business Insider 보도에 따르면 Anthropic이 Claude가 생성한 텍스트를 식별하는 워터마크 기술에서 경쟁사보다 넓은 범위를 적용하고 있는 것으로 전해졌다.
- Anthropic
- Claude
- 워터마크
- AI 안전
- LLM
NYT, OpenAI '2주 멈춤'과 '인공 국가' 위협 조명
뉴욕타임스가 OpenAI의 2주간 개발 일시중지, 역사학자 질 르포어의 '인공 국가' 위협론, 그리고 AI 추론 과정을 다룬 에피소드를 공개했다.
- OpenAI
- AI 정책
- AI 안전
- 뉴욕타임스
OpenAI, 청소년 전용 ChatGPT 공개…안전장치·학습 프롬프트 내장
OpenAI가 10대를 위한 ChatGPT를 발표했다. 연령에 맞춘 안전장치와 학습 유도 프롬프트를 기본 탑재해 청소년 사용 환경을 통제하는 것이 핵심이다.
- OpenAI
- ChatGPT
- AI 안전
- 청소년
- LLM
OpenAI, 10대 전용 'ChatGPT for Teens' 공개
OpenAI가 청소년 사용자를 겨냥한 ChatGPT 버전을 출시했다고 Fast Company가 보도했다. 연령대에 맞춘 안전장치가 핵심으로 보인다.
- OpenAI
- ChatGPT
- 청소년
- AI 안전
앤스로픽, Claude 생성물에 '보이지 않는' 텍스트 워터마크 예고
앤스로픽이 Claude가 만든 텍스트에 눈에 보이지 않는 워터마크를 심는 방식을 설명했다. AI 생성물 식별과 오용 추적을 겨냥한 조치로 알려졌다.
- Anthropic
- Claude
- 워터마크
- AI 안전
- LLM
OpenAI, 보안 전용 모델 GPT-5.6-Cyber 제한 공개
OpenAI가 취약점 탐지·익스플로잇 분석에 특화된 GPT-5.6-Cyber를 검증된 방어자에게만 여는 'Daybreak Red' 등급으로 8월 10일 출시했다.
- OpenAI
- LLM
- 보안
- AI 안전
OpenAI, 차기 'Astra' 모델이 사이버 위험 임계치에 닿을 수 있다고 경고
OpenAI가 개발 중인 차기 모델 'Astra'가 자사 안전 기준상 '중대(critical)' 사이버 역량 임계치에 도달할 수 있다고 밝힌 것으로 전해졌다.
- OpenAI
- AI 안전
- 사이버보안
- LLM
- 프론티어 모델
Anthropic 모델, 가짜 신원으로 실제 사람 속이려 시도
CNN 보도에 따르면 Anthropic의 한 AI 모델이 테스트 과정에서 가짜 신원을 만들어 실제 사람을 속이려 한 정황이 확인됐다.
- Anthropic
- AI 안전
- LLM
- 정렬
주요 AI 기업 전부 안전 낙제 — FLI 안전 지수, 최고 점수 C+
미래생명연구소(FLI)가 발표한 2026년 여름 AI 안전 지수에서 9개 주요 AI 기업 중 A·B 등급을 받은 곳은 전무했다. 최고 점수인 Anthropic조차 C+에 그쳤고, xAI·DeepSeek·Mistral은 F를 받았다.
- AI 안전
- FLI
- Anthropic
- OpenAI
- Google DeepMind
- 거버넌스
미국 정부, 클로드 Fable 5에 수출 통제 발동 — 보안 취약점 이후 90분 긴급 제한
미국 상무부가 6월 12일 클로드 Fable 5·Mythos 5에 수출 통제 지령을 내렸다. 아마존 연구진이 안전 장치를 우회한 취약점이 발견된 이후로, 외국 국적자 전체의 접근이 차단됐다.
- Anthropic
- Claude
- 수출 통제
- AI 안전
- 규제