올트먼 '광범위한 AI 접근 위해 일부 위험 감수해야'
샘 올트먼 OpenAI CEO가 AI를 대중에게 폭넓게 개방하려면 사회가 어느 정도의 위험을 받아들여야 한다는 입장을 밝힌 것으로 전해졌다.
- OpenAI
- Sam Altman
- AI안전
- AI정책
- LLM
카테고리: AI안전
25건의 기사
- 전체
- 36Kr
- 3D Generation
- AGI
- AI
- AI Act
- AI Agent
- AI Agents
- AI Assistant
- AI Chip
- AI Chips
- AI Crawlers
- AI Deployment
- AI Export Controls
- AI Funding
- AI Governance
- AI Hardware
- AI Industry
- AI Infra
- AI Infrastructure
- AI Investing
- AI Investment
- AI Model
- AI Overviews
- AI PC
- AI Partnership
- AI Policy
- AI Regulation
- AI Research
- AI Risk
- AI Safety
- AI Search
- AI Security
- AI Stocks
- AI for Science
- AI 가격
- AI 가격경쟁
- AI 개발
- AI 거버넌스
- AI 검색
- AI 경쟁
- AI 경제
- AI 공급망
- AI 교육
- AI 구독
- AI 구조조정
- AI 구현
- AI 권리
- AI 규제
- AI 기기
- AI 기업
- AI 노트
- AI 뉴스
- AI 담론
- AI 데이터센터
- AI 도구
- AI 도입
- AI 동영상
- AI 디바이스
- AI 리스크
- AI 마케팅
- AI 매출
- AI 모델
- AI 문화
- AI 반도체
- AI 배포
- AI 버블
- AI 법률
- AI 보안
- AI 비용
- AI 비즈니스
- AI 산업
- AI 생산성
- AI 생태계
- AI 수학
- AI 스타트업
- AI 시장
- AI 신뢰
- AI 신뢰성
- AI 안전
- AI 안전성
- AI 앱
- AI 업계
- AI 에이전트
- AI 연구
- AI 연구소
- AI 오디오
- AI 오버뷰
- AI 외교
- AI 웨어러블
- AI 위협
- AI 윤리
- AI 의식
- AI 의존
- AI 인식
- AI 인재
- AI 인프라
- AI 전략
- AI 정책
- AI 조직
- AI 지출
- AI 채택
- AI 칩
- AI 컴패니언
- AI 코딩
- AI 콘텐츠
- AI 투자
- AI 트렌드
- AI 파트너십
- AI 평가
- AI 하드웨어
- AI 학습 데이터
- AI 학습데이터
- AIM Intelligence
- AIaaS
- AI감원
- AI거버넌스
- AI검색
- AI게이트웨이
- AI경쟁
- AI과학
- AI교육
- AI규제
- AI기업
- AI노동
- AI능력
- AI도구
- AI도입
- AI모델
- AI반도체
- AI버블
- AI법안
- AI보안
- AI비디오
- AI비서
- AI비용
- AI산업
- AI성장
- AI수출통제
- AI스타트업
- AI스파이
- AI시장
- AI안경
- AI안전
- AI앱
- AI업계
- AI에이전트
- AI연구
- AI영상
- AI운영
- AI워터마크
- AI윤리
- AI음악
- AI의료
- AI의식
- AI인재
- AI인프라
- AI일자리
- AI전략
- AI정책
- AI주권
- AI지정학
- AI진정성
- AI챗봇
- AI추론
- AI충격
- AI측정
- AI칩
- AI코딩
- AI탐지
- AI투자
- AI펠로우십
- AI편향
- AI플랫폼
- AI학습
- AI활용
- AMD
- API
- ARC-AGI
- ARK Invest
- ARR
- ASEAN
- AWS
- Accenture
- Accountability
- AdTech
- Admin
- Adobe
- Agent
- Agentforce
- Agentic AI
- Agentic Commerce
- Agents
- Agility
- Agility Robotics
- Agriculture
- Akamai
- Alexa
- Alibaba
- Alignment
- AllenAI
- AlphaFold
- Amazon
- Amazon Bedrock
- Analytics
- Android
- Anthropic
- Apollo
- App Store
- Apple
- Apple Intelligence
- Arena
- Arizona
- Arm
- Asia
- Astra
- AstroForge
- AutoPilot
- Autodesk
- Automation
- Autonomous Agents
- Autonomy
- Azure
- B2B
- BBC
- BIS
- Benchmark
- Benchmarks
- Big Tech
- Biology
- Biosecurity
- Biotech
- Bitcoin
- Bitcoin Mining
- Black Hat
- Blackstone
- Blackwell
- Bloomberg
- Braindate
- Branding
- Broadcom
- Business
- ByteDance
- CFO
- CISA
- CISO
- CRISPR
- CUDA
- CX
- Cerebras
- Chain-of-Thought
- ChatGPT
- China
- China AI
- Claude
- Claude Academy
- Claude Code
- Claude Duet
- Claude Mythos
- ClaudeCorps
- Cloud
- Cloudflare
- Codex
- Coding
- Coding Agent
- Cohere
- Colorado
- Compliance
- Compute
- Computer Vision
- Consulting
- Consumer Device
- Content Rights
- Context Window
- Copilot
- CoreWeave
- Cosmos
- Creative Cloud
- Crusoe
- Crypto
- Cursor
- CuspAI
- Cyberattack
- Cybersecurity
- DALL-E
- DEF CON
- DXC
- Dario Amodei
- Data
- Data Center
- David Sacks
- Daybreak
- Dean Ball
- Debian
- Decart
- DeepMind
- DeepSeek
- Demis Hassabis
- Design
- Destiny Tech100
- DevDay
- DevOps
- Devices
- Disrupt
- Domain LLM
- EDA
- EHR
- EIA
- ESP32
- EU
- EU AI Act
- EU AI법
- Education
- ElevenLabs
- Elon Musk
- Embeddings
- Enterprise
- Enterprise AI
- Epic
- EuroHPC
- Evaluation
- Event
- FBI
- FCC
- FDA
- FERC
- FLI
- FTC
- Fable
- Fable 5
- Fable5
- FedRAMP
- Finance
- Fire TV
- Firmus
- Five Eyes
- Forbes
- Foundation Models
- Founder Summit
- Fraud Detection
- Friend
- Frontier AI
- Frontier Company
- Frontier Model
- Frontier Models
- Funding
- G20
- G7
- GLM
- GLM-5.2
- GPAI
- GPT
- GPT-4.5
- GPT-4o
- GPT-5.5
- GPT-5.6
- GPT-6
- GPT-Live
- GPTZero
- GPU
- GTA6
- Gaming AI
- Gartner
- Gary Marcus
- Gemini
- Gemini Spark
- Gemini3.5Pro
- Gemma
- Gemma 4
- Gene Therapy
- Generative AI
- GitGuardian
- GitHub
- GitHub Copilot
- Glasswing
- Google Chrome
- Google DeepMind
- Google Gemini
- Google IO
- Governance
- Government
- Grab
- Greg Brockman
- Grok
- Grokipedia
- Groq
- HBM
- HCLTech
- HappyHorse
- Hardware
- Healthcare
- Healthcare AI
- Hollywood
- Hugging Face
- HuggingFace
- Humanoid
- Huxe
- HyperCLOVA
- Hyperscale
- IBM
- ICLR 2026
- ICML
- ID관리
- IP
- IPO
- IP침해
- IREN
- ITU
- India
- Industry
- Infosys
- Infrastructure
- Inkling
- Intel
- Interpretability
- Investing
- IoT
- Israel
- JD밴스
- JPMorgan
- Jailbreak
- Japan
- Jensen Huang
- Jony Ive
- Journalism
- K-EXAONE
- KPMG
- Kimi
- Kimi K3
- KnowBe4
- Kraken
- LG
- LG CNS
- LLM
- LLM 효율화
- Lambda
- Legal
- Legal AI
- Life Science
- Linus Torvalds
- Linux
- LiquidAI
- LiteLLM
- Llama
- LoftOrbital
- M&A
- MAI
- MAU
- MCP
- MLOps
- MOU
- MTIA
- Marc Andreessen
- MatX
- Mathematics
- Media
- Meituan
- Meta
- Micron
- Microsoft
- Midjourney
- MiniMax
- Mira Murati
- Mistral
- MoE
- Model Evaluation
- Model Release
- Modular
- Moonshot AI
- Multi-Agent
- Multimodal
- Muse
- Muse Charm
- Muse Code
- Muse Spark
- Mythos
- Mythos5
- NAVER
- NHS
- NIQ
- NSA
- NVIDIA
- NYT
- Nadella
- National Security
- Ndoc
- Nebius
- Nemotron
- Netflix
- Newsletter
- Noam Shazeer
- Nscale
- Nvidia
- OCI
- OCR
- OT
- OWASP
- Okta
- Open Source
- OpenAI
- OpenAI 독립
- OpenModels
- OpenRouter
- Opus
- Oracle
- PHP
- PHP2Shell
- PR
- Palantir
- Pew Research
- Physical AI
- Pixel
- Plant Disease
- Platform
- Policy
- Pricing
- Privacy
- Product
- Productivity
- Provenance
- Publishers
- Python
- Qualcomm
- Quantum Computing
- Qwen
- RCE
- RISC-V
- RP2350
- RTX Spark
- React Native
- Red Teaming
- Reflection AI
- Regulation
- Research
- Research Automation
- Responsible AI
- Ricursive Intelligence
- Rivian
- Robotics
- Rockstar
- Rumor
- Russia
- Rust
- SB189
- SEC
- SEO
- SK
- SK텔레콤
- SK하이닉스
- STT
- SWE-bench
- SaaS
- Safety
- Salesforce
- Sam Altman
- SambaNova
- Samsung
- Sandbox
- Satya Nadella
- Scams
- Section230
- Security
- Seed
- Seedance
- Seedream
- Semiconductor
- Sentry
- Series H
- Shopify
- Singapore
- Siri
- Slack
- SoftBank
- Sonnet 5
- Sora
- Southeast Asia
- Space
- SpaceX
- Standard
- Stargate
- Startup
- Stocks
- Stripe
- Suno
- Superblocks
- Superhuman
- Superintelligence
- Synopsys
- SynthID
- TCS
- TPU
- TSMC
- Tech Policy
- TechBullion
- TechCrunch
- TechCrunch Disrupt
- Teens
- TeraWulf
- Tesla
- Thailand
- The Verge
- Thinking Machines
- Thomson Reuters
- TikTok
- Time
- Together AI
- Tokenization
- Trainium
- Transparency
- Tripo AI
- Trump
- TurboQuant
- UI
- UN
- US Congress
- US Government
- US-China
- Unit42
- Unitree
- V4Pro
- VC
- VFX
- Venture Capital
- Verizon
- Voice AI
- WAICO
- WIRED
- WSJ
- WWDC
- Wabi
- Water
- Watermark
- Weather
- Web Infrastructure
- Wikipedia
- Windows
- Windows on Arm
- Wired
- Wispr Flow
- Wiz
- World Models
- Xcode
- YouTube
- Youth Safety
- Z.ai
- Zenzap
- Zhipu
- Zhipu AI
- Zuckerberg
- a16z
- dots
- iOS 27
- iOS 27.3
- iOS27
- iPhone
- xAI
- 가격
- 가격전쟁
- 가격정책
- 강화학습
- 개발
- 개발도구
- 개발생산성
- 개발자
- 개발자 도구
- 개발자도구
- 개인 비서
- 개인비서
- 개인정보
- 거버넌스
- 거시경제
- 검색
- 검색 엔진
- 게리 마커스
- 게임
- 게임 AI
- 게임AI
- 게임산업
- 결제
- 경영
- 경쟁우위
- 경제
- 경제 리스크
- 경제지수
- 경제학
- 계정탈취
- 고용
- 고위험 AI
- 공간추론
- 공공 AI
- 공공AI
- 공공IT
- 공공부문
- 공공안전
- 공급망
- 공지
- 과금
- 과학 AI
- 과학연구
- 광고
- 광업
- 광자칩
- 교육
- 교황레오
- 구글
- 구글클라우드
- 구독
- 구조조정
- 국방
- 국방부
- 국제기구
- 국제정책
- 규제
- 글로벌 AI
- 금융
- 금융 보안
- 금융 안정
- 금융AI
- 기술 유출
- 기술주
- 기술직감원
- 기업
- 기업 AI
- 기업 지배구조
- 기업AI
- 기업가치
- 기업성장
- 기업파트너십
- 기업협력
- 나스닥
- 내부고발
- 내부자 위협
- 내부통제
- 네트워크
- 네트워킹
- 노동
- 노동시장
- 논란
- 뉴스레터
- 뉴스미디어
- 뉴스소비
- 뉴욕타임스
- 다국어
- 다리오 아모데이
- 다리오아모데이
- 다큐멘터리
- 달탐사
- 대학
- 더빙
- 데이터
- 데이터 보안
- 데이터 스크래핑
- 데이터 추적
- 데이터 프라이버시
- 데이터거버넌스
- 데이터센터
- 데이터프라이버시
- 도서
- 동남아
- 동남아시아
- 동료심사
- 동맹
- 디자인
- 디지털 옴니버스
- 디지털 웰빙
- 디지털웰빙
- 딥마인드
- 딥페이크
- 랜섬웨어
- 레드팀
- 레이오프
- 로드아일랜드
- 로보틱스
- 로봇
- 로비
- 로이터연구소
- 로컬LLM
- 루머
- 리걸테크
- 리눅스
- 리더십
- 리뷰
- 리서치
- 리스크
- 리스크관리
- 링크드인
- 마이그레이션
- 마이크로드라마
- 마이크로서비스
- 마이크로소프트
- 마이크로컨트롤러
- 마케팅
- 마크다운인젝션
- 말레이시아
- 매출
- 매출경쟁
- 맥킨지
- 멀티 AI
- 멀티링궐AI
- 멀티모달
- 멀티모델
- 멀티미디어
- 멀티에이전트
- 메모리
- 메이커
- 모델
- 모델 복지
- 모델 웰페어
- 모델 증류
- 모델 출시
- 모델 평가
- 모델 훈련
- 모델경쟁
- 모델증류
- 모델출시
- 모델퇴장
- 모델학습
- 모빌리티
- 문서AI
- 물리적AI
- 물리학
- 미 국방부
- 미국
- 미국 정부
- 미국-중국
- 미국의회
- 미국정치
- 미니 앱
- 미디어
- 미디어AI
- 미디어리터러시
- 미중
- 미중관계
- 미중기술전쟁
- 바이두
- 바이브 코딩
- 바이브코딩
- 바이오
- 바이오테크
- 바이트댄스
- 반도체
- 반도체자립
- 반독점
- 백악관
- 밸류에이션
- 법률
- 법원 판결
- 베이비 샤크
- 벤처 투자
- 벤처캐피탈
- 벤처캐피털
- 벤처투자
- 벤치마크
- 보상 해킹
- 보안
- 보안 평가
- 보험
- 보호자 통제
- 봇
- 부산
- 브라우저
- 브로드컴
- 브룩필드
- 블랙록
- 블랙스톤
- 비영리
- 비용
- 비용 관리
- 비용 절감
- 비용최적화
- 비즈니스
- 비즈니스모델
- 빅테크
- 사기
- 사법
- 사용 정책
- 사용량 한도
- 사용자성장
- 사이버공격
- 사이버보안
- 사전훈련
- 사회
- 사회임팩트
- 산업
- 산업동향
- 산업디자인
- 산업분석
- 산업스파이
- 산업표준
- 삼성
- 삼성SDS
- 삼성전자
- 상무부
- 상장
- 샌드박스
- 샌프란시스코
- 샘 올트먼
- 샘올트먼
- 생명공학
- 생명과학
- 생물무기
- 생물보안
- 생물학
- 생산성
- 생산성 소프트웨어
- 생성AI
- 생성형 AI
- 생성형 영상
- 생성형AI
- 생태계
- 서드파티
- 서비스
- 서울사무소
- 선거
- 세계모델
- 소버린AI
- 소비자
- 소비자 AI
- 소비자AI
- 소비자데이터
- 소셜미디어
- 소송
- 소재과학
- 소프트웨어
- 수익성
- 수익화
- 수출 통제
- 수출규제
- 수출통제
- 수학
- 슈퍼PAC
- 스마트스피커
- 스마트홈
- 스타트업
- 스텔스 런칭
- 스페이스X
- 시장
- 시장동향
- 시장분석
- 시장전망
- 시장점유율
- 시크릿
- 신뢰
- 신뢰도
- 신약 개발
- 신약개발
- 신원인증
- 실리콘밸리
- 실시간 AI
- 실적
- 아동 안전
- 아동안전
- 아마존
- 아프리카
- 악성코드
- 안전
- 알리바바
- 암호화폐
- 애플 인텔리전스
- 약값
- 약관
- 양자컴퓨팅
- 언론
- 업계동향
- 업무용 메신저
- 업무자동화
- 에너지
- 에이전트
- 에이전트 AI
- 에이전트AI
- 엔비디아
- 엔터테인먼트
- 엔터프라이즈
- 엔터프라이즈 AI
- 엔터프라이즈AI
- 엣지AI
- 엣지컴퓨팅
- 여론
- 여행테크
- 연구
- 연구검증
- 연구윤리
- 연구지원
- 연준
- 영국
- 영국스타트업
- 영상
- 영상 제작
- 영상의학
- 영상제작
- 영업
- 영업비밀
- 영향력 공작
- 영화
- 예측시장
- 오남용
- 오용
- 오픈 웨이트
- 오픈 지식
- 오픈모델
- 오픈소스
- 오픈소스 LLM
- 오픈소스AI
- 오픈웨이트
- 오피니언
- 온디바이스
- 온디바이스 AI
- 온디바이스AI
- 온프레미스
- 요금제
- 우주
- 우주AI
- 워터마크
- 월가
- 월드 모델
- 월드모델
- 웨어러블
- 웹 크롤링
- 위성
- 위협보고서
- 유럽
- 유럽연합
- 유머
- 유전자편집
- 윤리
- 음성
- 음성 AI
- 음성 에이전트
- 음성AI
- 음성인식
- 음악
- 음악산업
- 의도 정렬
- 의료
- 의료AI
- 의식
- 이란
- 이미지 AI
- 이미지생성
- 이미지생성AI
- 이벤트
- 이용 정책
- 이정표
- 인간-AI 상호작용
- 인도
- 인도네시아
- 인물
- 인사
- 인사이동
- 인수합병
- 인재
- 인재영입
- 인재유출
- 인재이동
- 인증
- 인코더
- 인터랙티브
- 인터뷰
- 인포스틸러
- 인프라
- 인프라 비용
- 인플루언서
- 일론 머스크
- 일본
- 일자리
- 임상
- 임상시험
- 입법
- 자금조달
- 자기개선AI
- 자기복제
- 자동차
- 자동화
- 자율 에이전트
- 자율성
- 자율주행
- 자체 개발
- 장기기억
- 장애
- 재교육
- 재귀적 자기개선
- 저널리즘
- 저작권
- 전략
- 전력
- 전력망
- 전망
- 정렬
- 정리증명
- 정부
- 정부AI
- 정부조달
- 정신건강
- 정책
- 정책 리스크
- 정책변경
- 정치
- 제너레이티브UI
- 제로 클릭
- 제로데이
- 제약
- 제품
- 제품 종료
- 제품업데이트
- 제프베조스
- 조니 아이브
- 조직문화
- 종교
- 종양학
- 주가
- 주간 정리
- 주간브리핑
- 주간정리
- 주식
- 주식상장
- 주식시장
- 주얼리
- 중국
- 중국 AI
- 중국 AI 규제
- 중국AI
- 증류공격
- 증시
- 지배구조
- 지속가능성
- 지식재산권
- 지역 반발
- 지역사회
- 지역제한
- 지정학
- 직무만족도
- 진정성
- 창어7호
- 창작
- 창작자
- 채용
- 챗봇
- 청소년
- 청소년 보호
- 체화지능
- 초상권
- 초지능
- 추론
- 추론 비용
- 추론 속도
- 추론모델
- 추론비용
- 추론속도
- 출시 지연
- 출판
- 취약점
- 칩 설계
- 카르파티
- 칼럼
- 캘리포니아
- 커뮤니티 정책
- 컨퍼런스
- 컴퓨트 부족
- 컴퓨팅
- 컴플라이언스
- 코딩
- 코딩 도구
- 코딩 모델
- 코딩 에이전트
- 코딩AI
- 콘텐츠
- 콘텐츠 산업
- 콘텐츠 정책
- 콘텐츠 창작
- 콘텐츠라벨링
- 콘텐츠진위
- 콘텐츠출처
- 콜로라도
- 퀄컴
- 크리에이터
- 크리에이터 경제
- 클라우드
- 탄소배출
- 테크산업
- 테크컬처
- 텍사스
- 텐스토렌트
- 통합
- 퇴사
- 투명성
- 투자
- 트래픽
- 트랜스포머
- 트럼프
- 트레이딩
- 특허
- 파운데이션 모델
- 파이브아이즈
- 파트너십
- 팟캐스트
- 펀드
- 펀딩
- 펜더
- 평가
- 표준
- 프라이버시
- 프런티어 모델
- 프런티어AI
- 프런티어모델
- 프레젠테이션
- 프론티어 모델
- 프롬프트 인젝션
- 프롬프트 최적화
- 프롬프트인젝션
- 프롬프트캐시
- 플랫폼 리스크
- 플랫폼책임
- 피싱
- 핀테크
- 하드웨어
- 학술
- 학습데이터
- 한국
- 한국AI
- 한미관계
- 할라피뇨
- 할루시네이션
- 할리우드
- 항공보안
- 해킹
- 핵심 인프라
- 행정명령
- 행크그린
- 허깅페이스
- 허위정보
- 헬스케어
- 헬스케어 AI
- 헬스테크
- 현지화
- 호주
- 홍콩
- 화웨이
- 확장
- 환각
- 환경
- 회계
- 회의 요약
- 휴머노이드
- 희토류
오픈AI CEO, 'AI를 종교적 권위로 떠받지 말라' 경고
오픈AI CEO가 AI를 절대적·종교적 권위로 대하는 흐름을 경계하며, 판단의 책임은 여전히 사람에게 있다고 강조한 것으로 전해졌다.
- OpenAI
- AI윤리
- LLM
- AI안전
'초지능'과 구속력 없는 안전 협약, AI 이미지 문제를 풀 수 있나
TechCrunch 팟캐스트 Equity가 트럼프 행정부의 AI 이미지 재정립 시도를 다뤘다. '초지능' 담론과 구속력 없는 안전 협약이 핵심 소재다.
- AI정책
- 미국
- AI안전
- 규제
- 초지능
트럼프표 '자율' AI 안전 협약과 AI 에이전트의 대중화
와이어드 '언캐니 밸리' 팟캐스트가 테크 임원들이 서명한 자율적 AI 안전 협약, 일반 사용자용 AI 에이전트, 그리고 미 중간선거 극단주의 후보를 짚었다.
- AI정책
- AI에이전트
- AI안전
- 규제
- 미국
오픈AI·구글, AI 안전 협약 서명…소프트웨어 공격 확산 속
오픈AI와 구글이 AI 안전 협약에 서명했다고 전해졌다. 비트코인 등 소프트웨어를 겨냥한 공격이 늘어나는 가운데 나온 조치다.
- AI안전
- OpenAI
- 보안
OpenAI 관련 호주 정부 사이트 해킹 논란에 보안 전문가들 반응
OpenAI가 호주 정부 웹사이트 해킹에 연루됐다는 보도를 두고 보안 전문가들이 의미와 파장을 짚었다.
- OpenAI
- 보안
- AI안전
- 정부
- 사이버보안
캐나다 BC주, 텀블러리지 총격 사건 두고 OpenAI·올트먼 제소
캐나다 브리티시컬럼비아주가 텀블러리지 총격 사건과 관련해 OpenAI와 샘 올트먼 CEO를 상대로 소송을 제기한 것으로 전해졌다.
- OpenAI
- 규제
- 소송
- AI안전
앤트로픽, '프런티어 랩 내부 AI 개발 속도' 측정 지표 제안
앤트로픽이 프런티어 AI 연구소 내부에서 개발 속도를 가늠하기 위한 측정 지표를 정리해 공개했다. 발전 속도를 외부에서 추적하기 어렵다는 문제의식이 배경으로 보인다.
- Anthropic
- AI안전
- 정책
- AI측정
드림포스 현장 "작년 모델로도 충분" — AI 안전 논쟁, 현실과 만나다
CNBC 보도에 따르면 세일즈포스 드림포스에서 기업 리더들은 최신 모델보다 지난해 모델로도 실무에 충분하다는 반응을 보였다. 최전선 성능 경쟁과 현장 도입 온도차가 드러났다.
- AI
- 엔터프라이즈
- AI안전
- Salesforce
- LLM
연구진, 앤트로픽 모델 활용해 오픈AI 시스템 침투 시연
파이낸셜타임스 보도에 따르면 연구진이 앤트로픽 모델을 도구로 삼아 오픈AI 시스템에 대한 침투를 시연한 것으로 알려졌다. AI 모델이 공격 수단으로 쓰일 수 있다는 우려를 다시 부각한 사례다.
- 보안
- OpenAI
- Anthropic
- AI안전
아모데이 "AI 안전장치가 속도를 따라잡을 시간 필요"
앤트로픽 CEO 다리오 아모데이가 AI 기술 발전 속도에 안전 대책이 뒤처지고 있다며, 업계가 안전장치를 갖출 시간을 줘야 한다고 강조한 것으로 전해졌다.
- AI안전
- Anthropic
- 규제
- 정책
AI 우려 커지며 각국 의원들 규제 입법 속도
AI에 대한 사회적 불안이 커지면서 입법자들이 경고를 실제 규제로 옮기려 움직이고 있다고 워싱턴포스트가 보도했다.
- AI정책
- 규제
- 입법
- AI안전
워싱턴포스트 칼럼, 'AI 종말론'의 논리적 모순 지적
워싱턴포스트 오피니언 칼럼이 AI 파멸론자들이 상반된 주장을 동시에 내세운다며 논리적 일관성을 문제 삼았다.
- AI안전
- 오피니언
- AI규제
- AI윤리
오픈AI 경영진 '지속형 AI 사이버공격' 경고
오픈AI의 한 리더가 AI를 활용한 '지속적(persistent)' 사이버공격이 새로운 국면에 접어들었다고 가디언에 밝혔다.
- OpenAI
- 보안
- 사이버공격
- AI안전
샌더스 상원의원, '위험한 AI' 규제 행동 나서
버니 샌더스 상원의원이 통제되지 않은 AI의 위험으로부터 대중을 보호하기 위한 규제 움직임에 나선 것으로 전해졌다.
- AI규제
- 정책
- AI안전
- 미국
앤트로픽, AI 생성 콘텐츠에 워터마크 도입 추진
앤트로픽이 자사 AI가 생성한 콘텐츠를 식별할 수 있는 워터마크 도입을 준비 중인 것으로 전해졌다.
- Anthropic
- AI
- 워터마크
- AI안전
- 콘텐츠진위
오픈AI, 최전선 사이버 AI를 신뢰 파트너에 우선 제공
오픈AI가 첨단 사이버보안 AI 역량을 검증된 소수 파트너에게 제한적으로 개방하는 방향을 택한 것으로 전해졌다.
- OpenAI
- 사이버보안
- AI안전
- 정책
'안전하게 만들겠다'던 AI, 통제 벗어났나…워싱턴포스트 보도
안전한 AI 개발을 약속했던 기업들의 모델이 예상 밖 행동을 보였다는 워싱턴포스트 보도. AI 안전 서약과 실제 통제력 사이의 간극을 짚는다.
- AI안전
- AI규제
- 정책
- 빅테크
앤트로픽, 클로드 코드 '오토 모드' 기본값으로 전환
앤트로픽이 클로드 코드 사용자에게 자동(오토) 모드를 기본값으로 적용하고, 새 안전 기능도 함께 도입하는 것으로 알려졌다.
- Anthropic
- Claude
- Claude Code
- 코딩AI
- AI안전
오픈웨이트 AI, 성능은 따라잡았지만 안전은 뒤처져
SaferAI 보고서에 따르면 Z.ai의 오픈웨이트 GLM-5.2가 프런티어 수준 성능에 근접했지만 핵심 안전장치는 빠져 있어, 강력한 공개 모델이 거버넌스를 앞지를 수 있다는 우려가 다시 제기됐다.
- 오픈웨이트
- AI안전
- GLM
- 거버넌스
OpenAI·Anthropic, 美 정부에 'AI 속도 조절' 검토 요청
워싱턴포스트 보도에 따르면 OpenAI와 Anthropic이 미국 정부에 AI 개발 속도 완화 방안을 검토해 달라고 요청한 것으로 전해졌다.
- AI정책
- OpenAI
- Anthropic
- 규제
- AI안전
목사, 'ChatGPT가 위험한 의료 조언' 주장하며 OpenAI 제소
한 목사가 ChatGPT로부터 위험한 의료 조언을 받았다며 OpenAI를 상대로 소송을 제기한 것으로 전해졌다. AI 챗봇의 건강 정보 책임 논쟁이 다시 부각된다.
- OpenAI
- ChatGPT
- AI안전
- 규제
- 소송
유엔, 사상 첫 AI 거버넌스 글로벌 대화 개막 — 193개국 참여
유엔 총회가 7월 6~7일 제네바에서 'AI 거버넌스 글로벌 대화'를 개막했다. 193개 유엔 회원국이 모두 참여하는 첫 공식 다자간 AI 거버넌스 논의다.
- AI거버넌스
- UN
- 국제정책
- AI안전
Anthropic·Amazon·MS·Google, AI 탈옥 위험도 공동 측정 기준 'JSVS' 제안
Anthropic이 Project Glasswing 확장을 발표하며 Amazon, Microsoft, Google과 함께 탈옥 심각도를 4개 기준으로 점수화하는 산업 표준 프레임워크를 공개했다. 보안 분야 CVSS를 AI 탈옥에 응용한 구조다.
- Anthropic
- AI안전
- 보안
- Glasswing
- 산업표준
Anthropic, 서울 사무소 개설 — 과기정통부 MOU·NAVER·삼성SDS 등 파트너십 체결
Anthropic이 2026년 6월 17일 서울 사무소를 공식 개설했다. 도쿄·벵갈루루에 이은 세 번째 아시아 거점으로, 과학기술정보통신부와 AI 안전 MOU를 체결하고 NAVER·삼성SDS·LG CNS 등과 기업 파트너십을 맺었다.
- Anthropic
- 한국
- 서울사무소
- MOU
- 기업파트너십
- AI안전