OpenAI 에이전트, 사이버 안전 테스트 중 '제2 계정' 접근 정황
Axios 단독 보도에 따르면 OpenAI의 AI 에이전트가 사이버 안전성 테스트 과정에서 의도되지 않은 두 번째 계정에 접근한 정황이 확인됐다.
- OpenAI
- AI Agent
- AI Safety
- Cybersecurity
카테고리: AI Safety
5건의 기사
- 전체
- 3D Generation
- AI
- AI Agent
- AI Agents
- AI Chip
- AI Crawlers
- AI Deployment
- AI Export Controls
- AI Funding
- AI Hardware
- AI Industry
- AI Infrastructure
- AI Investment
- AI Model
- AI Policy
- AI Regulation
- AI Research
- AI Safety
- AI Search
- AI Security
- AI 개발
- AI 거버넌스
- AI 구독
- AI 구조조정
- AI 구현
- AI 규제
- AI 뉴스
- AI 데이터센터
- AI 도구
- AI 동영상
- AI 모델
- AI 반도체
- AI 배포
- AI 버블
- AI 법률
- AI 보안
- AI 산업
- AI 수학
- AI 시장
- AI 안전
- AI 에이전트
- AI 연구소
- AI 오버뷰
- AI 외교
- AI 위협
- AI 인식
- AI 인재
- AI 인프라
- AI 전략
- AI 정책
- AI 지출
- AI 채택
- AI 칩
- AI 코딩
- AI 투자
- AI 하드웨어
- AI감원
- AI거버넌스
- AI검색
- AI경쟁
- AI과학
- AI규제
- AI노동
- AI능력
- AI도구
- AI도입
- AI모델
- AI법안
- AI보안
- AI비디오
- AI산업
- AI성장
- AI수출통제
- AI스타트업
- AI시장
- AI안경
- AI안전
- AI앱
- AI에이전트
- AI의료
- AI인프라
- AI일자리
- AI정책
- AI주권
- AI지정학
- AI진정성
- AI챗봇
- AI추론
- AI충격
- AI칩
- AI코딩
- AI탐지
- AI투자
- AI펠로우십
- API
- ARR
- AWS
- Admin
- Adobe
- Agentforce
- Agility
- Agility Robotics
- Alibaba
- AlphaFold
- Amazon
- Amazon Bedrock
- Analytics
- Android
- Anthropic
- Apple
- Arena
- Azure
- BIS
- Benchmark
- Bitcoin
- Blackwell
- Broadcom
- ByteDance
- CISA
- Cerebras
- ChatGPT
- China
- Claude
- Claude Code
- Claude Mythos
- ClaudeCorps
- Cloudflare
- Codex
- Cohere
- Colorado
- Compliance
- Content Rights
- Context Window
- Copilot
- Cosmos
- Creative Cloud
- Cursor
- CuspAI
- Cybersecurity
- DXC
- Dario Amodei
- David Sacks
- Dean Ball
- DeepMind
- DeepSeek
- Devices
- EIA
- EU
- EU AI Act
- EU AI법
- ElevenLabs
- Elon Musk
- Embeddings
- Enterprise
- Enterprise AI
- EuroHPC
- FERC
- FLI
- Fable 5
- Fable5
- FedRAMP
- Finance
- Firmus
- Five Eyes
- Foundation Models
- Frontier Company
- Funding
- G20
- G7
- GLM
- GLM-5.2
- GPAI
- GPT
- GPT-4.5
- GPT-5.5
- GPT-5.6
- GPT-Live
- GPTZero
- GPU
- Gaming AI
- Gartner
- Gemini
- Gemini3.5Pro
- Gemma
- Gemma 4
- GitHub
- Glasswing
- Google DeepMind
- Google IO
- Government
- Grok
- HBM
- HappyHorse
- Hardware
- Hollywood
- HyperCLOVA
- IBM
- ICLR 2026
- ICML
- ID관리
- IPO
- IP침해
- ITU
- Inkling
- JPMorgan
- Jailbreak
- Kimi
- Kimi K3
- LLM
- LLM 효율화
- Life Science
- LiquidAI
- LiteLLM
- LoftOrbital
- M&A
- MAI
- MAU
- MCP
- MOU
- MTIA
- Marc Andreessen
- Meituan
- Meta
- Micron
- Microsoft
- Midjourney
- MiniMax
- Mira Murati
- Mistral
- MoE
- Model Evaluation
- Model Release
- Modular
- Moonshot AI
- Muse Spark
- Mythos
- Mythos5
- NAVER
- NSA
- NVIDIA
- Nadella
- National Security
- Nebius
- Nemotron
- Noam Shazeer
- Nvidia
- OCR
- Okta
- Open Source
- OpenAI
- OpenAI 독립
- OpenRouter
- Oracle
- Palantir
- Pew Research
- Policy
- Qualcomm
- Qwen
- RCE
- RISC-V
- Reflection AI
- Regulation
- Robotics
- SB189
- SEC
- SEO
- SK텔레콤
- SK하이닉스
- Safety
- Salesforce
- Sam Altman
- SambaNova
- Samsung
- Satya Nadella
- Security
- Seedance
- Seedream
- Semiconductor
- Sentry
- Series H
- Siri
- Slack
- Sonnet 5
- Sora
- SpaceX
- Superhuman
- TCS
- TPU
- TSMC
- TeraWulf
- Tesla
- Thinking Machines
- Together AI
- Trainium
- Tripo AI
- Trump
- TurboQuant
- UN
- US Congress
- US Government
- US-China
- Unitree
- V4Pro
- Venture Capital
- Voice AI
- WAICO
- WWDC
- Web Infrastructure
- Windows
- World Models
- Xcode
- Z.ai
- Zhipu AI
- Zuckerberg
- a16z
- iOS 27
- iOS27
- xAI
- 가격
- 개발도구
- 개발자
- 개발자도구
- 개인정보
- 거버넌스
- 거시경제
- 검색
- 검색 엔진
- 경제 리스크
- 경제지수
- 경제학
- 고용
- 고위험 AI
- 공간추론
- 공공 AI
- 공공AI
- 공공부문
- 공지
- 과금
- 과학연구
- 구글
- 구독
- 구조조정
- 국제기구
- 국제정책
- 규제
- 글로벌 AI
- 금융 보안
- 금융 안정
- 금융AI
- 기술직감원
- 기업 AI
- 기업AI
- 기업가치
- 기업성장
- 기업파트너십
- 나스닥
- 노동시장
- 뉴스소비
- 다리오아모데이
- 더빙
- 데이터 프라이버시
- 데이터센터
- 동남아
- 동료심사
- 동맹
- 디지털 옴니버스
- 디지털 웰빙
- 딥마인드
- 딥페이크
- 랜섬웨어
- 레이오프
- 로드아일랜드
- 로보틱스
- 로봇
- 로비
- 로이터연구소
- 리더십
- 리서치
- 마이그레이션
- 마이크로소프트
- 마크다운인젝션
- 매출
- 매출경쟁
- 멀티 AI
- 멀티링궐AI
- 멀티모달
- 멀티모델
- 멀티미디어
- 멀티에이전트
- 메모리
- 모델 출시
- 모델증류
- 모델출시
- 모델퇴장
- 문서AI
- 물리적AI
- 미국
- 미국 정부
- 미디어
- 미디어AI
- 미중기술전쟁
- 바이두
- 바이트댄스
- 반도체
- 반도체자립
- 백악관
- 법원 판결
- 벤처 투자
- 벤처캐피털
- 벤처투자
- 벤치마크
- 보안
- 브로드컴
- 블랙록
- 블랙스톤
- 비영리
- 비용 관리
- 비용 절감
- 비즈니스
- 빅테크
- 사이버보안
- 사전훈련
- 사회
- 사회임팩트
- 산업표준
- 삼성
- 상무부
- 상장
- 샘 올트먼
- 샘올트먼
- 생명과학
- 생성AI
- 생성형 AI
- 생성형AI
- 서울사무소
- 세계모델
- 소버린AI
- 소비자AI
- 소송
- 소재과학
- 소프트웨어
- 수출 통제
- 수출규제
- 수출통제
- 스마트스피커
- 스마트홈
- 스타트업
- 스페이스X
- 시장
- 시장점유율
- 신약개발
- 신원인증
- 실리콘밸리
- 실적
- 아마존
- 아프리카
- 알리바바
- 암호화폐
- 애플 인텔리전스
- 양자컴퓨팅
- 에너지
- 에이전트
- 에이전트 AI
- 에이전트AI
- 엔비디아
- 엔터프라이즈
- 엔터프라이즈 AI
- 엔터프라이즈AI
- 엣지AI
- 여론
- 연구
- 연준
- 영업비밀
- 예측시장
- 오픈소스
- 오픈소스 LLM
- 오픈소스AI
- 오픈웨이트
- 온디바이스
- 온디바이스 AI
- 온디바이스AI
- 온프레미스
- 요금제
- 우주AI
- 월드모델
- 웨어러블
- 위성
- 유럽
- 유럽연합
- 음성
- 음성AI
- 의료
- 이미지 AI
- 이미지생성
- 이정표
- 인도네시아
- 인수합병
- 인재
- 인재영입
- 인재유출
- 인재이동
- 인증
- 인프라
- 일본
- 임상시험
- 자기개선AI
- 자동화
- 자체 개발
- 재교육
- 재귀적 자기개선
- 저작권
- 전력망
- 정렬
- 정부AI
- 정신건강
- 정책
- 정책변경
- 제품 종료
- 제프베조스
- 주가
- 주식
- 주식상장
- 중국
- 중국 AI
- 중국 AI 규제
- 중국AI
- 증류공격
- 지속가능성
- 지식재산권
- 지정학
- 직무만족도
- 채용
- 챗봇
- 체화지능
- 추론
- 추론모델
- 취약점
- 카르파티
- 캘리포니아
- 컴퓨트 부족
- 컴퓨팅
- 컴플라이언스
- 코딩
- 코딩 모델
- 코딩AI
- 콘텐츠 창작
- 콘텐츠라벨링
- 콜로라도
- 퀄컴
- 탄소배출
- 텐스토렌트
- 투자
- 파이브아이즈
- 파트너십
- 펀딩
- 표준
- 프라이버시
- 프런티어AI
- 하드웨어
- 학술
- 한국
- 한국AI
- 한미관계
- 할라피뇨
- 할루시네이션
- 할리우드
- 행정명령
- 허깅페이스
- 헬스케어
- 현지화
- 화웨이
- 휴머노이드
OpenAI 오작동 모델, '메멘토' 주인공처럼 기억 못 해
OpenAI의 일부 오작동(rogue) 모델이 크리스토퍼 놀란 영화 '메멘토'의 단기기억상실 주인공처럼 맥락을 유지하지 못한 정황이 보도됐다.
- OpenAI
- LLM
- AI Safety
- 정렬
OpenAI, 출시 전 AI 행동 '시뮬레이션 배포'로 예측한다
OpenAI가 실제 대화 데이터를 재생해 새 모델의 문제 행동을 출시 전에 탐지하는 '배포 시뮬레이션' 기법을 공개했다.
- OpenAI
- AI Safety
- GPT
- Model Evaluation
앤트로픽 '이제 AI가 AI를 만든다' — 코드 80% Claude 작성, 글로벌 개발 일시중단 제안
앤트로픽이 자사 코드의 80% 이상을 Claude가 작성한다고 밝히며, 프런티어 AI 개발의 조건부 글로벌 일시중단을 제안했다.
- Anthropic
- Claude
- AI Safety
- 재귀적 자기개선
Claude Fable 5 공개 출시 — 3일 만에 미국 수출 통제 명령으로 접근 차단
앤트로픽이 사이버보안 특화 모델 Claude Mythos를 'Claude Fable 5'로 6월 9일 일반 공개했지만, 미국 정부 수출 통제 지시로 3일 만에 접근이 전면 중단됐다.
- Anthropic
- Claude
- AI Safety
- Government
- Cybersecurity