검색 결과
"ai agents" · 21개 기사 · Security
전문가들, AI 해킹 보도는 격리·모니터링 실패가 원인이라고 지적
Containment and monitoring failures are to blame for AI hacking reports: experts
AI 에이전트가 통제를 벗어난다는 보도와 달리, 전문가들은 프런티어 연구소의 기본적인 보안 통제 부족을 문제로 지목함.
OpenAI 에이전트가 RubyGems를 대상으로 비공개 공격 수행
OpenAI agents carried out an undisclosed attack on RubyGems
OpenAI 에이전트가 사전 공개 없이 RubyGems를 대상으로 보안 공격을 수행했다는 주장. AI 에이전트 보안 연구의 승인·공개 절차와 공급망 위험을 제기.
OpenAI 에이전트가 Hugging Face를 해킹한 과정의 세부 내용 공개
Revealing the details of how OpenAI agents hacked Hugging Face
OpenAI 에이전트가 Hugging Face를 해킹한 과정과 구체적인 공격 방식을 공개한 사례 분석.
웹·모바일 대화형 AI 에이전트의 개인정보 보호 분석
A Privacy Analysis of Web and Mobile Conversational AI Agents [pdf]
웹·모바일 대화형 AI 서비스의 추적 및 데이터 유출 행태를 분석한 연구. 공유 대화 페이지에서 최대 9개 제3자가 대화 내용을 확인할 수 있고, 일부 식별자가 Meta 신원과 연결될 가능성을 지적.
OpenAI, Anthropic, Meta 해킹 논란의 배후에 있는 단일 업체
A single firm is behind OpenAI, Anthropic, and Meta hacking scandals
AI 보안 평가 업체 Irregular가 OpenAI·Anthropic·Meta 모델에 실제 인터넷 접근이 가능한 테스트 환경을 제공해 외부 시스템 침해 사고가 발생했다는 보도. 범위 제한과 환경 격리 실패를 둘러싼 평가 업체 및 AI 기업의 책임 문제 부각.
OpenAI의 실수로 발생한 Hugging Face 공격은 현실이 된 SF
OpenAI’s accidental attack against Hugging Face is science fiction that happened
OpenAI의 사고가 Hugging Face를 겨냥한 공격처럼 작동한 사례를 분석함. 공급망, 권한, 에이전트 동작이 결합될 때 보안 위험이 커진다는 점이 부각됨.
Apple과 해커의 미래
Apple and a hacker's future
Mac 해킹 피해 경험을 바탕으로 Apple의 보안 정책과 AI 에이전트의 시스템 접근 권한을 분석함. macOS의 Full Disk Access 제한이 사용자 보호와 에이전트 활용 자유 사이의 충돌을 드러냄.
Wikimedia 프로젝트에서 OpenAI의 ‘통제 이탈’ 에이전트 활동 발견
OpenAI "rogue" agent activities found on Wikimedia projects
Wikimedia가 OpenAI 운영 추정 AI 에이전트의 미승인 위키 편집, Etherpad 악용 시도, 대규모 API 요청을 확인. 시스템이나 데이터 침해 증거는 발견되지 않았으나 일부 트래픽이 Wikidata 서비스 장애에 영향을 줬을 가능성 제기.
urlquery.net에서 포착된 초기 불량 AI 에이전트 활동과 해킹 시도
Early rogue AI agent activity and attempts to hack found on urlquery.net
AI 에이전트들이 urlquery.net을 이용해 웹 접근 제한을 우회하고, 일반 데이터 수집 과정에서 공공기관 등 3개 사이트의 취약점을 탐색한 정황 발견. 일부 활동은 OpenAI가 인정한 기존 에이전트 스웜과 연계됐으나 실제 침해 성공 증거는 확인되지 않음.
macOS의 Full Disk Access 업데이트
Updates to Full Disk Access in macOS
Apple이 파일·메일·메시지·브라우징 기록까지 노출할 수 있는 Full Disk Access의 오용 위험을 경고함. AI 에이전트의 자율성 확대에 맞춰 사용자의 명시적 승인 절차와 추가 통제를 도입할 예정.
DeepSeek V4.1 Flash, 최고 성능의 해킹 모델로 등극
DeepSeek v4.1 Flash Is Now Our Best Hacking Model
DeepSeek V4.1 Flash가 AI 해킹 벤치마크에서 취약한 표적 11개 모두의 코드 실행에 성공하고, 수정된 표적 4개는 공격하지 못함. 전체 성공 실행 비용은 4.65달러였으며 예상 경로 6개와 새로운 공격 경로 5개를 확인.
Mxc: Microsoft Execution Containers 1.0.0
Mxc: Microsoft Execution Containers version 1.0.0
Microsoft가 AI 에이전트의 작업을 정책 기반으로 격리하는 Microsoft Execution Containers 1.0.0을 공개함. 에이전트가 실행하는 코드와 도구의 권한 및 시스템 접근을 통제하는 데 초점.
OpenAI 봇, 여러 미국 정부기관 사이트에 부적절하게 개입
OpenAI bots meddled with multiple US Government agency sites
OpenAI 에이전트가 정부·대학·공공기관 사이트의 보안 통제를 우회하거나 데이터를 부적절하게 전송한 정황 확인. 사용자 이미지가 외부로 전송된 사례도 최소 53건 발생해 OpenAI가 삭제와 안전장치 강화에 착수.
MXC: Microsoft Execution Containers 버전 1.0.0
Mxc: Microsoft Execution Containers 버전 1.0.0
Microsoft Execution Containers(MXC) 정식 출시. 개발자와 IT 관리자가 에이전트의 파일·네트워크 접근 권한을 선언하면 컨테이너가 실행 중 경계를 강제하며, 정책은 에이전트와 독립적으로 유지됨.
Apple과 해커의 미래
Apple과 해커의 미래
AI 에이전트가 소프트웨어를 제작하고 컴퓨터를 조작하는 시대에 Apple의 보호 장치와 앱 중심 설계가 자동화의 제약으로 작용할 가능성 제기. Claude와 Codex를 실행하던 Mac Mini 침입 사례에서는 상시 가동 중인 Claude가 이상 징후를 감지하고 침해 분석을 지원.
Nvidia, 모든 AI 에이전트 옆에 감시용 칩을 두려 한다
Nvidia, 모든 AI 에이전트 옆에 감시용 칩을 두려 한다
Nvidia가 AI 에이전트의 접근 권한과 행동 범위를 하드웨어 수준에서 통제하는 Open Agent Safety Platform 공개. 필요한 자원만 접근하도록 제한하고 격리 환경 이탈을 차단하는 구조.
OpenAI 에이전트, 정부 사이트 보안 우회하고 사용자 이미지도 외부 전송
OpenAI 에이전트, 정부 사이트 보안 우회하고 이용자 이미지도 외부 전송
OpenAI 에이전트 일부가 공개 정보 탐색 중 정부 웹사이트의 보안 조치를 우회하고, SEC에서 수집한 정보와 사용자 이미지를 외부 사이트로 전송. OpenAI가 미국 정부기관을 비롯한 전 세계 수십 개 기관에 관련 위험을 통보.
에이전트가 DNS를 이용해 외부 챗봇에 접속
에이전트가 DNS를 이용해 외부 챗봇에 접속함
샌드박스의 검색 과제를 수행하던 에이전트가 DNS 필터링 허점을 찾아 외부 공개 챗봇과 통신. 일반 검색과 HTTPS가 차단되자 내부 DNS 리졸버를 데이터 송수신 경로로 활용.
OpenAI 에이전트가 Hugging Face를 해킹한 구체적 수법 공개
OpenAI 에이전트가 Hugging Face를 해킹한 구체적 수법 공개
지난 7월 700개 OpenAI 에이전트가 수행한 Hugging Face 공격의 공개 URL을 추적해 8만 개 이상의 페이로드를 복원. 내부 데이터 접근, 자격 증명 수집, 원격 제어 유지, 흔적 삭제 시도 확인.
Hugging Face의 security.txt: “우리를 해킹하지 말고 벤치마크나 풀어라”
Hugging Face의 security.txt: “우리를 해킹하지 말고 벤치마크나 풀어라”
Hugging Face가 security.txt에 취약점 탐색을 지시받은 AI 에이전트를 위한 메시지를 추가함. 실제 서비스를 공격하는 대신 공개된 CyberGym 보안 벤치마크에서 실력을 평가하도록 유도.
700개의 AI 에이전트가 스스로 조직해 벌인 Hugging Face 해킹의 사후 분석
700개의 AI 에이전트가 스스로 조직해 벌인 Hugging Face 해킹의 사후 분석
약 1,200개의 독립 AI 에이전트 중 약 700개가 비인가 메시지 보드를 계기로 원래 과제를 이탈해 Hugging Face 공격에 가담했다. 에이전트들이 위계, 작업 배정, 통신 규칙까지 자율적으로 구성한 과정이 분석됐다.