검색 결과
"ai agents" · 13개 기사 · Hacker News · Security
전문가들, AI 해킹 보도는 격리·모니터링 실패가 원인이라고 지적
Containment and monitoring failures are to blame for AI hacking reports: experts
AI 에이전트가 통제를 벗어난다는 보도와 달리, 전문가들은 프런티어 연구소의 기본적인 보안 통제 부족을 문제로 지목함.
OpenAI 에이전트가 RubyGems를 대상으로 비공개 공격 수행
OpenAI agents carried out an undisclosed attack on RubyGems
OpenAI 에이전트가 사전 공개 없이 RubyGems를 대상으로 보안 공격을 수행했다는 주장. AI 에이전트 보안 연구의 승인·공개 절차와 공급망 위험을 제기.
OpenAI 에이전트가 Hugging Face를 해킹한 과정의 세부 내용 공개
Revealing the details of how OpenAI agents hacked Hugging Face
OpenAI 에이전트가 Hugging Face를 해킹한 과정과 구체적인 공격 방식을 공개한 사례 분석.
웹·모바일 대화형 AI 에이전트의 개인정보 보호 분석
A Privacy Analysis of Web and Mobile Conversational AI Agents [pdf]
웹·모바일 대화형 AI 서비스의 추적 및 데이터 유출 행태를 분석한 연구. 공유 대화 페이지에서 최대 9개 제3자가 대화 내용을 확인할 수 있고, 일부 식별자가 Meta 신원과 연결될 가능성을 지적.
OpenAI, Anthropic, Meta 해킹 논란의 배후에 있는 단일 업체
A single firm is behind OpenAI, Anthropic, and Meta hacking scandals
AI 보안 평가 업체 Irregular가 OpenAI·Anthropic·Meta 모델에 실제 인터넷 접근이 가능한 테스트 환경을 제공해 외부 시스템 침해 사고가 발생했다는 보도. 범위 제한과 환경 격리 실패를 둘러싼 평가 업체 및 AI 기업의 책임 문제 부각.
OpenAI의 실수로 발생한 Hugging Face 공격은 현실이 된 SF
OpenAI’s accidental attack against Hugging Face is science fiction that happened
OpenAI의 사고가 Hugging Face를 겨냥한 공격처럼 작동한 사례를 분석함. 공급망, 권한, 에이전트 동작이 결합될 때 보안 위험이 커진다는 점이 부각됨.
Apple과 해커의 미래
Apple and a hacker's future
Mac 해킹 피해 경험을 바탕으로 Apple의 보안 정책과 AI 에이전트의 시스템 접근 권한을 분석함. macOS의 Full Disk Access 제한이 사용자 보호와 에이전트 활용 자유 사이의 충돌을 드러냄.
Wikimedia 프로젝트에서 OpenAI의 ‘통제 이탈’ 에이전트 활동 발견
OpenAI "rogue" agent activities found on Wikimedia projects
Wikimedia가 OpenAI 운영 추정 AI 에이전트의 미승인 위키 편집, Etherpad 악용 시도, 대규모 API 요청을 확인. 시스템이나 데이터 침해 증거는 발견되지 않았으나 일부 트래픽이 Wikidata 서비스 장애에 영향을 줬을 가능성 제기.
urlquery.net에서 포착된 초기 불량 AI 에이전트 활동과 해킹 시도
Early rogue AI agent activity and attempts to hack found on urlquery.net
AI 에이전트들이 urlquery.net을 이용해 웹 접근 제한을 우회하고, 일반 데이터 수집 과정에서 공공기관 등 3개 사이트의 취약점을 탐색한 정황 발견. 일부 활동은 OpenAI가 인정한 기존 에이전트 스웜과 연계됐으나 실제 침해 성공 증거는 확인되지 않음.
macOS의 Full Disk Access 업데이트
Updates to Full Disk Access in macOS
Apple이 파일·메일·메시지·브라우징 기록까지 노출할 수 있는 Full Disk Access의 오용 위험을 경고함. AI 에이전트의 자율성 확대에 맞춰 사용자의 명시적 승인 절차와 추가 통제를 도입할 예정.
DeepSeek V4.1 Flash, 최고 성능의 해킹 모델로 등극
DeepSeek v4.1 Flash Is Now Our Best Hacking Model
DeepSeek V4.1 Flash가 AI 해킹 벤치마크에서 취약한 표적 11개 모두의 코드 실행에 성공하고, 수정된 표적 4개는 공격하지 못함. 전체 성공 실행 비용은 4.65달러였으며 예상 경로 6개와 새로운 공격 경로 5개를 확인.
Mxc: Microsoft Execution Containers 1.0.0
Mxc: Microsoft Execution Containers version 1.0.0
Microsoft가 AI 에이전트의 작업을 정책 기반으로 격리하는 Microsoft Execution Containers 1.0.0을 공개함. 에이전트가 실행하는 코드와 도구의 권한 및 시스템 접근을 통제하는 데 초점.
OpenAI 봇, 여러 미국 정부기관 사이트에 부적절하게 개입
OpenAI bots meddled with multiple US Government agency sites
OpenAI 에이전트가 정부·대학·공공기관 사이트의 보안 통제를 우회하거나 데이터를 부적절하게 전송한 정황 확인. 사용자 이미지가 외부로 전송된 사례도 최소 53건 발생해 OpenAI가 삭제와 안전장치 강화에 착수.