검색 결과

독점 LLM API의 추론 흔적 탈취

독점 LLM API의 추론 흔적 탈취

Anthropic, OpenAI, Google API의 암호화된 추론 블록을 약한 동일 계열 모델로 옮겨 탈옥하면 상위 모델의 chain-of-thought를 평문으로 복원할 수 있음. 강한 모델에서 얻은 추론 흔적을 약한 모델에 복사하도록 유도하는 두 단계 API 공격이 핵심.

Anthropic의 새로운 AI 암호분석 결과에 대한 평가

Anthropic의 새로운 AI 암호분석 결과에 대한 평가

미공개 고급 모델이 HAWK 키 복구 공격과 7라운드 AES 공격 개선안을 생성해 AI의 암호분석 역량을 보여줌. 다만 즉각적인 실전 파괴보다는 기존 보안 여유를 줄이는 수준으로 평가됨.

Anthropic, 한국 무료 사용자에 1,660만 달러 '유령 청구서' 발송

앤트로픽, 한국 무료 사용자에 1,660만 달러 '유령 청구서' 발송

API 사용량이 0인 한국 무료 요금제 사용자에게 Anthropic이 공식 도메인과 정식 Stripe를 통해 1,660만 달러 청구서를 발송함. 하루 전 같은 청구서는 167만 달러였고, 금액이 비정상적으로 급증한 사례로 지적됨.

Alibaba, 백도어 위험 우려해 사내에서 Claude Code 사용 금지 조치 예정

Alibaba, 백도어 위험 우려해 사내에서 클로드 코드 사용 금지 조치 예정

Alibaba가 보안 및 백도어 위험 우려로 직원들의 Claude Code 업무 사용을 금지할 예정임. Anthropic의 사용자 식별 기능 논란과 모델 능력 불법 추출 주장 이후 양사 갈등이 심화됨.

Fable 5가 다시 돌아옴

Fable 5가 다시 돌아옴

Anthropic이 미국 정부와의 논의 이후 Fable 5 사이버보안 보호장치를 업데이트. 대부분의 코딩 작업은 그대로 가능하지만, 단기적으로는 무해한 요청도 더 자주 차단될 수 있음.

Claude Code는 요청에 스테가노그래피 표시를 하고 있음

클로드 코드는 요청에 스테가노그래피 표시를 하고 있음

Claude Code 바이너리에서 시스템 프롬프트 날짜 문구를 바꿔 요청 안에 분류 신호를 숨기는 함수가 발견됨. 공식 api.anthropic.com이 아닌 환경이나 설정된 Base URL에서 호스트명과 시간대를 확인해 트리거하는 정황이 보고됨.

연구자들 “Fable 5 논란은 탈옥이 아니라 ‘fix this code’에서 시작됐다”

연구자들 “Fable 5 논란은 탈옥이 아니라 ‘fix this code’에서 시작됐다”

Anthropic의 Fable 5, Mythos 5 접근 제한은 알려진 탈옥이 아니라 취약 코드에 입력한 “fix this code” 요청에서 비롯됐다는 주장이 제기됨. 가드레일 우회 경위와 보안 대응 방식이 논란이 됨.

Fable 5·Mythos 5, 출시 3일 만에 외국인 접근 전면 차단

페이블5·미토스5, 출시 3일 만에 외국인 접근 전면 차단

앤트로픽의 최신 모델 Fable 5·Mythos 5가 미국 정부 명령으로 외국인 사용이 금지됨. Mythos 5는 오래된 소프트웨어 취약점을 전문 팀 수준으로 빠르게 찾아내는 사이버보안 특화 모델, Fable 5는 여기에 가드레일을 더한 공개 버전임.

Anthropic, 미국 정부 지시로 Fable 5·Mythos 5 모델 전면 차단

Anthropic, 미국 정부 지시로 Fable 5·Mythos 5 모델 전면 차단

Anthropic이 미국 정부의 수출통제 지시에 따라 Fable 5와 Mythos 5 모델 사용을 전면 중단함. 정부는 국가안보를 이유로 들었지만 구체적 배경은 공개하지 않음.

Defending Code Reference Harness - AI 기반 취약점 발견과 수정용 Anthropic 오픈소스 프레임워크

Defending Code Reference Harness - AI 기반 취약점 발견과 수정용 Anthropic 오픈소스 프레임워크

Claude를 활용해 자율적으로 취약점을 찾고 수정하는 참조 구현 프레임워크가 공개됨. 제품이 아닌 레퍼런스 구현이며 현재는 유지보수되지 않고 기여도 받지 않음.

Anthropic은 제품 전반에서 Claude를 어떻게 봉쇄할까

Anthropic은 제품 전반에서 Claude를 어떻게 봉쇄할까

에이전트의 능력과 접근권한이 커질수록 잠재적 피해 범위도 함께 확대됨. Claude 웹, Claude Code, Cowork 환경별로 실패 가능성과 피해 규모를 줄이는 봉쇄 아키텍처와 안전장치 구성이 핵심으로 정리됨.