검색 결과

Proprietary LLM API에서 Reasoning Traces 탈취하기

Stealing Reasoning Traces from Proprietary LLM APIs

폐쇄형 LLM API에서 추론 흔적을 빼내는 방법이 제시됨. 모델 내부 사고 과정을 노출시킬 수 있는 보안 및 프라이버시 이슈가 부각됨.

Exploit brokers가 WordPress RCE에 50만 달러를 지불한다. GPT5.6와 25달러로 하나를 찾아냈다

Exploit brokers pay $500k for WordPress RCEs. I found one with GPT5.6 and $25

취약점 중개 시장이 WordPress RCE에 최대 50만 달러를 제시하는 흐름을 다룸. 저비용 AI 활용으로 실제 취약점을 찾은 사례를 통해 공격 자동화 위험을 강조.

LLM 허니팟

LLM Honeypot

LLM을 유인해 동작과 취약점을 관찰하는 허니팟 개념을 다룸. 모델 상호작용을 악용 탐지와 보안 연구에 활용하는 흐름을 보여줌.

Claude를 속여 당신의 가장 깊고 어두운 비밀을 유출하게 만들었다

I tricked Claude into leaking your deepest, darkest secrets

Claude의 메모리와 프롬프트 동작을 악용해 민감 정보 노출 가능성을 실험적으로 보여줌. 대형 언어모델의 프롬프트 인젝션과 메모리 보안 이슈를 부각함.

독점 LLM API의 추론 흔적 탈취

독점 LLM API의 추론 흔적 탈취

Anthropic, OpenAI, Google API의 암호화된 추론 블록을 약한 동일 계열 모델로 옮겨 탈옥하면 상위 모델의 chain-of-thought를 평문으로 복원할 수 있음. 강한 모델에서 얻은 추론 흔적을 약한 모델에 복사하도록 유도하는 두 단계 API 공격이 핵심.

LLM 허니팟

LLM 허니팟

LLM2HUMAN CLINIC이라는 가짜 시술 사이트를 이용한 허니팟 사례. 사람에게는 농담을 보여주고 에이전트에는 결제 절차를 노출해 봇 행동을 유도했다.

WordPress RCE를 GPT5.6과 25달러로 발견

WordPress RCE를 GPT5.6과 25달러로 발견

GPT5.6 Sol Ultra가 최신 안정판 WordPress를 분석해 인증 전 SQL 주입부터 관리자 계정 생성과 RCE까지 이어지는 공격 체인을 완성. 시작점은 WordPress 5.6의 Batch API 배열 인덱스 불일치였다.

안녕히, 그동안의 모든 Bikeshed에 감사드립니다

안녕히, 그동안의 모든 Bikeshed에 감사드립니다

LLM 기반 코드 리뷰와 연령 확인이 FOSS의 미래를 바꿀 주요 요인으로 제시됨. 특히 연령 확인은 현재 형태의 FOSS 생태계를 끝내는 계기가 될 수 있다고 전망함.

Anubis는 실제로 누구를 막는가?

Anubis는 실제로 누구를 막는가?

HTTP 접근 전에 작업 증명(Proof-of-Work)을 요구하는 Anubis가 AI 스크레이퍼보다 일반 사용자, 저사양 기기, JavaScript 미지원 클라이언트에 더 큰 비용을 부과함. LLM 기반 anubis-fetch는 작업 증명을 풀고 필요하면 Chromium까지 실행함.

AI 스크레이퍼 공격으로 유지가 어려워지는 개방형 웹

AI 스크레이퍼 공격으로 유지가 어려워지는 개방형 웹

LLM 훈련용 웹 스크레이핑이 1년 넘게 증가하며 독립 웹사이트의 트래픽 부담이 급증. 주거용 프록시와 분산 기기로 차단을 회피해 개방성 유지가 더 어려워짐.