검색 결과

llama.cpp: 내 컴퓨터에서 실행하는 오픈소스 AI

llama.cpp: 내 컴퓨터에서 실행하는 오픈소스 AI

llama.cpp는 API 키와 텔레메트리 없이 로컬에서 AI 모델을 실행하는 오픈소스 런타임. 노트북부터 클러스터까지 같은 바이너리와 모델을 쓰며 다양한 CPU·GPU 환경에 맞게 최적화된다.

로컬 Qwen은 더 나쁜 Opus가 아니라 다른 도구다

로컬 Qwen은 더 나쁜 Opus가 아니라 다른 도구다

로컬 Qwen 3.6 27B는 고객 데이터나 내부 텔레메트리처럼 클라우드에 올리기 어려운 작업에서 실용적 가치를 보임. 최고 성능 모델과의 점수 경쟁보다 고정 비용, 개인정보 보호, 벤더 리스크 완화가 핵심 장점으로 제시됨.

CrankGPT

CrankGPT

손과 발의 물리적 동력으로 토큰을 생성하는 완전 로컬·프라이빗 AI 솔루션. 가정용 기본 수동 모델부터 파워 유저·소규모 기업용 페달 모델까지 사용 규모별로 나뉨.

설계상 불법: 생성형 AI의 인권 비용 드러내기

설계상 불법: 생성형 AI의 인권 비용 드러내기

독립형 생성형 AI 시스템의 불법 웹 스크래핑 관행이 국제인권법과 충돌할 수 있다는 점을 지적함. 데이터 수집과 학습, 배포 전 과정에서 프라이버시와 인권 침해 위험이 구조적으로 내재돼 있다고 분석함.