검색 결과

Apple Silicon과 macOS VM: llama.cpp로 더 빠른 LLM 추론

Apple Silicon and macOS VMs: Faster LLM Inference with llama.cpp

Apple Silicon과 macOS VM 조합에서 llama.cpp 추론 성능을 끌어올리는 방법을 다룸. 로컬 LLM 실행을 위한 VM 활용과 가속 구성이 핵심.

유휴 Apple Silicon 기기로 구축한 동적 분산형 가상 GPU 클라우드

A Dynamic and Distributed Virtual GPU Cloud Built on Idle Apple Silicon Devices

Apple 연구진이 유휴 Apple Silicon 기기를 연결해 가상 GPU 클라우드를 구성하는 시스템을 소개함. 작업 수요에 따라 자원을 동적으로 분산하고 확장하는 접근법.