검색 결과

Jeff — 가정에서 학습한 Jev 호환 0.8B 의사결정 모델, 약 30ms

Jeff – Jev-compatible 0.8B decision models, trained at home, ~30 ms

Jeff는 Qwen3.5와 Gemma 4를 미세조정한 소형 zero-shot 분류 모델로, 텍스트 생성 없이 선택지별 확률을 한 번의 순전파로 반환함. 0.8B 모델은 Apple M4 Max에서 약 28ms 만에 판단하며 로컬 하드웨어만으로 학습됨.

H3-metal – Apple Silicon용 네이티브 MiniMax-H3 추론

H3-metal – Native MiniMax-H3 inference for Apple Silicon

Apple Silicon에서 MiniMax-H3를 네이티브로 구동하는 추론 경로를 소개. Mac 로컬 환경에서의 AI 추론 성능 최적화 흐름에 초점.

Kev: Qwen3.5 기반의 소형 Jev 유사 의사결정 모델 제품군

Kev: Tiny Jev-like family of decision models built on top of Qwen3.5

Kev는 Qwen3.5 기반의 0.8B·4B·9B 의사결정 모델 제품군으로, 예·아니요와 객관식, 평점 질문을 처리. 사전 학습 가중치와 학습 코드를 제공하며 CUDA·ROCm·Apple Silicon에서 로컬 실행 가능.

Apple의 새로운 SpeechAnalyzer API, Whisper 및 이전 버전과 벤치마크

Apple's new SpeechAnalyzer API, benchmarked against Whisper and its predecessor

Apple의 SpeechAnalyzer API를 Whisper와 기존 API와 비교 벤치마킹한 글. 음성 인식 성능과 지연 시간 차이를 실측해 새 API의 위치를 점검함.

iOS 27, iPadOS 27 및 macOS 27

iOS 27, iPadOS 27, and macOS 27

Apple이 iOS 27, iPadOS 27, macOS 27 등 주요 플랫폼 업데이트 배포 시작. 개인 맥락과 화면 내용을 이해하는 Siri AI, 강화된 Apple Intelligence 및 자녀 보호 기능 도입.

Apple ML Research: MLX로 Mac Studio에서 Muse Spark 실행

Apple ML Research: Muse Spark Open with MLX on Mac Studio

Apple의 MLX를 활용해 Mac Studio에서 Muse Spark를 실행하는 분산 추론 연구 소개.

Apple, AI 수요 급증에 Mac Mini와 Mac Studio 대응이 늦음

Apple caught off guard by AI demand for Mac Mini and Mac Studio

AI 수요가 예상보다 빠르게 늘면서 Mac Mini와 Mac Studio 판매가 급증한 것으로 보도됨. Apple이 수급과 생산 계획에서 시장 변화를 뒤늦게 반영한 모습.

코드에서 확인된 Apple Siri AI의 Claude·ChatGPT 교체 가능성

Apple's Siri AI Can Be Swapped Out for Claude, ChatGPT, Code Shows

Apple 코드에서 Siri의 기반 AI를 Claude나 ChatGPT로 교체할 수 있는 구조가 확인됨. Siri의 외부 AI 모델 연동 가능성을 시사.

M5 Ultra Mac Studio 리뷰

M5 Ultra Mac Studio Review

M5 Ultra Mac Studio의 성능과 사용 경험을 로컬 AI 에이전트 구동 관점에서 평가. 고성능 온디바이스 AI 작업용 Mac으로서의 가능성에 초점.

Apple Neural Engine을 회고하며 역공학하기

Retrospectively Reverse-Engineering Apple's Neural Engine

M1의 Apple Neural Engine을 역공학해 연산 코어·스케줄러·메모리 구조와 실행 모델을 분석. CNN에 최적화된 데이터 흐름과 제한적인 메모리 대역폭이 Transformer 워크로드에서 약점으로 작용한다고 평가.

Apple Silicon 임원이 설명하는 Mac mini AI 수요와 온디바이스 미래

Apple Silicon Exec Explains Mac Mini AI Demand and On-Device Future

Mac mini에 대한 AI 수요가 급증한 배경과 Apple Silicon의 역할을 다룸. 온디바이스 AI가 앞으로의 핵심 방향으로 제시됨.

Apple Neural Engine에서 초당 50GB 성능을 되찾기

Getting 50 GB/S Back from the Apple Neural Engine

Apple M3 Neural Engine에서 전송 크기가 1MiB의 배수일 때 메모리 처리량이 17~19GB/s로 급락하는 DMA 프리페치 결함 분석. 전송을 작은 청크로 분할해 약 60GB/s를 회복하고 Llama 3.2 1B 생성 속도를 10.0에서 24.3토큰/s로 개선.

pure C microgpt, Apple M5에서 1천만 tps 달성

Microgpt in pure C hits 10M tps on Apple m5

pure C로 구현한 microgpt가 Apple M5에서 초당 1,000만 토큰 처리 성능을 기록. 경량 추론 구현의 최적화 성과를 강조.

Mac M4에서 Laya(OS Jev)를 CoreML로 오프라인 구동, 초당 45회 의사결정

Laya (OS Jev) on Mac M4 CoreML Offline (45 decisions per second)

Laya(OS Jev)를 Apple Mac M4의 CoreML 환경에서 오프라인으로 구동한 사례 공개. 초당 약 45회의 의사결정 처리 성능을 기록.

MacBook Pro에서 4개 SSD로 스트리밍한 Kimi K3 2.8T, 초당 1토큰

Kimi K3 (2.8T) at 1 token/s on a MacBook Pro, streamed from four SSDs

Deltafin 프로젝트가 1.7TB 규모의 Kimi K3 2.8T MoE 전체 모델을 4개 SSD에서 스트리밍해 Apple Silicon에서 구동. 전문가 가지치기 없이 약 1 token/s의 로컬 추론을 구현하고 OpenAI 호환 서버를 제공.