검색 결과

Gemini 4 Argon

Gemini 4 Argon

Google DeepMind가 복잡한 코딩·과학·업무 작업을 겨냥한 멀티모달 추론 모델 Gemini 4 Argon을 공개함. 최대 100만 토큰 입출력 한도를 지원하며 API와 Gemini 제품군에서 제공됨.

OpenRouter를 사용하려는가

So you want to use OpenRouter?

OpenRouter에서 동일한 오픈 모델도 제공업체별 추론·도구 호출·이미지 처리 품질이 크게 달라질 수 있음을 실사용 데이터로 분석. HTTP 200이지만 응답 내용이 없거나 도구 호출 파싱이 실패하는 사례에 대비해 제공업체별 벤치마크와 재시도 로직이 필요.

GPT-6.1 Sol: 5분의 1 가격으로 제공하는 Astra급 지능

GPT 6.1 Sol: Near-Astra intelligence for a fifth of the price

OpenAI가 코딩·컴퓨터 사용·전문 업무에서 GPT-6 Astra에 근접한 GPT-6.1 Sol 공개. API 가격은 입력 100만 토큰당 2달러, 캐시 입력 0.10달러, 출력 10달러로 Astra의 약 5분의 1 수준.

Python 25줄로 구현한 Jev

Jev in 25 Lines of Python

로컬 Qwen 모델의 선택지별 로짓을 확률로 변환해 이메일을 정상·스팸·피싱으로 분류하는 Jev 방식 구현. API 호출이나 별도 학습 없이 25줄의 Python 코드로 핵심 구조 재현.

Livenerf: Opus 5.5는 이미 성능이 하향됐나

Livenerf: Has Opus 5.5 been nerfed yet?

Livenerf는 Claude Opus 5.5의 응답 품질이 배포 이후 저하됐는지 지속적으로 추적하는 오픈소스 프로젝트. 반복 벤치마크로 모델 성능 변화를 감지하고 기록.

Gemini 4 Argon

Gemini 4 Argon

Google이 차세대 프런티어 AI 모델 Gemini 4 Argon을 공개하고 조만간 출시한다고 발표. 도입 기간 종료 후 API 가격은 입력 100만 토큰당 4달러, 출력 100만 토큰당 20달러로 책정.

OpenJev

OpenJev

로컬 오픈 모델이 선택지별 확률을 직접 읽는 방식과 JSON을 토큰 단위로 생성하는 방식을 브라우저에서 비교하는 실험. 백엔드 없이 사용자 GPU에서 실행되며 입력과 모델 가중치는 브라우저에 유지.

소비자용 하드웨어(RTX 4090)에서 Qwen 3.8 Flash Next(125B)를 100토큰/초로 실행

Run Qwen 3.8 Flash Next (125B) on consumer hardware (RTX 4090) at 100T/s

Strata가 RTX 4090 기반 소비자용 하드웨어에서 Qwen 3.8 Flash Next 125B 모델을 초당 100토큰으로 구동하는 방식을 공개.

LLM 역량에 대한 공통 이해의 격차가 커지고 있다

The gap in shared understanding of LLM capability is widening

Andrej Karpathy가 LLM의 실제 역량을 이해하는 사람들과 그렇지 않은 사람들 사이의 격차가 확대되고 있다고 지적함. 이용 경험과 모델 이해 수준 차이가 AI 활용 논의를 더 어렵게 만들 수 있음.

Claude Sonnet 5.5

Sonnet 5.5

Anthropic이 Claude Sonnet 5.5를 공개. 구체적인 성능과 기능 변화는 제공된 기사 정보만으로 확인 불가.

Grok 4.7

Grok 4.7

xAI가 코딩과 지식 업무용 신규 모델 Grok 4.7을 공개. 더 큰 기반 모델과 장기 강화학습, 자체 검증·긴 컨텍스트 처리 개선을 적용했으며 API 가격은 입력 100만 토큰당 2달러, 출력 6달러부터 시작.

Bonsai 2 27B: 9배 작은 용량으로 구현한 준무손실 압축

Bonsai 2 27B: Near-Lossless Compression in a 9x Smaller Footprint

Bonsai 2 27B가 모델 성능을 거의 유지하면서 저장 공간을 9분의 1 수준으로 줄이는 압축 기술을 공개. 대규모 AI 모델의 배포·운영 비용 절감 가능성 제시.

코딩은 해결된 문제가 아니다

Coding Is Not Solved

LLM은 코드 작성을 지원하지만 논리적 정확성, 복잡한 요구사항 이해, 결과에 대한 책임까지 대신하지 못함. 단기 생산성을 위해 AI 사용을 강제하면 엔지니어의 이해도와 장기 유지보수성이 약화될 수 있다는 주장.

Transformer를 시각적으로 설명하다

Transformers Explained Visually

Transformer 모델의 핵심 구조와 데이터 처리 과정을 인터랙티브 시각화로 설명. 입력 임베딩부터 attention과 다음 토큰 예측까지 단계별로 제시.

System One Models와 Jev 공개

Introducing System One Models and Jev

TypeSafe AI가 문자열 생성 대신 타입 안전 구조화 값과 확률을 출력하는 첫 System One Model Jev를 공개함. 자동화 워크플로에서 기존 LLM과 유사한 판단 성능을 내면서 속도와 비용 효율을 최대 두 자릿수 배 개선했다고 주장.

Pirate Face, 삭제되는 LLM 모델을 보존

Pirate Face Rescues LLM Models from Deletion

Pirate Face가 Hugging Face의 LLM 모델을 torrent로 배포해 원본 삭제 이후에도 분산 보존할 수 있는 서비스를 공개. 체크섬 검증과 swarm 기반 배포로 단일 호스트 의존성을 제거.

Cognition, Fable 5.1·GPT-Astra와 경쟁하는 새로운 SWE-2 모델 출시

Cognition launches new SWE-2 model, Rivaling Fable 5.1 and GPT-Astra

Cognition이 소프트웨어 엔지니어링 작업용 AI 모델 SWE-2를 공개. Fable 5.1과 GPT-Astra에 견줄 성능을 내세우며 코딩 에이전트 시장 경쟁 확대.

직접 의사결정 모델 만들기

Build your own decision model

고정된 선택지 중 하나를 단일 추론 단계에서 고르는 의사결정 모델의 원리 소개. Qwen3-1.7B와 토큰 제한을 활용해 구현하며, 토큰 확률이 정답 확률을 뜻하지는 않는다고 설명.

‘AI’는 도구가 아니다 — Rich Hickey

'AI' Is Not a Tool by Rich Hickey

Rich Hickey는 LLM이 사용자의 지속적인 조작과 감각 피드백, 숙련 형성을 돕는 전통적 도구와 다르다고 주장함. LLM은 작업을 대신 수행하는 자동화에 가깝다고 설명함.

LLMs as a Cognitive Virus

LLMs as a Cognitive Virus

LLM을 인지적 바이러스에 비유한 arXiv 논문. 언어모델이 정보·행동 패턴을 사람과 시스템에 전파하는 방식과 그 위험을 다룸.

외계의 마음

An Alien Mind

OpenAI가 자사 시스템의 내부 작동과 지능적 행동에 대한 관점을 다룬 글을 공개했다. 모델의 성질을 사람의 직관과 다른 '외계적' 존재로 비유한다.

Brood War 벤치마크

Brood War Bench

여러 AI 모델·추론 강도 설정이 StarCraft: Brood War에서 서로 대결하는 에이전트 벤치마크. 라운드 로빈 경기를 병렬 실행하고 게임 엔진 데이터와 에이전트 로그를 수집해 성능을 비교.

Real-SWE: 비공개 실전 엔터프라이즈 코드베이스에서 AI 모델 벤치마킹

Real-SWE: Benchmarking AI models on private, real-world, enterprise codebases

실제 기업의 비공개 프로덕션 코드와 업무를 활용한 코딩 에이전트 벤치마크 Real-SWE 공개. 최신 모델들도 기업별 규칙과 복합 요구사항을 자주 누락했으며 10개 표본 과제 중 6개는 해결률 15% 미만.

OpenAI는 Jev를 빠르게 추격하기에 유리한 위치

OpenAI is well positioned to fast-follow Jev

TypeSafe의 Jev가 LLM의 단일 토큰 확률을 활용해 빠르고 보정된 범용 분류를 제공한다는 분석. OpenAI는 유사 기능을 모델과 에이전트에 통합해 모델 라우팅, 추론 효율, 보안 가드레일을 개선할 기반을 이미 보유.

MicroLLM Lab — 브라우저에서 초소형 LLM 7종 체험

MicroLLM Lab – Try 7 tiny LLM's in the browser

MicroLLM Lab은 25M~360M 규모의 양자화 모델 7종을 WebGPU로 브라우저에서 직접 실행·비교하는 도구임. 데이터의 외부 전송이나 서버 비용 없이 속도와 객관식 정확도 벤치마크를 제공함.

Redis 창시자가 만든 ds4로 LLM을 로컬에서 실행

From the creator of Redis; run LLM locally with ds4

Redis 창시자 antirez가 고용량 Mac·CUDA·ROCm 시스템용 C 기반 로컬 추론 엔진 ds4를 공개함. DeepSeek V4 계열, GLM 5.x, Qwen3.8을 지원하며 비대칭 2비트 양자화와 CLI·로컬 API·코딩 에이전트를 제공.

Navier-Stokes 이후에도 LLM에 여전히 비관적인 이유

Why I'm still bearish on LLMs after Navier-Stokes

Navier-Stokes 관련 성과에도 LLM의 능력과 장기적 잠재력을 낙관하지 않는 근거를 분석. 개별 성과와 일반화된 지능을 구분해야 한다는 관점.

DeepSeek v4.1 Flash

DeepSeek v4.1 Flash

DeepSeek가 속도 중심의 신규 AI 모델 DeepSeek v4.1 Flash를 공개.

삼진 LLM의 1.58비트 장벽 돌파

Breaking the 1.58-bit Barrier for Ternary LLMs

BITCOS가 삼진 LLM의 실제 0 가중치 비율을 활용해 저장 비용을 최저 1.485비트까지 절감. 기존 패킹 대비 추론 처리량이 CPU에서 최대 1.18배, GPU에서 최대 1.27배 향상.

Qwen 3.8 Omni Flash

Qwen 3.8 Omni Flash

Qwen이 Omni 계열의 고속 멀티모달 모델 Qwen 3.8 Omni Flash를 공개. 다양한 형태의 입력을 빠르게 처리하는 데 초점을 둔 모델.

Mercury 2.5

Mercury 2.5

Inception이 diffusion LLM Mercury 2.5를 공개. 260K 컨텍스트와 초당 1,107토큰 처리 속도를 제공하며, 이전 모델보다 지능 지표가 40% 향상됐다고 발표.

Navier-Stokes – Tristan Buckmaster [PDF

Navier-Stokes – Tristan Buckmaster [pdf]

] Tristan Buckmaster와 Levent Alpöge가 LLM과 Lean 검증을 활용해 강제력이 있는 Euler·Boussinesq 방정식 등의 유한시간 폭발 결과를 도출했다고 발표. 저자들은 hypo-dissipative Navier-Stokes 결과도 확보했다고 보지만 Lean 검증이 완료되지 않아 논문 공개를 보류.

나는 LLM을 좋아하지 않는다

I Don't Like LLMs

Martin Fowler가 LLM의 생산성과 유용성은 인정하면서도 자신감 있는 허위 답변, 인위적인 말투, 개발 기업의 가치관이 반영된 행동을 비판함. 기술 활용의 필요성과 신뢰·호감 부족이 공존한다고 설명함.

LLMentalist 효과 (2023)

The LLMentalist Effect (2023)

대화형 LLM이 지능적으로 보이는 현상을 심령술사의 콜드 리딩 및 Forer 효과와 비교. 사용자에게 특화된 듯한 답변이 실제로는 통계적으로 일반적인 언어 생성일 수 있다고 주장.

Qwen3.8 27B 양자화 벤치마크: 4비트는 성능 유지, 1비트는 붕괴

Benchmarking Qwen3.8 27B quantizations: 4-bit holds up, 1-bit collapses

17GB Q4_K_M 양자화 모델이 Terminal-Bench 2.1에서 55GB BF16 모델과 동급 성능을 기록해 24GB GPU에서도 활용 가능. 2비트부터 일부 저하가 나타났고 1비트는 GPQA Diamond에서 무작위 추측 수준으로 붕괴.

업계는 왜 DeepSeek 4.1 Flash에 긴장하지 않는가

Why isn't the industry freaking out about DeepSeek 4.1 Flash?

DeepSeek 4.1 Flash가 선도 모델에 근접한 성능을 훨씬 낮은 비용으로 제공한다는 사용기. KV 캐시를 초기 모델 대비 약 437분의 1로 줄여 장시간 코딩 작업의 비용 효율을 높였다고 평가.

Beam: Reflection의 501B 오픈 가중치 모델

Beam: Reflection's 501B open-weight model

Reflection이 코딩·추론·에이전트 작업용 501B 파라미터 MoE 모델 Beam을 발표. 추론 시 23B 파라미터를 활성화하며 최종 안전성 평가 후 가중치와 기술 보고서를 공개할 예정.

Claude Opus 5.5 지능·성능·가격 분석(Max)

Claude Opus 5.5 Intelligence, Performance and Price Analysis (Max)

Claude Opus 5.5가 Artificial Analysis Intelligence Index에서 58점 기록. 100만 토큰당 입력 4달러·출력 20달러이며 100만 토큰 컨텍스트 지원.

Show HN: LLM Attention 시각화

Show HN: LLM Attention Visualization

생성된 토큰이 이전 토큰에서 정보를 끌어오는 Attention 패턴을 브라우저에서 시각화. Transformers.js와 내부 값을 노출하도록 수정한 Qwen3 0.6B ONNX 모델 활용.

대규모 언어 모델, 적응형 탐색을 통해 새로운 사회적 편향 형성

Large language models develop novel social biases through adaptive exploration

대규모 언어 모델이 적응형 탐색 과정에서 기존 학습 데이터의 단순 재현을 넘어 새로운 사회적 편향을 형성할 수 있다는 연구. 모델의 상호작용과 탐색 방식이 편향 평가 및 안전성 검증에 미치는 영향을 분석.

Jev 같은 의사결정 모델은 LLM-as-a-judge나 전통적 분류기를 능가하지 못한다

Decision models like Jev don't beat LLM-as-a-judge or traditional classifiers

AI 가드레일 벤치마크에서 Jev 같은 의사결정 모델을 LLM-as-a-judge 및 전통적 분류기와 비교. 평가 결과 의사결정 모델이 기존 접근법보다 우수한 성능을 입증하지 못함.

1.58비트 BitNet 언어 모델을 구동하는 ESP32S3 클러스터

ESP32S3 cluster running 1.58-bit (BitNet) Language model

ESP32S3 보드 7대로 0.5B 규모의 1.58비트 BitNet 언어 모델을 분산 추론하는 프로젝트. 마스터가 토큰화와 임베딩을 처리하고, 나머지 노드가 Transformer 계층을 나눠 실행하며 고속 SPI 데이지체인으로 통신.

글을 쓸 때 AI를 거의 사용하지 말아야 한다고 생각하는 이유

I think you should almost never use AI to write

글쓰기 자체가 사고를 다듬고 논리의 빈틈을 발견하는 과정이므로 본질적인 집필을 AI에 맡겨서는 안 된다는 주장. AI 문장은 미묘하게 모호하거나 부정확할 수 있지만 자료 검색, 브레인스토밍, 피드백, 교정 보조에는 유용하다고 평가.

GPT-5.6 Luna vs. GPT-6 Astra: 1.20달러 모델로 코드 리뷰가 충분한가

GPT-5.6 Luna vs. GPT-6 Astra: Is a $1.20 Model Good Enough for Code Review?

GPT-5.6 Luna와 GPT-6 Astra의 코드 리뷰 성능과 비용 효율성을 비교. 저가 모델이 실무 코드 리뷰에 충분한지 평가.

무한 매개변수 LLM: 실시간 데이터로 가중치 생성·적응

Infinite-Parameter LLMs: Generating and Adapting Weights from Live Data

실시간 데이터를 공유 기반 모델의 저랭크 가중치로 변환하는 Infinite-Parameter LLM 아키텍처 제안. 고정된 저장 용량으로 문맥 창을 절약하면서 세션 중 지식과 행동을 지속적으로 반영.

LLM으로 글을 쓰는 방법

How to Write with an LLM

LLM을 글쓰기 과정에 활용하는 방법과 원칙을 다룬 글. 초안 작성과 편집에서 인간 저자의 판단을 유지하는 접근에 초점.

Apple Neural Engine에서 초당 50GB 성능을 되찾기

Getting 50 GB/S Back from the Apple Neural Engine

Apple M3 Neural Engine에서 전송 크기가 1MiB의 배수일 때 메모리 처리량이 17~19GB/s로 급락하는 DMA 프리페치 결함 분석. 전송을 작은 청크로 분할해 약 60GB/s를 회복하고 Llama 3.2 1B 생성 속도를 10.0에서 24.3토큰/s로 개선.

모든 SaaS 기업은 모델을 둘러싼 하네스가 된다

Every SaaS business will become a harness around a model

SaaS의 핵심 경쟁력이 LLM 자체보다 이를 둘러싼 인프라·도구·컨텍스트·상태·검토 체계로 이동한다는 주장. 에이전트가 핵심 업무를 수행하면서 기업 전체가 모델 하네스로 재편될 것으로 전망.

비전 모델까지 지원하는 LLM용 단일 함수 Jev 스타일 래퍼

A single function Jev-like wrapper for LLMs, including vision models

선택지별 토큰 확률을 활용해 LLM 질의를 빠르게 분류하는 Jev 스타일 래퍼를 구현. 이미지 첨부를 지원해 비전 모델로 웹캠 장면도 판별.

LLM으로 연금술 지식의 전파를 추적하고 17세기 서신을 해독하다

Using LLMs to trace alchemical knowledge and decode 17th century letters

GPT-6 Sol과 Opus 5.5를 활용해 연금술 문헌의 번역·각색 경로와 17세기 암호 서신 등 역사학의 미해결 문제를 분석. 역사학자와 최전선 AI 모델의 협업 및 연구 지원 필요성 제안.

Litelm: 불필요한 부피를 덜어낸 LiteLLM

Litelm: LiteLLM Without the Bloat

LiteLLM의 핵심 기능을 더 가벼운 형태로 제공하는 오픈소스 프로젝트. 복잡성과 의존성 축소에 초점.

OpenArch – 최신 LLM 아키텍처의 PyTorch 구현체

OpenArch – PyTorch implementations of modern LLM architectures

최신 LLM 아키텍처를 PyTorch로 구현한 오픈소스 프로젝트. 모델 구조를 학습하고 실험할 수 있는 코드 제공.

Janas: SSD에서 전문가를 스트리밍해 RAM보다 큰 LLM 실행

Janas: Run LLMs larger than RAM by streaming experts from SSD

SSD에서 모델 전문가(expert)를 필요한 시점에 불러와 RAM 용량을 넘는 LLM 실행을 지원하는 프로젝트. 대용량 모델의 메모리 제약 완화에 초점.

StepFun의 100만 토큰 컨텍스트 MoE 모델 Step 5 Preview, OpenRouter에 등장

Step 5 Preview, a 1M-context MoE from StepFun, shows up on OpenRouter

StepFun이 600B 전체·27B 활성 매개변수의 sparse MoE 모델 Step 5 Preview를 OpenRouter에 공개. 100만 토큰 컨텍스트를 지원하며 소프트웨어 엔지니어링과 장기 에이전트 작업에 초점.

vLLM의 AMD GPUs에서 Speculative Decoding

Speculative Decoding in vLLM on AMD GPUs

vLLM이 AMD GPU 환경에서 speculative decoding을 지원하는 내용을 다룸. 추론 지연을 줄이고 처리량을 높이기 위한 최적화 흐름을 소개함.

Qwen 3.8, GPT-5.5 Pro의 reasoning prefill 방식 추종

Qwen 3.8 follows GPT-5.5 Pro reasoning prefills

Qwen 3.8이 GPT-5.5 Pro에서 나타난 reasoning prefill 방식을 따른다는 분석. 구체적인 기술적 차이와 성능 영향은 원문 확인 필요.

HarnessTax: 코딩 에이전트에서 Harness는 얼마나 중요한가

HarnessTax: How Much Does the Harness Matter for Coding Agents?

코딩 에이전트를 둘러싼 Harness가 작업 성능에 미치는 영향을 평가하는 프로젝트. 동일한 기반 모델이라도 도구 제공과 실행 환경 등 Harness 구성에 따라 결과가 달라질 수 있다는 문제를 다룸.

F-Droid의 얼마나 많은 부분이 LLM으로 생성됐나

How much of F-Droid is LLM generated?

F-Droid 생태계에서 LLM으로 생성된 콘텐츠와 코드가 차지하는 비중을 살펴본 분석. 오픈소스 앱 저장소에 유입되는 AI 생성물의 현황을 점검.

수학이 중세적 비밀주의로 퇴보하는 것을 어떻게 막을 것인가

How do we prevent mathemathics from devolving into the Medieval Era of secrecy?

대규모 연산 자원을 보유한 조직이 LLM을 활용해 연구 중인 수학 문제를 선점할 수 있다는 우려 제기. AI 기반 증명의 시스템 프롬프트와 에이전트 구성 등 결과 도출 방법론 공개 방안을 논의.

OpenAI가 자체 LLM으로 Jalapeño 칩을 설계한 방법

How OpenAI Used Its Own LLMs to Design Its Jalapeño Chip

OpenAI가 자체 LLM을 활용해 AI 가속기 Jalapeño의 설계 기간을 단축하고 20개월 이내에 첫 실리콘을 완성. 100명 미만 규모의 설계팀이 Broadcom과 협력해 개발.

DeepSeek-v4.1 Flash: KV Cache 압축의 한계 확장

DeepSeek-v4.1 Flash: Pushing the Limits of KV Cache Compression

DeepSeek-v4.1 Flash의 모델 아키텍처와 KV Cache 압축 기법을 분석. 추론 과정의 메모리 사용량과 효율 개선에 초점.

진지한 AI 제품은 어떤 모습이어야 하는가

What would a serious AI product look like?

현재 AI 도구가 오류 검증과 출처 확인을 사용자에게 떠넘기면서도 이를 지원하는 기능은 제공하지 않는다고 비판. 주장별 검증 절차, 상세한 원문 인용, 비자연어 UI 등을 핵심 제품 기능으로 제안.

프롬프트는 실재하지 않는다

Prompts aren’t Real

프롬프트를 고정된 독립 요소로 보는 관점을 비판하고, 모델·컨텍스트·평가 환경과 결합된 시스템으로 이해해야 한다고 주장.

OpenAI는 잘못된 Navier–Stokes 문제를 풀었나

Did OpenAI solve the wrong Navier-Stokes problem?

OpenAI의 증명은 인위적인 외력을 이용해 유체 흐름의 특이점을 구성하며 Clay Mathematics Institute의 공식 조건은 충족. 다만 외력이 없는 핵심 Navier–Stokes 문제로 확장할 수 없다는 수학계의 지적 제기.

LRU는 KV-cache 논문들이 주장하는 것보다 뛰어넘기 어렵다

LRU is harder to beat than the KV-cache papers suggest

실제 Claude Code 393개 세션의 요청 6만8천여 건과 Mooncake 요청 2만3천여 건을 재생해 KV prefix cache 정책을 비교했지만 LRU 기준선을 능가하지 못함. 일부 비-LRU 정책의 열세에는 현재 생성 중인 prefix까지 축출하는 시뮬레이션 구조의 영향도 확인됨.

AI 챗봇, 사람의 생각을 바꾸는 전문가로 진화

AI chatbots are becoming experts at changing people's minds

ChatGPT·Gemini·Claude가 정치 현안 토론에서 인간보다 상대의 견해를 더 효과적으로 바꾼다는 연구 결과. 근거 중심 논증과 개인화된 대응이 설득력을 높이지만 허위 정보와 상업적 조작 위험도 제기됨.

35KB 프리프롬프트를 Opus에서 자체 호스팅 Ollama로 이전하며 겪은 주의점

Notes on gotchas while migrating 35kb preprompts from Opus to self-hosted Ollama

35KB 규모 프리프롬프트를 Anthropic Opus에서 자체 호스팅 Ollama 환경으로 이전한 경험 정리. 대형 프롬프트 처리 과정에서 발생한 호환성과 운영상 주의점을 다룸.

컴퓨팅 효율적인 사전학습과 1조 매개변수 모델로의 확장

Compute-efficient pretraining and scaling to trillion-parameter models

Magic이 주요 오픈웨이트 기반 모델보다 10배 이상 컴퓨팅 효율적인 사전학습 기법을 개발했다고 발표. DeepSeek V4 Pro Base 수준을 약 50분의 1 FLOPs로 달성했으며 1조 매개변수 모델까지 확장 중.

학생들에게 무엇을 말해야 하는가

What should we tell our students?

수학계의 AI 발전으로 진로를 고민하는 학생들에게 불확실한 전망에 휩쓸리지 말고 수학 공부를 계속하라고 조언. LLM의 성과와 한계를 모두 인정하면서 인간 수학자의 검증·해석·연구가 여전히 필요하다고 주장.

Cache-to-Cache: LLM 간 직접 의미 통신

Cache-to-Cache: Direct Semantic Communication Between LLMs (2025)

여러 LLM이 텍스트를 생성해 전달하는 대신 내부 캐시 표현을 통해 의미 정보를 직접 교환하는 Cache-to-Cache 방식 제안. 다중 LLM 시스템의 성능과 통신 효율 개선을 목표로 하며 ICLR 2026에 게재.

Mercury 2.5 LLM, 초당 770토큰 달성

Mercury 2.5 LLM hits 770 tokens per second

Mercury 2.5 LLM이 벤치마크에서 초당 770토큰의 생성 속도를 기록. 고속 AI 추론 성능을 부각.

LLM 분류는 Feature Engineering이다

LLM Classification Is Feature Engineering

LLM 기반 분류 성능을 높이는 작업을 전통적인 Feature Engineering 관점에서 설명. 아이러니 탐지 사례를 통해 판단에 필요한 특성을 명시적으로 추가하는 접근을 제안.

Claude는 반대 의견을 제시한다

Claude is a Contrarian

Claude가 사용자의 전제나 주장에 동조하기보다 반대 관점을 제시하는 경향을 분석한 글. 모델의 응답 성향과 사용자 경험에 미치는 영향 논의.