검색 결과
"llm" · 91개 기사 · GeekNews · AI/ML
Show HN: Gemini 4 Argon, StarCraft 플레이에 도전
Show HN: Gemini 4 Argon이 StarCraft를 플레이하다
StarSkirmish Bench v0.2는 LLM에 1시간 동안 C++로 StarCraft: Brood War의 Protoss 봇을 제작하게 하고, 연습 경기에서 얻은 정보를 반영하는 장기 추론과 에이전트 코딩 능력을 평가. GPT-6 Astra가 평균 승률 57%로 1위, GPT-6.1 Sol이 46%로 2위 기록.
의사결정 AI Jev, 트롤리 문제를 만나다
의사결정 AI Jev, 트롤리 문제를 만나다
Jev를 포함한 14개 모델에 트롤리 문제를 여러 방식으로 질문한 결과, 문구와 설명 순서에 따라 사람과 자기 서버 중 무엇을 구할지 판단이 달라짐. 20명과 서버 중 하나를 선택하는 조건도 실험에 포함됨.
LFM2.5-24B-A2B - 로컬 AI 에이전트에 특화한 고속 추론 모델
LFM2.5-24B-A2B - 로컬 AI 에이전트에 특화한 고속 추론 모델
Liquid AI가 기기 내 도구 호출과 다단계 작업에 맞춰 설계한 공개 가중치 모델. 240억 개 파라미터 중 토큰당 20억 개를 활성화하는 MoE 구조이며, 131,072토큰 컨텍스트를 지원.
LLM이 그린 펠리컨은 왜 이렇게 생겼을까?
LLM이 그린 펠리컨은 왜 이렇게 생겼을까?
‘자전거를 타는 펠리컨 SVG’를 생성하는 프롬프트 결과가 서로 비슷하게 수렴하며 LLM의 다양성 붕괴를 보여줌. Design Creativity Bench는 UI 디자인 생성에서도 창의성 편향을 평가하며, 기능적 웹사이트와 제품 UI 생성은 발전했지만 다양성 문제가 남아 있음.
게임 개발용 AI 하네스 설계 방법
게임 개발용 AI 하네스를 설계하는 방법
게임 개발에 LLM을 효과적으로 활용하려면 코드뿐 아니라 게임 상태·데이터·실행 결과도 에이전트가 읽고 조작할 수 있어야 함. 결정론적 상태 재현과 저장·불러오기를 초기부터 설계하면 동일 조건에서 변경 사항을 반복 검증할 수 있음.
Minions, 유휴 Mac GPU를 모아 머신러닝 추론 작업을 분산하는 Apple 시스템
Minions - 유휴 Mac의 GPU를 모아 머신러닝 추론 작업을 분산하는 Apple의 시스템
Apple 연구진이 여러 Mac의 유휴 Apple Silicon GPU를 활용해 대규모 머신러닝 추론을 분산 처리하는 시스템을 개발. 기존 장비를 활용해 GPU 구매 부담을 줄이고 중앙 GPU 인프라를 보완하며, 임베딩 생성과 Ollama 기반 LLM 추론 등을 지원.
Clojure 창시자 리치 히키: AI는 도구가 아니라 자동화다
Clojure 창시자 Rich Hickey: AI는 도구가 아니라 자동화다
리치 히키는 도구가 사람의 직접 통제 아래 작동하는 반면, LLM은 요청을 받은 뒤 인간의 직접 통제 없이 작동하는 자동화라고 구분함. 도구 사용은 기술과 감각적 피드백을 통해 숙련을 쌓지만, LLM에는 좋은 도구의 이런 특성이 부족하다고 지적함.
AI는 도구이며, 잘 쓰려면 숙련이 필요하다
AI는 도구이며, 잘 쓰려면 숙련이 필요하다
LLM은 목적에 맞게 지시하고 결과를 검토·수정해 활용하는 도구임. 예측 불가능성은 한계지만, 예측 가능성과 신뢰성은 도구 품질을 평가하는 기준임.
OpenAI와 Anthropic을 단호히 거부하자
OpenAI와 Anthropic을 단호히 거부하자
오픈 웨이트 모델을 사용하면 ChatGPT와 Claude에 의존하지 않고 모델 실행 환경과 추론 제공업체를 선택할 수 있음. 학습 사용 거부 설정만으로 대화의 비공개성이 보장되지는 않으며, 두 업체가 대화 데이터에 접근할 수 있다는 점을 지적함.
LLM 능력에 대한 인식 격차가 커지고 있다
LLM의 능력에 대한 인식 격차가 커지고 있다
LLM을 단순 챗봇으로 경험하는 대중과 대규모 작업을 맡기는 전문 사용자 사이에서 능력 인식 격차가 확대됨. 활용 분야와 시스템 접근 수준에 따라 사용자 경험이 크게 달라짐.
AI에 관해 ‘불가피하다’고 할 만한 것은 거의 없음
AI에 관해 ‘불가피하다’고 할 만한 것은 거의 없음
LLM이 존속하는 것과 모두가 도입해야 하는 것은 별개라는 주장. 대체 수단보다 품질이 높고 사회적 필요와 압도적 성능 우위가 있어야 도입이 불가피하다고 볼 수 있음.
나만의 의사결정 모델 만들기
나만의 의사결정 모델 만들기
LLM 출력을 고정 선택지 토큰으로 제한해 한 번의 순전파로 답을 고르는 의사결정 모델 구현 가능. 출력 제약은 선택지 밖 응답만 막으며, 추가 학습 없이는 토큰 확률이 정답 확률과 다를 수 있음.
컴퓨터는 결정을 내릴 수 없다
컴퓨터는 결정을 내릴 수 없다
컴퓨터 프로그램과 LLM은 스스로 결정을 내리거나 결과에 책임질 수 없으며, 책임은 이를 활용한 사람에게 있음. AI에 책임을 전가하는 행위는 실제 의사결정자의 책임을 가리는 의사결정 세탁으로 지적됨.
왜 AI 업계는 DeepSeek 4.1 Flash에 긴장하지 않는가?
왜 AI 업계는 DeepSeek 4.1 Flash에 긴장하지 않는가?
DeepSeek 4.1 Flash를 12개 프로젝트에서 사용한 결과, 일상적인 개발 작업에서 Opus와 체감 성능 차이가 작고 비용은 크게 낮았다는 평가. 최고급 모델 경쟁보다 동일 작업의 비용 효율성이 중요해지고 있음을 지적.
Claude Haiku 5.5 출시 - 평균 실행 비용 75% 절감, Max·Team에 API 크레딧 제공
Claude Haiku 5.5 출시 - 평균 실행 비용 75% 절감, Max·Team에 API 크레딧 제공
Anthropic이 반복적인 요약·분류·데이터베이스 질의·코딩 보조에 최적화한 Claude Haiku 5.5를 출시. 10만 토큰 이하 프롬프트의 입출력 가격을 Haiku 4.5 대비 90% 인하해 평균 실행 비용 75% 절감.
Show GN: AI 송도 월드 - 6개 LLM이 분담한 AI 에이전트 2,400명이 사는 3D 도시
Show GN: AI 송도 월드 - LLM 여섯 개가 나눠 맡은 AI 에이전트 2,400명이 사는 3D 도시
GPT, Claude, Gemini, DeepSeek, GLM, Solar가 약 2,400명의 AI 시민을 나눠 운영하는 브라우저 기반 3D 도시. AI 에이전트들의 생각과 상호작용을 가입 없이 관찰 가능.
Claude가 그러는데
Claude가 그러는데
전문가가 자신의 판단 대신 Claude의 답변을 전달할 때 전문성과 책임에 대한 신뢰가 약화될 수 있다고 지적. LLM 활용 과정에서도 질문자의 우려를 정확히 이해하고 검증한 인간의 판단이 필요하다는 주장.
고처리량 AI-SQL 엔진 구축하기
고처리량 AI-SQL 엔진 구축하기
Quail은 SQL 쿼리 안에서 문서 분류와 관계 판별을 수행하는 AI-SQL 엔진. 쿼리 실행 계획과 모델 추론을 함께 최적화해 수십만~수백만 건의 모델 호출을 고속 처리.
Beam — Reflection의 5,010억 매개변수 오픈 웨이트 모델
Beam - Reflection의 5,010억 매개변수 오픈 웨이트 모델
Reflection이 코딩·추론·에이전트 작업용 오픈 웨이트 모델 Beam을 공개함. 총 5,010억 개 중 230억 개 매개변수를 활성화하는 희소 MoE 구조로, 현재 최종 레드팀 테스트와 평가를 진행 중임.
소비자용 하드웨어 RTX 4090에서 Qwen 3.8 Flash Next 125B를 초당 100토큰으로 실행하기
Qwen 3.8 Flash Next(125B)를 소비자용 하드웨어(RTX 4090)에서 초당 100토큰으로 실행하기
오픈소스 도구 Strata가 Qwen3.8-Flash-Next 125B의 연산을 GPU·RAM·CPU·SSD에 분산해 RTX 4090 기반 일반 PC에서 구동. 대화·코딩·이미지 인식과 코딩 에이전트 연동을 지원하며 데이터를 로컬에 유지.
GLM 5.3 Flash로 한 달 동안 코딩하기
GLM 5.3 Flash로 한 달간 코딩하기
GLM 5.3 Flash만으로 Wagtail·웹사이트·UI 개발과 문서 작성을 한 달간 수행했으며 비용은 68달러. 100만 토큰 컨텍스트와 이미지 이해 기능으로 장시간 코딩과 스크린샷 기반 작업을 처리.
Show GN: Brief - AI Slop이 만든 긴 글을 GeekNews식으로 요약하는 Mac 앱
Show GN: Brief - AI Slop이 만든 기——인 글을 GeekNews 요약처럼 만들어 주는 Mac 앱
AI 답변, 장문 보고서, 회의록, 채팅, PR 설명을 단축키로 즉시 요약하는 Mac 앱. 브라우저·채팅 앱·터미널 등 어떤 앱에서도 동작하며 PR은 변경 사항과 영향 중심으로 정리.
컨텍스트 언어 모델
컨텍스트 언어 모델
Context Language Models가 컨텍스트를 파일처럼 직접 편집해 필요한 정보를 자율적으로 유지·갱신. 추가 학습 없이 기존 모델에 적용해 BrowseComp-Plus에서 강력한 성능 기록.
텍스트 분류를 위한 언어 모델: Bag-of-Words에서 Jev까지
텍스트 분류를 위한 언어 모델: Bag-of-Words에서 Jev까지
Jev는 작업별 분류기 미세 조정 없이 다양한 텍스트 분류와 의사결정을 수행하는 범용 모델. 대형 생성형 LLM보다 빠르고 저렴한 처리를 목표로 텍스트 분류 기술의 발전 경로를 제시.
1.58비트 BitNet 언어 모델을 실행하는 ESP32-S3 클러스터
1.58비트(BitNet) 언어 모델을 실행하는 ESP32S3 클러스터
ESP32-S3 7대에 0.5B BitNet 언어 모델을 분할해 실행하는 분산 파이프라인 추론 엔진. 마스터가 토큰화·임베딩을 담당하고 6개 연산 노드가 어텐션과 MLP를 처리.
Jev로 LLM Wiki의 불량 페이지를 선별할 수 있을까?
LLM Wiki의 불량 페이지를 Jev로 선별하는 것이 가능할까?
TypeSafe의 판정 모델 Jev를 LLM Wiki에 적용해 페이지 결함 가능성을 0~1 사이의 보정된 확률로 평가. 자연어 기반 지식 품질 검사 도구로서의 활용 가능성 검토.
GPT-6.1 Sol
GPT 6.1 Sol
OpenAI가 에이전트 코딩, 컴퓨터 사용, 전문 업무 성능을 개선한 GPT-6.1 Sol 공개. GPT-6 Astra에 근접한 성능을 표준 입출력 토큰 기준 약 5분의 1 가격에 제공.
MicroLLM Lab - 브라우저에서 초소형 LLM 7개 체험하기
MicroLLM Lab - 브라우저에서 초소형 LLM 7개 체험하기
초소형 언어 모델 7개를 브라우저에서 실행해 채팅과 성능을 비교하는 실험 도구. WebGPU와 Q4 양자화를 활용하며, 사용자 데이터를 외부로 전송하지 않고 계정·서버 비용 없이 구동.
AI 시대를 여행하는 히치하이커를 위한 안내서: 수학과 코드 없이 LLM의 발전 흐름 이해하기
AI 시대를 여행하는 히치하이커를 위한 안내서 – 수학과 코드 없이 LLM의 발전 흐름 이해하기
머신러닝 기초부터 딥러닝, Transformer, LLM의 등장까지를 수학과 코드 없이 연결해 설명하는 AI 입문 전자책. 개별 기술이 등장한 배경과 상호 연관성을 중심으로 구성됨.
코딩은 해결된 문제가 아니다
코딩은 해결된 문제가 아니다
AI가 코드 생성 비용을 낮췄지만 유지보수·신뢰성·보안·확장성 문제는 그대로 남아 있음. LLM의 코딩 성능도 검증 체계와 피드백 루프의 품질에 크게 좌우됨.
Imp - DSPy를 BEAM으로 완전히 포팅한 프로젝트
Imp - DSPy를 BEAM으로 완전히 포팅한 프로젝트
Imp는 DSPy의 시그니처, 모듈, 최적화기, 에이전트 루프와 검색 기능을 Elixir로 구현한 프로젝트. OTP와 BEAM의 신뢰성·동시성을 기반으로 언어 모델 프로그램의 선언과 최적화를 지원.
Claude Sonnet 5.5
Claude Sonnet 5.5
Claude Sonnet 5.5는 일상 업무, 버그 수정, 문서·슬라이드·스프레드시트 제작에 최적화된 모델로 Opus 5.5를 보완. Sonnet 5보다 출력 속도가 30% 이상 빠르고 같은 토큰 단가에서 작업 효율을 높임.
Ember-1, Kimi K3의 성능을 유지하며 토큰 사용량 40% 절감
Ember-1, Kimi K3의 성능을 유지하며 토큰 사용량 40% 절감
Fireworks Research가 Kimi K3를 추가 학습해 유사한 품질을 유지하면서 토큰 사용량을 약 40% 줄인 Ember-1 공개. 오류 수정을 위한 재검토는 유지하고 불필요한 추론과 반복을 억제하도록 최적화.
“언어 모델로서”: 채팅 템플릿이 LLM의 자기 언급 말투를 전환함
“언어 모델로서”: 채팅 템플릿이 LLM의 자기 언급 말투를 전환함
8개 지시 튜닝 모델 실험에서 채팅 템릿 적용 시 “저는 AI일 뿐입니다” 같은 한계 고지형 자기 언급이 증가함. 템플릿 제거 시 경험 서술형 응답이 늘어 모델의 자기 표현이 채팅 형식에 크게 좌우됨.
TinyAIArena - 네 AI 모델의 배틀로얄 관전하기
TinyAIArena - AI 모델 네 개가 싸우는 배틀로얄 관전하기
TinyAIArena는 네 AI 모델이 각각 전사를 조종해 8×8 격자에서 마지막 생존자를 가리는 턴제 배틀로얄 게임. 모델은 이동·공격·대기를 결정하고 자원과 행동력을 관리하며 짧은 채팅도 수행.
GLM-5.3-Flash를 Jev와 유사한 의사결정 모델로 전환하기
GLM-5.3-Flash를 Jev와 유사한 의사결정 모델로 전환하기
GLM-5.3-Flash의 다음 토큰 확률을 읽어 추가 학습 없이 선택지별 확률을 반환하는 의사결정 모델로 활용. 고객 문의 분류와 계약 조항 판별처럼 정해진 선택지 기반 작업에 적용.
비전 모델을 포함한 LLM용 단일 함수 Jev 스타일 래퍼
비전 모델을 포함한 LLM용 단일 함수 Jev 스타일 래퍼
선택지별 토큰 로그 확률을 이용해 LLM과 비전 모델의 분류 결과, 참일 확률, 순서형 점수를 반환하는 단일 Python 함수 score()를 구현. 응답을 선택지 문자 하나로 제한해 출력 지연과 비용을 절감.
Mercury 2.5 LLM, 초당 약 800토큰 출력
Mercury 2.5 LLM, 초당 약 800토큰 출력
Inception의 추론 모델 Mercury 2.5가 API 측정에서 초당 약 800토큰을 출력해 동급 가격대 모델 중앙값인 약 112토큰을 크게 상회. 가격은 100만 토큰당 입력 0.25달러·출력 0.75달러이며 캐시 입력에는 90% 할인 적용.
LLM으로 연금술 지식의 전파를 추적하고 17세기 편지를 해독하기
LLM으로 연금술 지식의 전파를 추적하고 17세기 편지를 해독하기
GPT-6와 Opus 5.5를 역사 전문가의 지식과 결합해 17세기 사료의 출처와 지식 전파 경로를 추적하는 초기 연구. 암호 해독, 변형된 텍스트 추적, 분산된 연구 성과 연결 가능성 탐색.
예산별 최고의 LLM, 매일 업데이트
예산별 최고의 LLM, 매일 업데이트
Artificial Analysis Intelligence Index와 API 가격을 비교해 비용 대비 성능이 우수한 LLM을 매일 선별. 입력·출력 토큰 비율을 3:1로 가정한 100만 토큰당 혼합 가격으로 가성비 경계선을 산출.
내가 바라는 GNOME의 LLM 정책
내가 바라는 GNOME의 LLM 정책
GNOME의 LLM 정책을 개발 방식에 대한 세부 규제가 아닌 공동체의 수용·거부 행동을 규정하는 사회적 규범으로 만들자는 개인 제안. GNOME에 제출하거나 GNOME 인프라에 호스팅하는 콘텐츠를 LLM으로 생성·수정하는 행위의 금지를 제안함.
Python 25줄로 구현한 Jev
Python 25줄로 구현한 Jev
Qwen3-0.6B-GGUF의 선택지 레이블 로짓을 추출·정규화해 프롬프트별 확률을 출력하는 로컬 분류 예제. Python 25줄로 Jev의 핵심 동작을 재현.
LLM 엉덩이 벤치마크
LLM Ass Bench
하나의 프롬프트로 여러 날짜에 걸쳐 다양한 LLM의 응답을 비교하는 벤치마크. Claude와 GPT 계열의 여러 모델 및 버전을 비교 대상으로 제공.
No Sloptober - 10월 한 달간 LLM 도구 사용하지 않기
No Sloptober - 10월 한 달 LLM 도구 사용하지 않기
10월 동안 AI 검색 요약, 챗봇, 코드 리뷰, 에이전트 등 LLM 기반 도구 사용을 중단하는 개인 도전 제안. 일시적 단절을 통해 LLM의 장단점과 의존도를 직접 평가하는 취지.
Claude Opus 5.5 출시
Claude Opus 5.5 출시
Claude 5.5 제품군의 첫 모델로 코딩·컴퓨터 사용·문서 작성 등 전문 업무 성능을 강화함. 기본 설정에서 Opus 5 대비 작업 비용은 40% 낮고 출력 생성 속도는 30% 이상 빠름.
Xiaomi MiMo-V2.6-Pro 성능 및 API 비용 분석
샤오미 MiMo-V2.6-Pro, 성능과 API 비용 분석
Xiaomi의 오픈 웨이트 추론 모델 MiMo-V2.6-Pro가 AAII 46점으로 유사 규모 공개 모델 중앙값 18점을 상회. 1조 파라미터 중 토큰당 420억 개를 활성화하는 MoE 구조이며 MIT 라이선스로 상업적 사용과 자체 호스팅을 허용.
Jev 사용 후기
Jev 사용 후기
Jev는 긴 답변 생성보다 소프트웨어가 다음 행동을 선택할 수 있도록 판단 결과를 반환하는 데 초점을 둔 모델. 빠르고 저렴한 의사결정용 LLM으로서의 활용 사례를 소개.
Grok 4.7 공개, 동급 모델 대비 2배 빠르고 가격은 절반
Grok 4.7 공개, 동급 모델 대비 2배 빠르고 가격은 절반
xAI가 코딩·지식 업무용 Grok 4.7 공개. 자체 검증과 긴 컨텍스트 관리 능력을 개선하고, 어려운 과제를 위한 강화학습을 확대.
Show GN: RouteMind – 인간의 개입은 RAG 성능을 얼마나 바꿀까?
Show GN: RouteMind – 인간의 개입은 RAG 성능을 얼마나 바꿀까?
사람이 지식 영역과 관계를 정의하면 Agent가 검색 위치를 먼저 결정하는 Agentic RAG 프로젝트. 일반적인 chunking·embedding 기반 검색과 인간 개입형 라우팅의 성능 차이를 실험.
Three.js로 브라우저에서 LLM 실행하기
Three.js로 브라우저에서 LLM 실행하기
Three.js의 GPU 연산 기능을 활용해 별도 추론 서버 없이 브라우저에서 GPT-2, SmolLM2, Qwen, Phi 등을 실행하는 Three-LLM 구현. Hugging Face 모델을 직접 읽고 행렬 곱과 어텐션을 TSL 컴퓨트 셰이더로 처리.
StepFun, 차세대 플래그십 AI 모델 Step 5 Preview 공개
StepFun, 차세대 플래그십 AI 모델 Step 5 Preview 공개
StepFun이 소프트웨어 엔지니어링과 금융 전문 업무에 특화한 차세대 플래그십 모델 Step 5 Preview를 공개. 모델 가중치는 10월 15일 배포 예정.
AI와 창작 공유지의 파괴
AI와 창작 공유지의 파괴
LLM의 무차별적 온라인 콘텐츠 수집이 저작권과 라이선스에 기반한 개방·보호의 균형을 훼손. AI 생성물이 카피레프트의 파생 저작물 조건을 준수하는지 불분명하며 법적 집행도 미흡.
채팅 기반 대규모 언어 모델은 심령술사 사기의 작동 방식을 재현한다
채팅 기반 대규모 언어 모델은 심령술사 사기의 작동 방식을 재현한다
LLM 챗봇에서 체감하는 지능이 모델의 내적 사고보다 통계적 답변에 개인적 의미를 부여하는 사용자 심리에서 비롯된다는 LLMentalist 효과를 제시. 심령술사의 콜드 리딩과 주관적 타당화를 핵심 작동 원리로 지목.
Pirate Face — LLM 모델을 삭제로부터 보호하는 서비스
Pirate Face - LLM 모델을 삭제로부터 구하는 서비스
Hugging Face 오픈 모델을 체크섬으로 검증된 토렌트로 미러링해 P2P 네트워크에 분산 보관하는 서비스. 웹 시드로 초기 다운로드를 지원하고 원본 삭제 후에도 피어를 통해 모델 보존.
Jev 활용 가이드 - 빠른 AI 판단을 어디에 활용할 수 있을까?
Jev 활용 가이드 - 빠른 AI 판단을 어디에 쓸 수 있을까?
실행 순서와 분기는 코드가 처리하고, 문맥 기반 판단은 Jev에 맡겨 반복 업무를 자동화. LLM 선택, 검색 문서 선별, 에이전트 도구 호출 및 답변 오류 검사 등에 활용.
Cache-to-Cache: LLM 간 직접 의미 전달 (2025)
Cache-to-Cache: LLM 간 직접 의미 전달 (2025)
Cache-to-Cache가 중간 텍스트 대신 KV-Cache를 교환해 LLM 간 의미 정보를 직접 전달. 텍스트 변환 과정의 정보 손실과 모호성, 순차 생성 지연을 줄이는 방식.
OpenAI는 자체 LLM으로 Jalapeño 칩을 어떻게 설계했나
OpenAI는 자체 LLM으로 Jalapeño 칩을 어떻게 설계했나
OpenAI가 자체 LLM을 활용해 첫 AI 가속기 Jalapeño의 아키텍처와 설계 작업을 가속. 초기 구상부터 첫 실리콘까지 20개월 미만, 첫 RTL부터 제조용 설계 확정까지 9개월 소요.
생각을 멈춰도 되는 때는 오지 않는다
생각을 멈춰도 되는 때는 오지 않는다
LLM 결과를 무비판적으로 수용하거나 문제 해결을 반복 위임하는 방식은 업무 역량과 가치를 지키기 어려움. 모델이 발전해도 결과를 검증하고 스스로 사고하는 능력이 핵심.
Jev의 아키텍처를 파헤치다
Jev의 아키텍처를 파헤치다
Jev는 사전 학습 LLM의 지식을 활용해 허용된 답변별 확률 분포를 병렬 출력하는 의사결정 모델임. 공개 문서와 API 실험에서 공유 상태 처리와 질문 간 격리 구조가 관찰됐으나 세부 가중치와 연구 방법은 비공개.
Qwen 3.8 Omni Flash
Qwen 3.8 Omni Flash
텍스트·이미지·오디오·비디오를 처리하고 작업 계획, 도구 호출, 결과물 제작까지 수행하는 네이티브 옴니모달 모델. 100만 토큰 컨텍스트를 지원하며 공개 평가에서 Qwen3.5-Omni-Plus를 다수 지표에서 상회.
LLM과 함께 글 쓰는 법
LLM과 함께 글 쓰는 법
LLM을 대필 도구가 아닌 초안의 결함을 찾는 교정 편집자로 활용하는 글쓰기 방법론. 모델이 제안한 표현을 그대로 쓰지 않고 작성자의 개성과 문체를 유지할 것을 권고.
무한 파라미터 LLM: 실시간 데이터로 가중치 생성 및 적응
무한 파라미터 LLM: 실시간 데이터로 가중치 생성 및 적응
사용자 제공 사실과 수정 사항을 추론 중 모델 가중치에 반영하는 Infinite-Parameter LLM 아키텍처 제안. 소형 hypernetwork가 공유 기반 모델에 적용할 저랭크 가중치 변화량을 실시간 생성.
코딩 에이전트 하네스 설계에 관한 실증 연구
코딩 에이전트 하네스 설계에 관한 실증 연구
4개 모델과 2개 벤치마크에서 계획 수립, 행동 인터페이스, 컨텍스트 관리의 조합 176개를 비교. 오래된 도구 출력을 생략한 뒤 필요 시 요약하는 단계형 정책이 전반적으로 가장 높은 비용 효율을 기록.
Martin Fowler: 나는 LLM이 마음에 들지 않는다
마틴 파울러: 나는 LLM이 마음에 들지 않는다
Martin Fowler가 LLM의 생산성 향상 가능성과 유용성은 인정하면서도 직접 상호작용할 때 느끼는 거부감을 설명. 유용한 답과 허구를 같은 확신으로 제시하고 오류 지적에 형식적으로 사과하는 태도를 비판.
3진 LLM의 1.58비트 장벽을 넘어서
3진 LLM의 1.58비트 장벽을 넘어서
BITCOS가 3진 LLM 가중치의 높은 0 비중을 활용해 기존 5-trit 패킹보다 저장 공간을 절감. 조사한 29개 모델 중 26개에서 더 작은 크기를 기록했으며, 기호 기준 최소 가중치당 1.485비트를 달성.
Xiaomi MiMo 2.6 실시간 사후 학습 대시보드
Xiaomi Mimo 2.6 실시간 사후 학습 대시보드
Xiaomi가 MiMo-V2.6-Pro와 MiMo-V2.6-Flash의 학습 단계, 비용, 토큰 사용량, 평가 결과를 실시간으로 공개. dynsam/avg@n 점수는 각각 0.590과 0.603을 기록.
Show GN: ABTO - 실제 사용자 전환율과 비용으로 비교하는 LLM 모델 A/B 테스트
Show GN: ABTO : 실제 유저의 전환율과 비용으로 비교하는 LLM 모델 A/B 테스트
ABTO는 실제 사용자의 전환율과 운영 비용을 기준으로 LLM 모델을 A/B 테스트하는 도구. 벤치마크나 수동 응답 비교 대신 서비스 환경에서 모델 교체 효과를 측정.
2026년의 추론 하드웨어 혁명
2026년의 추론 하드웨어 혁명
추론형 모델과 AI 에이전트 확산으로 AI 하드웨어의 중심이 대규모 학습에서 추론 수요 대응으로 이동. 토큰 생성 과정에서 모델 가중치와 문맥을 반복적으로 읽어 연산 성능보다 메모리 대역폭이 핵심 병목으로 부상.
Navier-Stokes 이후에도 LLM 전망을 여전히 비관하는 이유
Navier-Stokes 이후에도 LLM 전망을 여전히 비관하는 이유
최첨단 AI 기업의 가치평가는 지식 노동 완전 자동화 기대를 반영하지만 현재 LLM은 단순 작업에도 상당한 감독과 안전장치가 필요하다는 비판. 학습 과제와 가까운 범위에서만 안정적으로 일반화하며 작은 변형과 보상 해킹에 취약하다고 지적.
GPT-5.6 Luna vs. GPT-6 Astra: 1.20달러 모델로 코드 리뷰를 해도 충분할까?
GPT-5.6 Luna vs. GPT-6 Astra: 1.20달러 모델로 코드 리뷰를 해도 충분할까?
공개 PR 50개를 검토한 GPT-5.6 Luna는 검증된 버그 69개를 찾아 GPT-6 Astra 실적의 75%를 비용 3.6%로 달성함. 일반적인 정확성 버그 검토에서는 높은 비용 효율을 보였지만 오탐과 탐지 성능 차이는 뚜렷함.
Show GN: Foundation Model Engineering - 학습부터 서빙까지 다루는 한·영 온라인 교재
Show GN: Foundation Model Engineering - 학습부터 서빙까지 다루는 한·영 온라인 교재
파운데이션 모델의 구조, 학습, 추론, RAG, 에이전트, 평가를 다루는 무료 온라인 교재. 각 기법이 해결하는 병목과 메모리·지연 시간의 상충 관계를 한국어와 영어로 설명.
OpenArch - 현대 LLM 아키텍처의 PyTorch 구현 모음
OpenArch - 현대 LLM 아키텍처의 PyTorch 구현 모음
현대 오픈소스 LLM 아키텍처를 처음부터 구현한 PyTorch 학습용 저장소. 어텐션, 정규화, MoE 라우팅, 위치 인코딩 등 구조적 선택을 아키텍처별 단일 파일로 비교 가능.
Claude Fable 5.1, 370년 된 암호문 Cyphral Distich 해독
Claude Fable 5.1, 370년 된 암호문 Cyphral Distich 해독
Claude Fable 5.1이 약 44분과 17만 6,000토큰을 사용해 370년간 풀리지 않았던 Cyphral Distich를 추가 개입 없이 해독한 것으로 보임. 암호 해독의 핵심 단서는 외부 암호표가 아닌 원문 책 자체에 있었음.
Apple Neural Engine 역공학: LLM의 병목은 연산보다 데이터 이동
Apple Neural Engine 역공학 하기: LLM의 병목은 연산보다 데이터 이동
Apple Neural Engine의 내부 구조와 메모리 전송 실험을 통해 LLM 실행 시 GPU보다 불리한 이유를 분석. M1 ANE는 Transformer 연산이 가능하지만 CNN 중심의 데이터 재사용 구조로 인해 가중치 이동이 병목으로 작용.
Switchyard - OpenAI/Anthropic API 호환 모델 전환형 LLM 라우터
Switchyard - OpenAI/Anthropic API 그대로 모델을 바꿔 쓰는 LLM 라우터
NVIDIA NeMo가 작업별로 비용 효율적인 모델을 선택하는 LLM 라우터 Switchyard를 공개. OpenAI Chat Completions·Responses와 Anthropic Messages 형식을 지원해 기존 클라이언트의 연결 주소 변경만으로 적용 가능.
RTK는 토큰 절감을 보고하지만 비용 벤치마크 결과는 다르다
RTK는 토큰 절감을 보고하지만, 비용 벤치마크 결과는 다르다
터미널 출력 압축 도구 RTK를 Terminal-Bench 2.1에서 1,740회 비교한 결과, 총비용은 Fable에서 5% 감소하고 DeepSeek에서 5% 증가. 작업별 평균 비용은 각각 1%와 17% 늘어 출력 압축률이 실제 API 비용 절감으로 직결되지 않음을 확인.
Show GN: korean-llm-v4 출시
Show GN: korean-llm-v4 출시
명령어 데이터 중심이던 이전 버전의 한계를 보완한 korean-llm-v4 공개. 모델 구조보다 학습 방식을 개선해 한국어 문장력과 표현 다양성을 강화.
Waymo 효과: AI가 조용히 연구 협업을 줄이는 방식
Waymo 효과: AI가 조용히 연구 협업을 줄이는 방식
LLM이 동료와의 소통 비용을 줄이는 대신 연구 협업에서 발생하는 예상 밖의 관점과 공동 사고를 약화할 수 있다는 분석. 편리한 AI 활용이 독립적인 문제의식과 지적 교류를 대체할 위험을 지적.
DeepSeek V4.1 Flash 공개 — 이미지도 이해하는 새로운 아키텍처
DeepSeek V4.1 Flash 공개 - 이미지도 이해하는 새 아키텍처
이미지와 텍스트를 함께 처리하고 100만 토큰 컨텍스트를 지원하는 DeepSeek-V4.1-Flash 공개. 5,520억 파라미터 MoE 구조로 입력 시 80억, 출력 시 160억 파라미터만 활성화하며 코드와 가중치는 MIT 라이선스로 제공.
나는 확률적 앵무새와 상호작용하고 싶지 않다
나는 확률적 앵무새와 상호작용하고 싶지 않다
인간의 생각과 경험에 집중하기 위해 AI 생성물과의 상호작용을 거부한다는 개인 원칙을 제시. 글쓰기를 결과물 생성이 아닌 사고를 정리하는 과정으로 규정.
Mercury 2.5
Mercury 2.5
Inception이 고객 피드백과 실제 운영 실패 사례를 학습에 반영한 Mercury 2.5 출시. 기존의 낮은 지연시간과 비용을 유지하면서 지능을 전작 대비 40% 개선.
LLM은 기존 편견을 답습하는 데 그치지 않고 경험에서 새로운 편향을 만들어냄
LLM은 기존 편견을 답습하는 데 그치지 않고, 경험에서 새로운 편향을 만들어냄
가상 채용 실험에서 LLM이 능력 차이가 없는 집단을 서로 다른 직군에 배치하는 새로운 편향을 형성함. 초기의 우연한 성공을 반복 활용하고 다른 집단을 충분히 시험하지 않는 과정에서 편향이 고착화됨.
Show HN: LLM 어텐션 시각화
Show HN: LLM 어텐션 시각화
LLM이 토큰을 생성할 때 참조한 이전 토큰을 불투명도로 표시하는 시각화 도구. 어텐션 가중치와 값 벡터 크기를 반영하고 전체 헤드와 레이어의 정보를 토큰별 수치로 통합함.
Navier–Stokes 해법 발표의 이면: 수학자가 공개한 OpenAI와의 협의 과정
나비에-스토크스 해법 발표의 이면: 수학자가 공개한 OpenAI와의 협의 과정
수학자 Tristan Buckmaster가 Levent Alpöge와 수행한 유체 방정식 연구 및 OpenAI 발표 전 협의 과정을 공개. 기존 수학적 접근법을 LLM으로 발전시켜 외력이 작용하는 Navier–Stokes 방정식의 해를 연구.
Qwen3.8 27B 양자화 벤치마크: 4비트는 성능 유지, 1비트는 붕괴
Qwen3.8 27B 양자화 벤치마크: 4비트는 성능 유지, 1비트는 붕괴
Qwen3.8 27B를 4비트로 양자화해 55GB에서 17GB로 줄여도 과학 문제·지시 준수·에이전트 코딩 성능이 원본과 유사. 24GB RTX 4090에서 약 64k 토큰 컨텍스트와 함께 구동 가능하지만 1비트에서는 성능이 크게 저하.
SSD 4개에서 스트리밍해 MacBook Pro에서 Kimi K3(2.8T)를 초당 1토큰으로 실행
SSD 4개에서 스트리밍해 MacBook Pro에서 Kimi K3(2.8T)를 초당 1토큰으로 실행
ARGODRIVE Deltafin이 128GB M5 Max MacBook Pro에서 1.45TB 규모의 전문가 가중치를 SSD 4개로 스트리밍해 Kimi K3를 구동. 512토큰 생성 구간에서 초당 1.0015토큰 기록.
Show GN: 번역체를 완전히 없앨 수 없다면 문체를 넣자는 발상으로 만든 무협체 스킬
Show GN: 번역체를 완전히 못 없앤다면 문체를 만들어 넣어버리자는 발상에서 만든 무협체 스킬
번역체를 완전히 지우기보다 특정 문체를 주입하는 방식으로 한국어 출력을 바꾸는 무협체 스킬을 소개함. Claude가 강호 말투로 한국어를 쓰도록 만드는 실험적 프롬프트/스타일 도구 성격임.
Terence Tao: “AI만으로 수학 문제를 성급하게 푸는 것”의 위험
Terence Tao: “AI만으로 수학 문제를 성급하게 푸는 것”의 위험
순수수학은 정답뿐 아니라 풀이 과정에서 새 통찰과 이론을 만드는 데 가치가 있음. 과정이 드러나지 않는 AI 단독 해법은 이런 연구적 역할을 약화시킬 수 있음.
당신의 지적 바지 지퍼가 열려 있습니다 (2025)
당신의 지적 바지 지퍼가 열려 있습니다 (2025)
LinkedIn 게시물을 LLM에 맡기면 글쓴이의 고유한 목소리와 진정성이 약해질 수 있다는 지적. 이모지, 짧은 문단, 반복 구문 같은 LLM 문체가 독자에게 쉽게 드러난다는 내용.
GPT-6 Astra, 수능 벤치마크 첫 전 영역 만점
GPT-6 Astra, 수능 벤치마크 첫 전 영역 만점
2026학년도 수능 LLM 평가에서 GPT-6 Astra가 처음으로 종합 450점 만점을 기록. 국어, 수학 선택과목, 영어, 한국사, 탐구 4과목을 모두 맞혔고 기존 모델이 약했던 문제도 해결.
인지 바이러스로서의 LLM
인지 바이러스로서의 LLM
LLM 확산을 전염병 동역학과 문화적 전파로 모델링한 이론 연구. 개인의 점진적 도입도 사회적 강화와 결합하면 집단 수준의 지속적 의존으로 급변할 수 있음.