검색 결과

GLM은 자체 추론 인프라를 어떻게 구축했나

How GLM built its own inference infrastructure

GLM-5.3 기반 Infra Agent가 정확성 테스트·실행 추적·microbenchmark를 활용하는 ‘dense feedback’ 방식으로 자체 추론 시스템을 최적화. KV transfer 병목을 줄이고 kernel 중복 연산을 제거해 특정 구현에서 1.71배 성능 향상 달성.

Nvidia는 AI의 중앙은행이다

Nvidia is the central bank of AI

Nvidia가 AI 인프라 투자 보증과 고객 금융 지원을 확대하며 산업의 핵심 자금 공급자로 부상. 수요 둔화와 칩 가격 하락 시 고객 지원 계약이 대규모 손실로 이어질 위험.

OpenRouter, 시리즈 B로 1억 1,300만 달러 조달

OpenRouter raises $113M Series B

OpenRouter가 시리즈 B 라운드에서 1억 1,300만 달러를 유치함. AI 모델 라우팅·접근 인프라 사업 확장을 위한 자금 확보로 해석됨.

Open-weight AI, Kubernetes의 순간을 맞다

Open-weight AI is having its Kubernetes moment

오픈 웨이트 AI 생태계가 Kubernetes 초창기처럼 표준화와 운영 복잡성의 분기점을 맞고 있다는 분석. 배포와 운영 도구의 중요성이 커지는 흐름.

Google, xAI 데이터센터의 compute capacity에 대해 SpaceX에 월 9억2000만 달러 지급

Google to pay SpaceX $920M a month for compute capacity at xAI data centers

Google이 xAI 데이터센터의 compute capacity 확보에 월 9억2000만 달러를 SpaceX에 지급하는 계약이 보도됨. 대형 AI 인프라 수요가 클라우드 외부 파트너십까지 밀어올림.

Nvidia, OpenAI 인프라 파이낸싱 보장 규모 대폭 축소

Nvidia dramatically reduces amount of OpenAI infra financing it may guarantee

Nvidia가 OpenAI 데이터센터 관련 보장형 파이낸싱 규모를 크게 줄인 것으로 전해짐. 대규모 AI 인프라 자금조달에 대한 시장 기대를 낮추는 신호로 해석됨.

데이터센터 붐을 정당화하려면 AI에 연간 6조 달러 매출 필요

AI needs $6T in annual revenue to justify data centre boom

Bain은 세계 AI 산업이 데이터센터 투자를 정당화하려면 2031년까지 연간 6조 달러의 매출을 올려야 한다고 분석. 기존 AI 서비스 예상 매출을 제외하면 로보틱스·신약 개발 등에서 4조2천억 달러의 신규 매출 창출 필요.

공유지의 비극, AI 버전

The tragedy of the commons, AI edition

AI 확산이 공유 자원과 인프라에 부담을 주는 구조를 다룸. 개인의 이익은 커지지만 비용은 분산되는 전형적 공유지 문제를 AI 산업에 대입함.

유럽은 보유한 컴퓨트만으로 frontier AI model을 학습할 수 있나

Can Europe train a frontier AI model on the compute it owns?

유럽이 자체 보유 컴퓨트만으로 최전선 AI model을 학습할 수 있는지 다루는 EUromesh 프로젝트가 소개됨. 유럽 내 분산 학습 역량과 인프라 자립 가능성을 점검하는 내용.

Moonshot의 Kimi, Alibaba의 2만 개 Nvidia 칩 클러스터 활용

Moonshot’s Kimi uses 20k Nvidia chip cluster from Alibaba

중국 AI 스타트업 Moonshot의 Kimi가 Alibaba의 2만 개 Nvidia 칩 클러스터를 기반으로 구축된 것으로 전해짐. 대규모 인프라 확보가 최상위 모델 경쟁의 핵심 변수로 부상.