검색 결과

25년간의 대규모 감시, 이제는 끝낼 때

25 years of mass surveillance is enough

9·11 이후 표적 감시가 정부와 민간의 대규모 감시 체계로 확대됐다고 비판. 데이터 브로커와 AI 기술이 법 집행기관의 개인정보 수집·분석 역량을 더욱 강화하고 있다고 지적.

AI는 도구이며, 잘 쓰려면 숙련이 필요하다

AI is a tool and using it well takes skill

AI를 도구로 활용하는 데도 사용자의 판단력과 숙련이 중요하다는 관점을 다룸. 효과적인 활용은 도구 자체보다 사용 방식에 달렸다고 설명함.

수학 분야에서 나타난 AI의 목표 불일치

A misalignment of AI in mathematics

수학자들이 AI 기업의 문제 풀이 중심 경쟁이 개념적 이해와 연구 공동체의 목표를 훼손할 수 있다고 경고함. 성급한 결과 발표, 출처 표시, 표절, 인간 중심의 지식 전승 문제를 시급한 과제로 제시.

수학이 증명 이상이라면, 나머지 기여도 더 제대로 인정해야 한다

If math is more than proof, we need to better celebrate the rest of it

Grant Sanderson가 수학의 진전을 증명만으로 평가하지 말고 문제 제기, 직관, 설명, 아이디어 연결 같은 기여도 인정해야 한다고 주장. AI가 증명 생성에 관여하는 시대일수록 이러한 비증명 활동의 가치와 보상 체계를 재정립할 필요성을 제기.

미안하지만, 여전히 직접 생각해야 한다

I'm sorry, but you still have to think

기사 본문을 확인하지 못해 구체적인 주장을 검증할 수 없음. 제목상 AI 사용 중에도 사용자의 판단과 사고가 필요하다는 주제로 보임.

초대형 지능

Extra Big Ass Intelligence

Extra Big Ass Intelligence를 소개하는 웹사이트. 제공된 기사 정보에는 프로젝트의 기능이나 기술적 세부 내용이 포함되지 않음.

AI 과잉 의존이 이란 학교 미사일 공격에 영향 – Pentagon

Overreliance on AI contributed to missile strike on Iran school – Pentagon

Pentagon 내부 조사에서 결함 있는 정보, 오래된 이미지, AI 기술 과잉 의존이 이란 Minab 학교 오폭에 영향을 준 것으로 파악. Tomahawk 미사일 2발로 어린이 최소 123명을 포함해 150명 이상 사망.

나는 LLM을 좋아하지 않는다

I Don't Like LLMs

Martin Fowler가 LLM의 생산성과 유용성은 인정하면서도 자신감 있는 허위 답변, 인위적인 말투, 개발 기업의 가치관이 반영된 행동을 비판함. 기술 활용의 필요성과 신뢰·호감 부족이 공존한다고 설명함.

AI를 활용한 하드웨어 역설계

Using AI to reverse engineer hardware

AI를 활용해 하드웨어의 구성과 동작을 역으로 파악하는 접근법을 다룸. 구체적인 방법과 결과는 제공된 입력에 포함되지 않음.

내가 Fields Medal 수상자들의 서한에 서명하지 않은 이유

Why I didn’t sign the Fields medallists’ letter

Timothy Gowers가 AI의 수학 문제 해결이 초래할 위기에는 동의하면서도, 개념적 이해를 문제 해결보다 우선시하는 서한의 관점에는 이견을 제시. 핵심 위험으로 결과의 양산보다 인간 수학자의 동기 약화와 수학 전통을 계승할 인력 감소를 지목.

AI의 빠른 사고와 느린 사고: 메타인지의 역할 (2021)

Thinking fast and slow in AI: The role of metacognition (2021)

AI 시스템에서 빠르고 직관적인 처리와 느리고 숙고적인 추론을 조정하는 메타인지의 역할을 분석. 인간의 이중 처리 이론을 AI 설계에 적용하는 방향을 논의.

생각하기는 취미가 될 것이다

Thinking will become a hobby

자동화와 AI 확산으로 인간의 사고 활동이 일상적인 의무보다 선택적 취미에 가까워질 수 있다는 관점을 제시함. 기술 변화가 사고와 노동의 가치를 어떻게 바꿀지 논함.

"완전 AI 같아" Gen Alpha의 대표적 모욕이 보여주는 것

'That's so AI ' What gen Alpha's biggest insult tells us

Gen Alpha 사이에서 "AI 같다"는 표현이 부자연스럽고 진정성 없다는 의미의 모욕으로 사용되는 현상 조명. 생성형 AI 확산이 젊은 세대의 언어와 진정성 판단에 미친 영향을 분석.

모두가 제정신을 잃었다

Everybody's Lost Their Minds

AI 도입 열풍이 검증되지 않은 ROI, 윤리·환경 문제, 엔지니어링 역량 저하를 초래한다는 비판. AI 기반 취약점 탐지보다 자산 관리와 자동 업데이트 등 기본 보안 운영이 더 중요한 병목이며, 과도한 AI 의존은 복잡한 시스템의 이해와 디버깅 능력을 약화한다고 주장.

Frog and Toad와 갈수록 유능해지는 기계

Frog and Toad and the Increasingly Capable Machines

Frog and Toad를 소재로 AI 시스템의 빠른 성능 향상과 그 의미를 살펴보는 글. 갈수록 유능해지는 기계가 인간의 창작물과 관계 맺는 방식을 조명.

수학 이후

After Math

AI가 난제를 해결하더라도 형식적으로 인증된 답만으로는 인간이 이해하고 활용할 수 있는 수학적 증명이 완성되지 않는다는 논지. 수학은 문제 해결뿐 아니라 개념 형성, 이해와 지식 확장까지 포함하므로 AI의 성취가 수학의 종말을 뜻하지 않는다고 주장.

Hacker News가 제시한 AI 과제 중 달성된 항목 투표

Vote on which of Hacker News' challenges for AI have been met

Hacker News 이용자들이 과거 AI에 제시했던 도전 과제를 모아 현재 달성 여부를 투표하는 Goalposts 프로젝트. 커뮤니티 평가 결과도 별도 페이지에서 공개.

누구도 섬이 아니다

No Man Is an Island

개인의 지적 활동은 인간 공동체와의 교류를 통해 유지되며, AI가 이러한 공동체를 약화시키면 사적인 학습과 창작도 감소한다는 주장. 소프트웨어 분야에서 담론의 질과 인간 역량 형성, 오픈소스 기여 동기가 함께 쇠퇴하고 있다고 분석.

수학과 Artificial Intelligence 자문 그룹

The Advisory Group on Mathematics and Artificial Intelligence

수학과 AI의 접점에서 기회와 위험을 검토하는 자문 그룹을 소개. AI가 수학 연구와 교육에 미치는 영향을 논의.

애도할 것인가, 애도하지 않을 것인가?

To grieve, or not to grieve?

AI가 난도 높은 수학 문제를 해결하기 시작하면서 수학계가 부정·분노·협상·우울 등 상반된 반응을 보이는 현상을 분석. 인간의 수학적 이해와 AI 생성 증명의 역할을 함께 고찰.

Demis Hassabis, AI를 안전하게 활용하기 위한 계획 제시

Demis Hassabis has a plan to harness AI safely

Demis Hassabis가 AI를 안전하게 활용하기 위한 접근과 방향을 제시함. 고도화되는 AI의 위험을 줄이면서 실용적 이점을 확보하는 데 초점.

Artificial Intelligence and Mathematics에 관한 Leiden Declaration

Leiden Declaration on Artificial Intelligence and Mathematics

수학 분야에서 AI 활용과 한계를 다루는 선언문. AI를 연구 도구로 쓰는 원칙과 책임 있는 사용 기준을 제시함.

11개 정사각형 최적 배치에 대한 AI 보조 증명

AI-assisted proof of optimal packing for 11 squares

11개 정사각형의 최적 배치 문제에 대한 AI 보조 증명을 형식화한 프로젝트. 증명 과정과 검증 가능한 결과물을 GitHub에 공개.

수학의 미래

The Future of Mathematics

AI가 기존 기법을 조합해 수학 문제를 빠르게 해결하면서 연구와 교육의 역할이 변화하고 있다고 진단. 수학자는 더 어려운 문제와 큰 개념을 탐구하고, 인간에게 중요한 연구 방향과 가치를 선택해야 한다고 제안.

인공지능, 일부 최상위 인간 예측가를 앞서다

Artificial intelligence now beats some of the best human forecasters

AI 시스템이 일부 예측 과제에서 최고 수준의 인간 예측가보다 높은 성과를 기록. 정보 종합과 확률 추정 능력이 빠르게 향상되고 있음을 시사.

인공 지능은 의식이 아니다 - Ted Chiang

Artificial intelligence is not conscious – Ted Chiang

Ted Chiang이 AI의 의식 주장에 반대하며 현재의 인공지능은 의식적 존재로 볼 근거가 없다고 지적. AI에 대한 과장된 서사를 경계하는 논지.

우리는 대체 왜 이 모든 일을 하는가?

우리는 대체 왜 이 모든 일을 하는가?

AI가 만든 결과물의 양을 늘리는 일이 인간의 이해보다 앞서는 연구 문화를 풍자함. 과학과 수학을 하는 목적을 되묻고, OpenAI의 수학 문서 대량 공개 사례도 언급함.

Simons Foundation, 수학자의 AI 시대 대응을 돕는 약 225억 원 규모 지원 사업 출범

Simons Foundation, 수학자의 AI 시대 대응을 돕는 약 225억원 규모 지원 사업 출범

Simons Foundation, Anthropic, OpenAI가 수학계의 AI 활용과 변화 대응을 위해 총 1,500만 달러 규모의 자금·자원을 지원함. 공개 제안 공모를 통해 지원금을 배분하고 AI 보조 연구 평가와 신규 도구 개발을 뒷받침할 예정.

우리가 AI를 금지하는 이유

우리가 AI를 금지하는 이유

Current Affairs는 새 노조 계약에 따라 잡지에 AI 생성 글과 삽화를 싣지 않기로 함. 금지 대상은 모든 AI 도구가 아니라 인간 창작물을 대체하는 생성물이며, 조사 등 보조 용도는 허용됨.

State of AI 2026 — AI가 AI를 개발하는 시대, 추론 산업과 물리 AI의 부상

State of AI 2026 - AI가 AI를 개발하는 시대, 추론 산업과 물리 AI의 부상

AI가 소프트웨어·과학 연구를 수행하고, AI 개발 과정에도 참여하기 시작함. Anthropic 내부 지표에서 사람이 감독하는 Claude 주도 모델 R&D 업무 비중은 2월 1% 미만에서 8월 26%로 증가했으며, 에이전트 성능은 모델뿐 아니라 도구와 작업 환경에도 좌우됨.

생각은 취미가 될 것이다

생각은 취미가 될 것이다

AI가 인지 노동의 상당 부분을 맡으면서 인간의 사고가 경제적 목적에서 분리돼 여가 활동으로 바뀔 수 있다는 전망. 성능 향상·비용 절감·가용성 확대가 인간 노동의 대체와 보완을 촉진하는 요인으로 제시됨.

Clojure 창시자 리치 히키: AI는 도구가 아니라 자동화다

Clojure 창시자 Rich Hickey: AI는 도구가 아니라 자동화다

리치 히키는 도구가 사람의 직접 통제 아래 작동하는 반면, LLM은 요청을 받은 뒤 인간의 직접 통제 없이 작동하는 자동화라고 구분함. 도구 사용은 기술과 감각적 피드백을 통해 숙련을 쌓지만, LLM에는 좋은 도구의 이런 특성이 부족하다고 지적함.

Kevin Kelly의 2016년 AI 예측, 10년 후

Kevin Kelly의 2016년 AI 예측, 10년 후

Kevin Kelly는 2016년 AI가 검색을 넘어 핵심 제품이 되고 일상에 저렴한 기반 서비스로 자리 잡을 것으로 전망함. 2026년에는 검색보다 AI가 주력 서비스가 될 수 있다는 관점을 제시함.

Terence Tao: 수학 2.0 [PDF

Terence Tao: 수학 2.0 [PDF]

] Terence Tao는 전통적으로 드물었던 수학적 증명이 AI 투자와 도구 발전으로 풍부해지는 시대가 열리고 있다고 설명함. 수학의 객관적 검증 가능성, 디지털화 용이성, 고품질 데이터가 AI 기반 문제 풀이의 토대가 됨.

AI를 10분만 사용해도 어려운 일을 끈기 있게 해내는 능력이 약해짐

AI를 단 10분만 사용해도 어려운 일을 끈기 있게 해내는 능력이 약해짐

참가자 1,222명을 대상으로 한 무작위 대조 실험에서, 약 10분간 AI에 의존한 집단은 지원 중단 후 어려운 과제를 지속하는 능력과 정답률이 낮아짐. 분수 문제에서는 ChatGPT 사용 집단의 초기 정답률이 높았지만, 도구 제거 후 오답을 내거나 과제를 포기하는 사례가 늘어남.

집단지능을 통한 재귀적 자기 개선

집단지능을 통한 재귀적 자기개선

MASS는 동일 모델이 작업 실행자·워크플로 최적화기·평가자 역할을 맡아 에이전트 팀의 협업 방식을 개선함. 선별한 팀 실행 기록으로 모델을 재학습해 자기 개선을 반복하며, 내부 루프에서는 모델 가중치를 고정한 채 에이전트 간 협업을 최적화함.

AI에 관해 ‘불가피하다’고 할 만한 것은 거의 없음

AI에 관해 ‘불가피하다’고 할 만한 것은 거의 없음

LLM이 존속하는 것과 모두가 도입해야 하는 것은 별개라는 주장. 대체 수단보다 품질이 높고 사회적 필요와 압도적 성능 우위가 있어야 도입이 불가피하다고 볼 수 있음.

Hacker News가 AI에 제시한 도전 과제 중 달성된 항목 투표

Hacker News가 AI에 제시한 도전 과제 중 무엇이 달성됐는지 투표하기

과거 Hacker News에서 제시된 AI 도전 과제의 달성 여부를 투표로 평가. 암기와 지능의 관계처럼 검증하기 어려운 주장도 함께 지적.

Anthropic의 IPO 투자설명서에 담긴 AI 비전과 급증하는 비용

Anthropic의 IPO 투자설명서에 담긴 AI 비전과 급증하는 비용

Anthropic의 2025년 매출은 전년 대비 12배 증가한 약 46억 달러를 기록했지만 영업손실은 약 80억 달러에 달함. AI의 장기적 경제 영향력을 강조하며 대규모 컴퓨팅 투자를 추진.

AI는 어떻게 여기까지 왔고 어디로 가는 중인가

AI는 어떻게 여기까지 왔고 어디로 가는 중인가

VC 투자 흐름이 마켓플레이스·버티컬 SaaS 중심에서 AI와 하드 사이언스 기반 딥테크로 이동함. 자본 집약적 기술 분야가 AI 발전과 함께 스타트업 및 투자 시장의 중심으로 부상.

기밀 추산으로 드러난 NSA의 수십억 달러 규모 AI 모델 테스트 지출

기밀 추산으로 드러난 NSA의 수십억 달러 규모 AI 모델 테스트 지출

NSA가 첨단 AI 모델의 평가·테스트에 올해 수십억 달러의 연방 예산을 지출한다고 의원들에게 보고. Artificial Intelligence Security Center가 최첨단 모델의 국가안보 위험과 취약성을 검증하는 데 대규모 자원을 투입.

Google에 작별을 고하며

Google에 작별을 고하며

Google에서 칩 설계 도구를 개발하던 Robert O'Callahan이 AI 발전 가속에 대한 우려로 퇴사 결정. 칩 설계 개선도 AI 성능 향상에 기여하며, 발전 속도가 사회의 이해와 적응 능력을 넘어섰다고 판단.

수학과 인공지능 자문그룹

수학과 인공지능 자문그룹

AI 기업과 수학계의 소통 및 연구 결과의 책임 있는 공개를 지원하는 독립 자문그룹이 Princeton Institute for Advanced Study를 거점으로 출범함. OpenAI 내부 모델이 산출한 주요 수학 연구 결과의 공개 방식과 조율 절차를 자문할 예정.

미 국방부 조사, AI 과잉 의존이 이란 학교 미사일 공격에 일조

미 국방부 조사, AI 과잉 의존이 이란 학교 미사일 공격에 일조

부실한 정보와 오래된 위성영상, AI 분석 과잉 의존으로 이란 Minab의 초등학교를 군사시설로 오인해 공격. 어린이 최소 123명을 포함해 150명 이상 사망.

AI가 스스로 더 나은 AI를 만드는 날은 얼마나 가까웠나?

AI가 스스로 더 나은 AI를 만드는 날은 얼마나 가까웠나?

재귀적 자기개선은 AI가 연구 방향과 목표를 스스로 정하며 더 나은 AI 개발을 반복하는 개념. 현재 모델과 강화학습의 확장만으로 인간 연구자를 넘어설 수 있는지는 아직 불확실함.

록 밴드 Muse, Meta의 새로운 AI 도구에 소셜 미디어 계정명 빼앗겨

록 밴드 Muse, Meta의 새 AI 도구에 소셜 미디어 계정명 빼앗겨

록 밴드 Muse의 X와 Instagram 계정명이 Meta의 동명 개인용 AI 도구 출시와 함께 변경된 것으로 나타남. 팬들은 기존 브랜드보다 거대 기술기업의 신제품이 우선된 정황에 반발함.

KAIST-MS, 뇌파로 ‘그게 아닌데’를 감지해 AI의 목표와 행동을 교정하는 연구 발표

KAIST-MS, 뇌파로 ‘그게 아닌데’를 감지해 AI의 목표와 행동을 교정하는 연구 발표

KAIST와 Microsoft Research Asia 공동연구진이 사람의 뇌파 피드백으로 AI의 목표와 행동을 조정하는 신경 가치 정렬(NVA)을 제안. 겉으로 드러난 행동뿐 아니라 예상과 다른 결과를 인식하는 인간의 신경 반응을 활용해 의도 정렬을 개선.

프로그래밍은 예술이다

프로그래밍은 예술이다

프로그래밍을 제품·수익 창출의 수단으로 보는지, 코드 작성 자체를 즐기는 예술 활동으로 보는지에 따라 AI 수용 태도가 달라진다는 관점. 결과가 목적이라면 구현 주체보다 완성된 제품이 중요하지만, 과정이 목적이라면 직접 코딩하는 행위가 핵심.

Mistral, 30억 유로 투자 유치

Mistral, 30억 유로 투자 유치

Mistral이 Series D에서 30억 유로를 조달해 기업가치 210억 유로를 돌파. Samsung Electronics가 투자를 주도했으며 유럽 기술기업 사상 최대 규모의 지분 투자 유치 기록.