전체 글 (3) 썸네일형 리스트형 상호정보량과 경사하강법으로 본 AI 내부 모델, 지능은 압축이다 2편 AI의 암기와 추론은 같은 원리에서 나오고, 달라지는 것은 규모뿐이라고 글쓴이는 봅니다.상호정보량과 경사하강법으로 풀어 본 AI 내부 모델피닉스 인(Phoenix Yin)은 2026-09-16 엑스에 중국어 장문을 올려 지능을 하나의 순환으로 설명했습니다. 세상을 관찰하고, 관찰한 내용을 압축해 내부 모델을 만들고, 그 모델로 예측해서 세상을 바꾼다는 순환입니다. 이 글은 DeepPulse 쇼츠 「지능은 결국 압축이다」 2편을 옮긴 상세판이며, 상호정보량과 경사하강법을 중심으로 인공지능 신경망 안에 무엇이 남는지 정리합니다.시리즈는 3편으로 나뉘며, 2편은 이 순환 가운데 내부 모델을 다룹니다.머신러닝이 배울 거리는 변수 사이의 관계에 있습니다글쓴이는 1편에서 세상에 규칙이 있어야 배울 수 있다고 했고,.. 지능은 압축이다 1편: 매니폴드 가설과 콜모고로프 복잡도로 본 AI 학습 규칙이 있는 100만 자는 gzip으로 1005바이트까지 줄고, 무작위 데이터는 줄지 않습니다.지능은 압축이다: 머신러닝이 데이터를 외우지 않는 이유이 글은 시리즈 「지능은 결국 압축이다」 1편을 정리합니다. 인공지능이 데이터를 외우지 않고 압축해서 배운다는 주장을 매니폴드 가설과 콜모고로프 복잡도로 설명하고, 쇼츠에 넣지 못한 근거와 반론을 덧붙입니다.원문은 스스로 22세라고 밝힌 피닉스 인(Phoenix Yin)이 2026년 9월 16일 엑스에 중국어로 올린 장문입니다. 글쓴이는 지능을 관찰하고, 압축해서 내부 모델을 만들고, 예측해서 세상을 바꾸는 순환으로 보며, 1편은 그중 관찰과 압축을 다룹니다.매니폴드 가설: 의미 있는 데이터는 좁은 영역에 몰려 있습니다사진 한 장은 픽셀 수백만 개로 이루어지.. Claude Code·Codex 토큰 비용 줄이는 오픈소스 Sprag: 싼 모델에 맡길 일은 맡기자 (설치, 요금, 팀 대시보드 영상) 같은 하루 작업, Sprag를 켜면 $6.68이 $1.83이 됩니다.Claude Code와 Codex의 단순 작업을 싼 모델에 맡기는 오픈소스 CLI입니다.npm i -g sprag-cli왜 줄어드나세션 기록을 열어 보면 비싼 모델이 한 일 가운데 상당수는 파일 위치 찾기, 상태 확인, 빌드와 테스트 실행처럼 더 싼 모델로도 충분한 작업입니다.Sprag는 에이전트가 이미 남기는 세션 기록을 읽어 위임 규칙을 만들고, 싼 모델이 한 번도 틀린 적 없는 작업 유형은 그 모델로 고정한 서브에이전트에게 맡깁니다. 메인 세션의 모델은 그대로라서 프롬프트 캐시도 유지됩니다. 위 영상은 같은 요청을 두 터미널에서 하루 동안 돌린 예시이며, 공개 단가로 계산했습니다.Sprag가 해 주는 네 가지1. 내 기록에서 뽑는 .. 이전 1 다음
