AI by Hand, 손으로 푸는 AI 교육의 반격

손으로 그리는 AI가 다시 주목받는 이유

AI by Hand는 Prof. Tom Yeh가 운영하는 Substack 기반 AI 교육 프로젝트다. 사이트 설명은 간단하다. Math, Algorithms, Architectures, by hand. 최근 피드에는 Multi-Layer Perceptron 시리즈, Linear Algebra 강의, Neural Network 워크북처럼 모델 구조를 단계별 그림과 워크북으로 따라가게 하는 자료가 올라와 있다.

이 흐름이 Hacker News에서 다시 주목받은 이유는 역설적이다. 누구나 ChatGPT, Claude, Gemini에게 설명을 시킬 수 있는 시대가 됐지만, 설명을 들었다는 느낌과 실제로 계산 구조를 이해하는 것은 다르다. AI by Hand는 모델을 블랙박스 권위로 두지 않고 행렬, 레이어, 활성화, head 같은 단위를 손으로 분해한다. 이는 LLM을 잘 쓰기 위한 기초 체력에 가깝다.

LLM은 전문성을 더 크게 보상한다가 말했듯 AI는 초보자와 전문가를 똑같이 올려주지 않는다. AI가 없앤 것은 개발자 중산층이 아니라 피드백 한계다도 같은 질문을 던졌다. 모델이 답을 내놓을수록 사람에게 남는 일은 검산, 문제 재정의, 오류 탐지다.

교육의 초점이 사용법에서 검산력으로 옮겨간다

AI 도구 교육은 빠르게 프롬프트 템플릿과 업무 자동화 강의로 쏠렸다. 물론 실무에는 필요하다. 그러나 조직이 장기적으로 필요로 하는 것은 도구 사용자가 아니라 결과를 판별할 수 있는 사람이다. 추천 시스템이 왜 특정 사용자를 묶는지, MLP가 왜 비선형 결정을 만드는지, attention head가 어떤 정보를 섞는지 감각이 없으면 모델 출력이 그럴듯할수록 위험해진다.

AI by Hand가 제공하는 워크북과 세미나 포맷은 느리지만 강하다. 예를 들어 MLP를 12개 패턴으로 나누는 방식은 모델을 한 번에 외우게 하지 않고 perceptron, wide, deep, encoder, decoder, autoencoder, GAN, two-tower 같은 구조를 반복 가능한 블록으로 보게 한다. 이는 3Blue1Brown의 neural network 시리즈, Distill의 시각적 설명, The Illustrated Transformer가 가진 장점과 닮아 있다.

에이전트 시대의 리터러시는 구조 이해다

AI by Hand는 단순 입문 콘텐츠가 아니다. 피드에는 Frontier AI Software Engineering 세미나도 있고, Nuro의 AI Employees와 autoresearch agents 같은 주제를 다룬 흔적이 있다. 기초 수학과 최신 에이전트 실무를 한 공간에 두는 점이 중요하다. 에이전트는 모델 하나가 아니라 도구 호출, 메모리, 평가, 권한, 사용자 인터페이스가 결합된 시스템이기 때문이다.

개발자가 에이전트를 만들 때도 같은 문제가 반복된다. RAG가 틀린 근거를 잡았는지, 코드 에이전트가 테스트를 실제로 통과했는지, 자동화 에이전트가 권한을 과하게 요구하는지 판단하려면 구조를 알아야 한다. Bonsai, 에이전트 UI가 배워야 할 상태 기계는 상태 모델의 중요성을, ORCA-bench, 온콜 에이전트의 현실 점수를 공개하다는 운영 평가의 중요성을 보여줬다.

한국 교육 시장에서는 AI 활용 강의가 빠르게 상품화됐다. 하지만 대학, 부트캠프, 사내 교육이 다음 단계로 가려면 결과 중심 교육만으로 부족하다. 모델의 내부 구조, 데이터 흐름, 평가 지표를 직접 만지는 커리큘럼이 있어야 한다.

한국 기업이 사내 교육에 적용할 부분

기업은 모든 직원에게 딥러닝 수학을 깊게 가르칠 필요는 없다. 그러나 역할별 최소 이해 기준은 필요하다. 기획자는 모델이 못하는 일을 알아야 하고, 개발자는 실패 모드를 재현해야 하며, 법무와 보안은 데이터 흐름과 권한 범위를 읽어야 한다. AI by Hand식 시각 자료와 워크북은 이 역할별 이해를 만드는 데 좋다.

실무 교육은 세 단계가 적절하다. 첫째, MLP와 attention 같은 핵심 구조를 손으로 따라간다. 둘째, 같은 구조가 API, 벡터 검색, 도구 호출에서 어떻게 추상화되는지 연결한다. 셋째, 실제 회사 데이터로 오류 사례를 검산한다. 이 방식은 최신 도구 이름이 바뀌어도 남는 학습이다.

자주 묻는 질문

Q1: AI by Hand는 초보자용인가요?

A: 초보자에게도 유용하지만, 이미 도구를 쓰는 개발자와 기획자가 구조를 재확인하는 데 더 큰 가치가 있다.

Q2: 왜 손계산이 필요한가요?

A: 손으로 작게 계산해 봐야 모델이 어떤 가정을 하고 어디서 오류가 날 수 있는지 감각이 생긴다.

Q3: LLM에게 설명을 시키면 충분하지 않나요?

A: 설명은 출발점이다. 하지만 중요한 결정에서는 사람이 근거, 계산, 데이터 흐름을 검산할 수 있어야 한다.

Q4: 한국 사내 교육에 어떻게 넣을 수 있나요?

A: 직무별로 MLP, attention, RAG, 평가 지표의 최소 이해 과정을 만들고 실제 회사 실패 사례와 연결하는 방식이 좋다.

Q5: 가장 중요한 교육 목표는 무엇인가요?

A: AI를 잘 믿는 법이 아니라 잘 의심하는 법이다. 구조 이해는 그 의심을 생산적으로 만드는 도구다.