AI 회의론도 예측 성적표가 필요하다

AI 논쟁의 다음 단계는 감정이 아니라 기록이다

Dan Luu의 글은 유명 AI 회의론자 Ed Zitron의 과거 예측이 얼마나 맞았는지 검토한다. 글의 결론은 단순한 인신 비판이 아니다. "AI는 곧 한계에 부딪힌다", "대형 기술 기업은 성장 동력을 잃어 AI에 매달린다", "주요 AI 기업은 붕괴한다" 같은 강한 주장이 실제 재무 수치와 제품 성능 변화 앞에서 얼마나 버텼는지 보자는 제안이다.

이 글이 Hacker News에서 주목받은 이유는 AI 찬반 구도가 피로해졌기 때문이다. 낙관론자는 모든 데모를 혁명이라고 부르고, 회의론자는 모든 실패를 사기라고 부른다. 하지만 기업과 개발자는 둘 중 어느 진영에도 그대로 기대기 어렵다. 예산, 채용, 제품 일정, 보안 정책은 감정이 아니라 관측 가능한 근거 위에서 결정해야 한다.

빌 게이츠의 AI 격변론, 낙관보다 전환 관리가 핵심은 낙관과 공포보다 전환 관리가 중요하다고 봤다. Dan Luu의 글은 같은 메시지를 담론 방식에 적용한다. 말이 맞았는지, 왜 맞았는지, 틀렸다면 어떤 근거가 흔들렸는지를 기록해야 한다.

숫자는 근거가 아니라 연결 방식이다

Dan Luu는 Zitron이 Meta, Google, Microsoft가 "죽어가고 있다"는 식의 주장을 펼쳤지만, 실제 매출과 영업이익 흐름은 그 주장과 맞지 않는다고 지적한다. 글에 따르면 Meta는 2023년 1,350억 달러 매출에서 2025년 2,010억 달러로 성장했고, 2026년 상반기에도 1,170억 달러 매출을 기록했다. Alphabet과 Microsoft 역시 비슷하게 매출과 이익이 커졌다.

물론 큰 회사가 성장한다고 해서 AI 투자 전체가 합리적이라는 뜻은 아니다. 데이터센터 지출, 감가상각, 제품별 수익성, 보조금성 가격 정책은 따로 봐야 한다. 하지만 "성장이 막혀서 마지막 수단으로 AI를 밀어 넣는다"는 주장은 숫자와 연결돼야 한다. Meta investor relations, Alphabet investor relations, Microsoft investor relations 같은 1차 자료를 보면 담론의 톤과 기업의 실제 재무 구조가 다를 수 있다.

예측 가능성이 없는 주장은 책임도 없다

AI 담론에서 자주 보이는 문제는 예측이 너무 미끄럽다는 점이다. "곧 붕괴한다"는 말은 언제, 어떤 지표가, 어느 수준으로 내려가면 맞는지 정하지 않으면 거의 반박 불가능하다. 회사가 돈을 더 조달하면 "붕괴를 미뤘을 뿐"이라고 말할 수 있고, 비용이 줄면 "가격 덤핑"이라고 말할 수 있다. 이렇게 되면 주장은 분석이 아니라 세계관이 된다.

예측 평가에는 Brier score처럼 확률 예측을 평가하는 방법도 있다. 중요한 것은 복잡한 수식보다 태도다. 날짜, 확률, 관측 지표, 판정 조건을 남기면 틀렸을 때 배울 수 있다. 반대로 강한 단어만 남기면 독자는 흥분하지만 조직은 나아지지 않는다.

AI 워터마크, 사용자는 거의 구분하지 못했다는 AI 신뢰 논쟁에서 신호가 실제 사용자 판단으로 이어지는지 봐야 한다고 했다. AI 회의론도 마찬가지다. 숫자를 인용했다는 사실이 아니라, 그 숫자가 주장과 어떻게 연결되는지가 검증돼야 한다.

한국 기업에는 담론보다 의사결정 체계가 필요하다

한국 기업과 공공기관은 AI 도입을 논할 때 종종 두 극단 사이를 오간다. 한쪽은 모든 부서에 AI를 넣어야 한다고 말하고, 다른 한쪽은 비용과 환각을 이유로 대부분을 금지하려 한다. 둘 다 위험하다. 필요한 것은 작은 예측을 만들고, 실제로 측정하고, 다음 예산에 반영하는 체계다.

예를 들어 고객센터 요약 기능이라면 처리 시간, 재문의율, 개인정보 마스킹 실패율, 상담원 수정률을 정해야 한다. 코딩 에이전트라면 PR 리드타임, 리뷰 결함률, 테스트 통과율, 토큰 비용, 보안 예외 건수를 봐야 한다. AI 숙제 효과, 시험 성적 하락의 경고는 사용량 자체보다 결과 지표가 중요하다는 점을 교육 영역에서 보여줬다.

이 방식은 회의론을 무시하지 않는다. 오히려 좋은 회의론을 살린다. "이 기능은 ROI가 없다"는 주장은 적절한 지표가 있을 때 강해진다. "이 모델은 특정 업무에서 위험하다"는 주장도 실패 사례와 재현 조건이 있을 때 정책으로 바뀐다.

AI 버블 논쟁의 생산적인 출구

AI에는 분명 과열이 있다. 밸류에이션은 높고, 데이터센터 투자는 거대하며, 일부 제품은 데모보다 실제 가치가 약하다. 그러나 과열을 말하려면 전체 기술의 무용함과 개별 투자 실패를 구분해야 한다. 인터넷 버블이 있었다고 해서 인터넷이 사라진 것은 아니며, 모바일 앱 거품이 있었다고 해서 스마트폰 생태계가 무가치했던 것도 아니다.

Dan Luu의 글은 특정 논객의 승패보다 더 넓은 문제를 건드린다. AI 시대에는 모델뿐 아니라 AI에 대해 말하는 사람도 평가 대상이 된다. 누가 강하게 말했는지가 아니라, 누가 검증 가능한 예측을 남겼는지, 누가 틀렸을 때 모델을 고쳤는지가 신뢰의 기준이 된다.

자주 묻는 질문

Q1: 이 글은 AI 회의론을 반박하는 글인가요?

A: 부분적으로는 그렇지만 핵심은 회의론 자체보다 예측의 품질입니다. 회의론도 날짜와 지표가 있는 주장으로 남아야 가치가 있습니다.

Q2: 대형 기술 기업 매출이 늘면 AI 투자가 모두 옳다는 뜻인가요?

A: 아닙니다. 기업 전체 성장과 AI 투자 수익성은 별개입니다. 다만 "성장이 막혀 AI에 매달린다"는 주장은 재무 수치와 맞아야 합니다.

Q3: 왜 한국 기업에 중요한가요?

A: AI 도입과 금지 모두 비용이 큽니다. 감정적 찬반보다 업무별 지표와 사후 평가 체계가 예산 낭비를 줄입니다.

Q4: 좋은 AI 회의론은 무엇인가요?

A: 실패 가능성을 구체적으로 제시하고, 판정 기준과 기간을 명확히 하며, 결과가 나오면 자신의 주장을 수정하는 회의론입니다.

Q5: 개인 개발자는 무엇을 배워야 하나요?

A: 모델 성능 주장과 비판 글을 모두 그대로 믿지 말고, 자신의 업무에서 작은 실험과 기록으로 판단해야 합니다.