Jaron Lanier의 No AI, 사람을 지우지 않는 법

“AI는 없다”는 말의 진짜 뜻

Jaron Lanier가 출연한 StarTalk 대담 transcript의 제목은 도발적이다. There Is No AI, It is Just People. 이 말은 모델이 계산을 하지 않는다는 뜻이 아니다. 생성형 AI가 사람의 글, 그림, 코드, 음악, 평가, 클릭, 교정, 대화 위에서 작동한다는 사실을 잊지 말자는 주장에 가깝다.

AI 산업은 종종 모델을 독립된 존재처럼 말한다. 하지만 모델이 만드는 답변은 방대한 인간 산출물과 인간 피드백을 통계적으로 재조합한 결과다. AI 도구론, 모두가 빌더가 되지는 않는다는 AI 도구가 사람의 역할을 단순히 대체한다고 보기 어렵다고 했다. Lanier의 주장은 한 걸음 더 나아가, 사람을 지우는 언어 자체가 위험하다고 말한다.

데이터 존엄성과 제품 책임

Lanier가 오래전부터 말해온 data dignity는 AI 시대에 다시 중요해졌다. 모델이 누군가의 글과 코드와 판단을 흡수해 가치를 만들었다면, 그 기여를 어떻게 추적하고 보상할 것인가. Microsoft Research의 data dignity 논의, Stanford AI Index, OECD AI principles, Partnership on AI의 작업은 모두 인간 중심 AI라는 말을 제도와 측정으로 바꾸려는 시도다.

이 논의는 저작권만의 문제가 아니다. 고객센터 상담원, 의사, 번역가, 개발자, 교사, 커뮤니티 운영자, 오픈소스 유지보수자의 일상적 판단이 AI 제품 품질의 재료가 된다. 그런데 제품 화면에서는 “AI가 해냈다”는 문구만 남는다. 이 간극이 커질수록 사용자 신뢰와 창작 생태계는 약해진다.

한국 시장에서 더 민감한 이유

한국의 AI 도입은 빠르지만 데이터 권리 논의는 아직 얇다. 기업은 내부 문서와 상담 로그를 RAG에 넣고, 교육 기업은 강의 자료를 모델에 연결하며, 미디어와 커머스는 리뷰와 콘텐츠를 재가공한다. 이 과정에서 누가 만든 지식인지, 누가 수정할 수 있는지, 삭제 요청이 어떻게 반영되는지 명확하지 않으면 분쟁이 늦게 터진다.

AI 검색 최적화, 가짜 권위의 새 공급망은 출처가 흐려질 때 신뢰가 어떻게 무너지는지 보여줬다. Weedout, AI 라벨 필터가 말하는 콘텐츠 피로는 사용자가 AI 생성물 피로를 이미 느끼고 있음을 짚었다. Lanier의 논점은 바로 여기에 닿는다. 사람의 기여를 숨기면 단기 UX는 매끄러워져도 장기 신뢰는 떨어진다.

더 좋은 AI 제품의 언어

AI 제품은 “사람 없이 자동으로”라는 문구를 줄이고 “사람의 작업을 어떻게 돕는지”를 정확히 말해야 한다. 출처 표시, 수정 이력, 데이터 삭제 경로, 인간 검토 여부, 보상 구조를 제품 기능으로 다뤄야 한다. 특히 B2B에서는 이런 설명이 브랜드 윤리가 아니라 조달 조건이 될 가능성이 크다.

Lanier식 회의론은 AI를 쓰지 말자는 주장이 아니다. 오히려 좋은 도구가 되려면 사람이 만든 맥락을 더 잘 보존해야 한다는 요구다. AI가 더 강해질수록 “이 결과는 어디서 왔는가”라는 질문은 더 중요해진다.

자주 묻는 질문

Q1: Lanier는 AI 기술 자체를 부정하나요?

A: 그렇지 않습니다. 그는 기술보다 AI를 독립된 존재처럼 신비화하는 언어와 경제 구조를 비판합니다.

Q2: 데이터 존엄성은 보상만 의미하나요?

A: 보상도 포함하지만 출처, 동의, 삭제, 수정, 설명 가능성까지 포함하는 넓은 개념입니다.

Q3: 제품팀은 무엇을 바꿔야 하나요?

A: 출처 표시, 인간 검토 상태, 데이터 사용 범위, 삭제 요청 흐름을 UX와 약관에 명확히 넣어야 합니다.

Q4: 오픈웹 학습은 모두 문제인가요?

A: 단정하기 어렵습니다. 다만 규모가 커질수록 권리와 보상, 품질 관리 장치가 필요합니다.

Q5: 한국 기업에 가장 큰 리스크는 무엇인가요?

A: 내부 데이터와 고객 데이터를 AI 기능에 넣은 뒤 권한, 삭제, 출처 책임을 설명하지 못하는 상황입니다.