LLMorphism 논문, 사람을 언어모델처럼 보는 편향을 경고하다

“사람도 결국 토큰 예측기”라는 말의 위험

Valerio Capraro의 arXiv 논문은 LLMorphism이라는 개념을 제안한다. 이는 인간의 사고가 대규모 언어모델처럼 작동한다고 믿는 편향이다. 논문은 대화형 LLM이 사람처럼 말하기 때문에, 반대로 사람이 LLM처럼 생각한다고 추론하는 문화적 습관이 퍼질 수 있다고 본다.

중요한 구분이 있다. AI를 사람처럼 보는 anthropomorphism이 오래된 문제라면, LLMorphism은 사람을 AI처럼 보는 문제다. 논문은 언어 출력의 유사성이 인지 구조의 유사성을 뜻하지 않는다고 강조한다. 사람이 그럴듯한 문장을 만들고, LLM도 그럴듯한 문장을 만든다고 해서 두 시스템이 같은 방식으로 이해하고 책임지고 경험하는 것은 아니다.

의인화의 반대편, 인간 축소

AI 윤리 논의는 주로 “기계에 너무 많은 마음을 부여하지 말라”에 집중했다. 그러나 이 논문은 반대 방향도 본다. 우리가 LLM 용어로 사고를 설명하기 시작하면 사람의 판단, 감정, 책임, 맥락을 지나치게 단순화할 수 있다. “프롬프트가 나빴다”, “컨텍스트가 부족했다”, “환각했다” 같은 표현이 인간에게도 무심코 적용될 수 있다.

이는 교육과 업무 평가에서 특히 위험하다. 학생의 답변을 단순 출력물로만 보고, 노동자의 판단을 패턴 매칭으로만 보면 인간의 학습 과정과 책임성을 놓친다. 친절한 챗봇과 정확성 연구가 보여주듯 대화 스타일은 신뢰 판단을 강하게 흔든다. LLMorphism은 그 흔들림을 사람 평가로까지 확장시킨다.

기업 AI 도입에서 생기는 실제 문제

기업은 LLMorphism을 농담으로만 볼 수 없다. 직원 평가, 고객 상담, 교육 콘텐츠, 의료 커뮤니케이션에 AI가 들어가면 사람의 행동을 모델 로그처럼 해석하려는 유혹이 생긴다. 예를 들어 고객 불만을 “프롬프트가 공격적이었다”로만 보면 실제 서비스 문제를 놓칠 수 있다. 직원의 실수를 “컨텍스트 윈도 부족”처럼 설명하면 조직 책임이 흐려질 수 있다.

NIST AI Risk Management Framework는 AI 위험을 기술적 정확도뿐 아니라 인간, 조직, 사회 맥락에서 다루라고 요구한다. arXiv PDF로 볼 수 있는 이번 논문도 같은 방향이다. AI 시스템이 인간을 설명하는 은유가 되는 순간, 그 은유 자체를 위험으로 평가해야 한다.

한국 사회에서 더 빨리 번질 수 있는 이유

한국은 교육, 채용, 업무 자동화에서 정량 평가와 기술 유행을 빠르게 받아들이는 편이다. “프롬프트 역량”, “AI형 사고”, “컨텍스트 관리” 같은 표현은 유용할 수 있지만, 인간 사고 전체를 대체하는 설명이 되면 문제가 된다. 인지적 항복과 AI 의존 연구가 경고한 것처럼 도구 의존은 사고 습관까지 바꾼다.

개발자에게도 시사점이 있다. AI 제품의 UI 문구, 평가 리포트, 관리자 대시보드가 사람을 모델처럼 표현하지 않도록 주의해야 한다. LLM 글쓰기 클리셰 분석처럼 언어 패턴은 문화가 된다. 제품의 은유가 사용자의 인간관을 바꿀 수 있다.

FAQ

Q1. LLMorphism은 무엇인가?
인간의 사고가 대규모 언어모델처럼 작동한다고 보는 편향이다.

Q2. Anthropomorphism과 어떻게 다른가?
Anthropomorphism은 AI를 사람처럼 보는 것이고, LLMorphism은 사람을 LLM처럼 보는 것이다.

Q3. 왜 지금 문제가 되나?
대화형 LLM이 일상 언어를 자연스럽게 생성하면서 LLM 용어가 사고와 인간관을 설명하는 은유로 퍼지고 있기 때문이다.

Q4. 기업에서는 어떤 위험이 있나?
직원, 고객, 학생의 행동을 지나치게 모델 로그처럼 해석해 책임과 맥락을 놓칠 수 있다.

Q5. 대응 방법은?
AI 제품 문구와 평가 체계에서 인간의 의도, 맥락, 책임, 경험을 별도로 다루고, 모델 은유를 제한적으로 사용해야 한다.