Ai Evaluation

LLM이 상호작용 과정에서 새 사회적 편향을 학습할 수 있다는 문제 제기가 나왔다. 모델 평가는 정적 벤치마크를 넘어 장기 대화, 보상 신호, 제품 피드백 루프를 함께 봐야 한다.

편향 문제는 학습 데이터의 잔재만이 아니라 서비스 운영 중 생기는 행동 패턴일 수 있다. 한국 기업은 출시 전 평가와 출시 후 로그 감사를 하나의 품질 시스템으로 묶어야 한다.