Governance

LLM이 상호작용 과정에서 새 사회적 편향을 학습할 수 있다는 문제 제기가 나왔다. 모델 평가는 정적 벤치마크를 넘어 장기 대화, 보상 신호, 제품 피드백 루프를 함께 봐야 한다.

편향 문제는 학습 데이터의 잔재만이 아니라 서비스 운영 중 생기는 행동 패턴일 수 있다. 한국 기업은 출시 전 평가와 출시 후 로그 감사를 하나의 품질 시스템으로 묶어야 한다.

FT는 OpenAI의 AI ethics lead Chloé Bakalar가 합류 1년이 되기 전 회사를 떠났다고 보도했다. 프론티어 모델 경쟁이 사이버, 자율성, 정책 리스크로 확장되는 시점에 윤리 기능의 조직 설계가 다시 시험대에 올랐다.

한 명의 윤리 담당자 퇴사는 조직 전체를 설명하지 못하지만, 프론티어 AI 기업이 윤리와 안전을 어디에 배치하는지 묻는 신호는 된다. 분산 책임 모델은 좋지만, 누가 최종적으로 멈출 권한을 갖는지 명확해야 한다.

Sarah Wynn-Williams의 Meta 소송은 비밀유지, 내부고발, 감시 논란을 다시 불렀다. AI 플랫폼 시대 신뢰와 인재 리스크를 분석한다.

AI 기업의 신뢰는 모델 성능만으로 쌓이지 않는다. 퇴직자와 내부고발자를 다루는 방식은 안전과 윤리 약속의 실제 비용을 드러낸다.