LLM의 획일화 함정, 다양성으로 뚫는다
거대 언어 모델이 빠르게 똑똑해지는 사이, 정반대의 결함이 도마에 올랐다 — 다들 너무 비슷하게 답한다는 것이다. MIT 테크놀로지 리뷰가 7월 1일 조명한 호주 스타트업 스프링보즈(Springboards)는, 이 '획일화(groupthink)'를 정면으로 겨냥한 모델 Flint를 내놨다. 대다수 LLM에 "1부터 10 중 아무 숫자"를 물으면 약속이나 한 듯 7을 뱉고, 밴드 이름을 시키면 glass·neon·velvet·static 언저리로 수렴한다. 창의성을 파는 도구가 정작 뻔한 답으로 회귀하는 역설이다.
"다양성은 아이디어를 촉발할 때 큰 힘이 된다. 기계에 전부 맡겨 잿빛의 지루한 세계로 끝나지 말자."Pip Bingemann, Springboards CEO
무슨 일인가
Flint는 알리바바의 Qwen 3을 기반으로, 다양한 출력을 내도록 특별히 훈련됐다. 핵심 발상은 출력 전체에 '온도(temperature)'라는 뭉툭한 손잡이를 올리는 대신, 변주가 유익한 전략적 지점을 골라 그 순간에만 덜 예측 가능한 단어·표현을 주입하는 것이다. 문제의 규모는 학계가 이미 측정해 뒀다. NeurIPS 2025 최우수 논문 '인공 하이브마인드(Artificial Hivemind)'는 25개 LLM에 '시간'의 은유를 각 50번씩, 총 1,250번 생성시켰는데 대부분이 "시간은 강" 또는 "시간은 직조공" 변형으로 수렴했다. 모델 내부의 반복(intra-model)과 모델 간 수렴(inter-model)이 동시에 나타난 것이다.
여러 시각
획일화가 '모델만의 문제'가 아니라는 지적도 나란히 있다.
- VentureBeat(연구 인용) — 생성형 AI는 개인의 창의성은 끌어올리지만 집단의 다양성은 갉아먹는다. 한 연구에서 인간이 쓴 에세이는 GPT-4 에세이보다 집단 의미 다양성에 약 2~8배 더 기여했다. 개별 산출물이 더 창의적으로 보여도, 모아 놓으면 서로 닮아 간다는 것이다.
- 정렬 훈련의 부작용 — 학계는 획일화의 뿌리를 정렬(alignment) 훈련에서 찾는다. 익숙하고 무난한 응답에 보상이 쏠리면서, 새로움이 깃드는 분포의 꼬리가 잘려 나간다는 진단이다.
왜 중요한가
AI로 만든 카피·아이디어·디자인이 서로 닮아 갈수록, 그것으로 빚은 제품과 브랜드도 평준화된다. 모두가 같은 모델을 같은 방식으로 쓰면 차별화라는 해자 자체가 마른다. 아이디어 발상 단계에서 다양성이 무너지면, 탐색해야 할 선택지가 조용히 사라진 채 '그럴듯한 평균값'만 남는다. 창의성을 표방하는 도구일수록, 다양성은 있으면 좋은 옵션이 아니라 결과물의 질을 좌우하는 핵심 지표가 된다.
실무 적용
- 브레인스토밍·카피 생성엔 단일 모델 단발 호출 대신 다중 모델·다중 페르소나·시드 변주로 표본의 다양성을 확보한다.
- 온도를 무작정 올리면 품질이 함께 무너지므로, Flint처럼 '변주가 필요한 지점'만 골라 다양화하는 프롬프트·파이프라인 설계를 우선한다.
- AI 산출물의 다양성을 의미 임베딩 군집도 같은 정량 지표로 QA해, 획일화를 눈이 아니라 수치로 잡는다.
Kenny의 관점
AI 제품을 만드는 입장에서 이 논의의 핵심은 '더 똑똑한 모델'이 아니라 '덜 똑같은 출력'이다. 나는 다양성을 부산물이 아니라 설계 요구사항으로 다룬다 — 어디서 변주가 가치를 만들고 어디서 일관성이 중요한지를 먼저 나누고, 그에 맞춰 모델·온도·페르소나를 배치한다. QA의 언어로 옮기면, 획일화는 '눈에 띌 때 고치는 버그'가 아니라 '지표로 상시 감시하는 회귀'다. 남들과 똑같이 프롬프트하는 순간 제품도 똑같아진다는 사실을, 나는 경계로 삼는다.
출처
이 글은 아래 원문을 바탕으로 Kenny가 한국어로 요약·정리한 큐레이션입니다.
원문 보기 — MIT Technology Review ↗