Claude Haiku 5.5, 가장 빠르고 저렴한 소형 모델의 등장
Anthropic이 10월 7일 Claude Haiku 5.5를 내놓았다. 요약, 분류, 데이터 압축, 서브에이전트 코딩처럼 호출량이 많고 비용에 민감한 작업을 겨냥한 소형 모델이다. 주목할 점은 단순한 속도 개선이 아니라 가격 구조와 능력 곡선이 함께 움직였다는 것이다. 작은 모델로 에이전트를 돌릴 수 있느냐는 질문의 답이 바뀌고 있다.
"We saw over a 30% reduction in latency for task completions and up to 2.5x faster inference."Asana (Anthropic 발표 인용)
무슨 일인가
발표에 따르면 Haiku 5.5는 지금까지 나온 Claude 중 가장 빠른 모델이며, 입력 토큰은 100만 개당 0.10~0.50달러, 출력은 0.50~2.50달러로 Haiku 4.5보다 평균 약 75% 저렴하다. 컴퓨터 사용 벤치마크 OSWorld 2.1에서 72.4%를 기록했고, 라이브 고객 지원이나 브라우저 자동화처럼 지연이 체감되는 용도를 강조한다. Haiku 계열 처음으로 노력(effort) 수준 설정이 들어가, 비용과 지능 사이를 호출 단위로 조절할 수 있다. Claude.ai, 콘솔, AWS, Google Cloud, Azure에서 바로 쓸 수 있다.
여러 시각
외부 분석은 같은 숫자를 조금 다른 각도에서 읽는다.
- Artificial Analysis — 자체 지능 지수에서 Haiku 5.5가 43점으로 1년 전 Haiku보다 26점 올랐고, 최대 노력 설정에서 일부 경쟁사 경량 모델보다 앞선다고 평가한다. 즉 '싸지만 약한 모델'이라는 공식이 깨졌다는 해석이다.
- YourStory — 가장 빠르고 저렴하며 능력 있는 소형 모델이라는 포지셔닝에 무게를 두고, 대량 호출 업무의 단가 하락 효과를 부각한다.
왜 중요한가
에이전트 시스템은 큰 모델 하나가 아니라 많은 작은 호출의 합으로 비용이 결정된다. 소형 모델의 단가가 낮아지고 컴퓨터 사용 정확도가 크게 오르면, 계획은 큰 모델이 맡고 실행은 작은 모델이 병렬로 맡는 구조가 기본 설계가 된다. 또 노력 수준 설정은 모델 선택을 '고르는 일'에서 '조절하는 일'로 바꾼다. 다만 벤치마크는 공급자 발표와 제3자 지표가 다를 수 있으므로 자기 업무로 재검증해야 한다.
실무 적용
- 분류, 추출, 요약 같은 반복 호출은 Haiku 5.5로 옮기고, 품질 차이는 자체 평가셋으로 측정한다.
- 에이전트 구조에서 오케스트레이터와 서브에이전트의 모델을 분리해 단가와 지연을 함께 낮춘다.
- 노력 수준을 작업 난이도별로 다르게 두고, 실패 시에만 상위 설정이나 상위 모델로 올리는 폴백을 만든다.
Kenny의 관점
AX 현장에서 가장 먼저 부딪히는 벽은 성능보다 단가와 응답 지연이다. 사용자가 기다리는 화면에서는 2초 느린 정답보다 빠른 80점 답이 더 낫기도 하다. 그래서 이번 소식은 모델 순위보다 프론트엔드 경험 설계에 더 큰 영향을 준다고 본다. 스트리밍과 낙관적 UI에 의존하던 부분을 모델 자체의 속도로 줄일 수 있기 때문이다. 다만 싸졌다고 호출을 무분별하게 늘리면 품질 관리 비용이 되돌아온다.
출처
이 글은 아래 원문을 바탕으로 Kenny가 한국어로 요약·정리한 큐레이션입니다.
원문 보기 — Anthropic ↗