소형 모델이 판을 바꾸고 있다

소형 모델의 시대가 오고 있다. gpt-5.6-luna는 약 100tps로 코드베이스, 이메일, 지식 기반을 처리하고 복잡한 조사나 수천 개 이메일 검색도 수십 센트 수준에 수행한다고 한다. 개인화 일일 뉴스 사이트의 생성 비용도 Sonnet급 모델의 약 1달러에서 평균 0.10달러까지 낮아진다. 이 변화는 단순히 모델 사용료가 싸진다는 뜻에 그치지 않는다. 지금까지 소비자 AI 서비스는 요청이 발생할 때마다 추론 비용을 부담해야 했지만, 소형 모델이 충분한 품질을 내면서 서비스의 운영비와 자본 구조 자체가 달라질 수 있다. 기업 업무에서도 모든 작업에 최고 성능 모델이 필요한 것은 아니다. 독창적인 난제를 푸는 작업과 여러 사안을 빠르게 진전시키는 작업을 나누고, 후자에 소형 모델을 대규모로 투입하는 방식이 현실적인 선택지가 된다. 결국 AI의 경쟁력은 가장 똑똑한 모델을 쓰는 데서만 나오지 않는다. 충분히 좋은 모델을 얼마나 빠르고 싸게, 서비스 흐름 안에 배치하느냐가 더 중요해지는 국면으로 보인다. 링크