Mercury 3는 8배 빠르지만, 경쟁 모델보다 싸게 보이는 건 출시 할인가 덕이다

Inception이 확산(diffusion) 방식 언어 모델 Mercury 3를 발표했습니다. 확산 방식은 문장을 앞에서부터 한 토큰씩 쓰지 않고 전체를 한꺼번에 다듬어 가는 방식이에요.

• 규모: Mercury 1보다 40배 이상 커졌습니다. 기사에서는 기존 언어 모델의 스케일링 법칙(모델을 키울수록 성능이 오른다)이 확산 모델에도 통한다고 주장합니다.
• 사양: 초당 1,068토큰을 내고, 한 번에 다룰 수 있는 길이(컨텍스트)는 100만 토큰입니다. OpenAI API와 호환됩니다.
• 용도: 브라우저 에이전트, 실시간 튜터링, 검색, 고객 상담처럼 지연에 민감한 곳에서 파트너사가 쓰고 있다고 합니다.

성능: 표는 Inception이 직접 측정한 결과입니다. 13개 항목 중 9개에서 1위인데, 긴 문맥 2개와 DeepSWE, 지식 정확도(AA-Omniscience)에서는 경쟁 모델에 밀렸습니다. 속도는 4~8배 빠릅니다.

가격: 표의 Mercury 가격은 출시 기념 50% 할인가입니다. 정가는 입력 $0.20, 출력 $0.70이라 경쟁 두 모델보다 입력은 2배, 출력은 1.4배 비쌉니다. 할인이 언제 끝나는지는 기사에 없습니다. Haiku 5.5는 프롬프트가 10만 토큰을 넘으면 입력 $0.50, 출력 $2.50으로 오릅니다. Mercury에도 이런 구간별 요금이 있는지는 확인하지 못했습니다. Luna와 Haiku 가격은 각 사 공식 가격표에서 확인한 값입니다.

출처: Inception 발표 · Claude 가격표 · OpenAI 가격표

기존 모델은 타자 치기, 확산 모델은 스도쿠 채우기에 비유할 수 있습니다.

• 기존 모델(자기회귀): 한 글자를 쳐야 다음 글자를 칠 수 있습니다. 500토큰짜리 답이면 모델을 500번 돌려야 하고, 매번 앞 결과를 기다리느라 GPU가 계산 여력을 남긴 채 줄을 섭니다.
• 확산 모델: 빈칸 가득한 답안지를 통째로 펼쳐 놓고, 확신이 서는 칸부터 여러 칸을 한 번에 채웁니다. 채운 칸이 힌트가 되어 다음 차례에 또 여러 칸을 채우고, 몇 번 훑으면 답안지가 완성됩니다. 토큰 수보다 훨씬 적은 횟수로 끝나니 빠릅니다.

Inception의 Mercury 논문도 같은 이야기를 합니다. 구조는 기존과 같은 트랜스포머지만 "여러 토큰을 병렬로 예측하도록 학습"했다는 게 속도의 이유라고 설명해요.

다만 공짜는 아닙니다. 한 번 훑을 때 답 전체를 다시 보니 회당 계산량이 더 큽니다. 훑는 횟수를 줄이면 빨라지는 대신 품질이 떨어질 수 있어서, 둘 사이의 균형을 잡는 게 관건입니다. Mercury 3가 그 균형을 어떻게 잡았는지는 발표 글에 나와 있지 않습니다.

출처: Mercury 논문 (arXiv) · Mercury 3 발표