GPT 출시 지연이 드러낸 소형팀 토큰 비용의 구조적 약점

안전 문제가 아니라 접근권 게임이다

결론부터 말한다. 백악관이 OpenAI에 GPT-5.6 출시를 늦추라고 했고, OpenAI가 택한 방식은 "선별된 파트너에게만 먼저 공개"다. 언론은 안전을 키워드로 뽑았지만 실제로는 다른 이야기다. 모델 접근 계층이 생겼고, 그 계층의 맨 아래에 우리 같은 소형팀이 앉아 있다는 이야기다.

단, 여기서 "어차피 우리는 Claude 쓰니까 무관계"라고 넘기면 안 된다. 그 생각이 가장 위험하다. 이유는 아래에 있다.

타이어드 접근이 만드는 비용 비대칭

OpenAI가 신모델을 특정 파트너에게 먼저 푸는 건 처음이 아니다. GPT-4o도, o3도 비슷한 경로를 밟았다. 그리고 이 패턴에는 일관된 경제 논리가 있다.

선공개 파트너는 대체로 Azure OpenAI를 경유하는 마이크로소프트 엔터프라이즈 고객들이다. 이들은 수억 달러 단위의 선불 크레딧 계약을 맺고 들어온다. 그 대가로 더 낮은 단가, 더 빠른 모델 접근을 받는다. 반면 일반 API로 토큰을 끌어다 쓰는 소형팀은 구조적으로 다른 세계에 있다.

GPT-4 Turbo 출시 당시, 초기 엔터프라이즈 채널 단가와 일반 API 가격 사이의 간격은 6개월 이상 유지됐다. 하루 50건 콘텐츠를 뽑는 봇 하나가 그 6개월 동안 지출한 차이는 작지 않다. 이게 단순히 "새 모델 나왔네" 수준의 이야기가 아닌 이유다.

빅테크가 채권 없이 돈을 조달하는 방식, 그리고 우리 API 단가

구조를 좀 더 들여다볼 필요가 있다. OpenAI가 마이크로소프트로부터 130억 달러를 받았을 때, 그건 전통적인 채권 발행이 아니었다. 지분에 컴퓨팅 크레딧과 API 수익 공유를 엮은 복합 구조다. 마이크로소프트는 현금 대신 Azure 인프라를 제공하고, OpenAI는 그 위에서 모델을 훈련하고, 수익 일부가 다시 마이크로소프트로 돌아간다.

이 구조가 우리한테 왜 중요한가. 빅테크가 이런 방식으로 자금을 조달하면 AI 기업들의 인프라 비용은 클라우드 파트너십으로 흡수되는 대신 API 가격에 반영될 여지가 생긴다. 인프라 부채를 공개 채권 시장이 아니라 개발자·기업 API 이용료로 나눠 가지게 하는 구조다. 우리가 토큰 단가를 흥정할 수 없는 이유가 바로 여기에 있다. 소형팀은 그 구조의 맨 끝에 앉아 있다.

Anthropic도 동일한 맥락이다. Google이 수십억 달러를 투자하면서 받은 건 지분과 TPU 우선 접근권이다. Anthropic의 API 단가는 그 자금 조달 구조의 함수이며, 우리가 쓰는 claude-haiku의 가격이 언제까지 고정될지는 누구도 보장하지 않는다.

실제 숫자로 보는 소형팀 비용 현실

추상적인 얘기를 숫자로 옮겨보자. HEDVION처럼 14개 봇이 사이트별로 하루 35건씩 콘텐츠를 생성한다고 하면, 하루 약 5070건이다. 본문 생성에 Haiku, 검수 루프에 Sonnet을 쓰는 구조다.

Claude Haiku 출력 단가는 $4/1M tokens. 본문 1건당 평균 2,000 output tokens로 잡으면 70건 기준 하루 약 $0.56. 한 달이면 약 $17이다. 검수 루프(Sonnet, 건당 판단 500 tokens)가 하루 약 $0.53 추가되면 월 합산 $33 수준이다.

작다고 느껴지는 숫자다. 그런데 신모델 전환 직후 단가가 30% 오르면 연간 $120이 추가된다. 서버 한 대 유지비 수준이다. 그보다 더 중요한 문제는 예측 가능성이다. "이번 달 LLM 비용이 왜 갑자기 올랐지?"를 뒤늦게 청구서 보고 알게 되는 순간, 그 팀은 비용 구조를 제대로 잡지 못하고 있다는 뜻이다.

접근권 계층 문제도 있다. GPT-5.6이 엔터프라이즈 파트너에게 먼저 풀리면, 그 파트너 생태계에 속한 경쟁사는 우리보다 좋은 모델로 콘텐츠를 먼저 만든다. 콘텐츠 품질 차이가 검색 노출과 직결된다면 이건 단순 비용이 아니라 경쟁력 차이다.

우리 팀이라면 지금 이렇게 대응한다

이번 백악관 조치가 소형팀에게 주는 실질적 효과는 "모델 전환 불확실성 기간의 연장"이다. 언제 공개될지 모르는 채로 기다려야 한다. 역설적으로, 그건 지금 최적화를 마무리할 시간을 준다는 뜻이기도 하다.

가장 먼저 해야 할 것은 봇별 토큰 사용량의 실측이다. claude_complete이 반환하는 usage 객체에서 input_tokens, output_tokens를 꺼내 DB에 쌓는 코드는 10줄이면 충분하다. 지금 이 데이터를 쌓지 않고 있다면, 모델이 바뀔 때 비용 변화를 추적할 기반이 없다. 한 달치만 쌓여도 "어느 봇이 얼마나 쓰나"가 보이고, haiku/sonnet 비율 조정 여부를 데이터로 결정할 수 있다.

검수 루프 프롬프트도 들여다볼 필요가 있다. 현재 review_loop가 본문 전체를 Sonnet에 넣는 구조라면, 제목·첫 단락·핵심 주장 3개만 추출해서 판단 입력으로 보내는 방식으로 바꿔도 품질은 크게 잃지 않는다. 입력 토큰이 절반 이하로 줄고, 판단 속도도 빨라진다.

세 번째는 공급자 이중화 기반 마련이다. 지금 Anthropic 단일 의존이라면, claude_cli 헬퍼 아래에 provider 추상화 레이어 하나를 미리 만들어 두는 것만으로 나중에 전환 실험 비용을 크게 줄인다. GPT-5.6이 공개됐을 때 비교 테스트를 빠르게 돌릴 수 있는 구조가 없으면 그때 가서 부랴부랴 만들게 된다.

바로 써먹을 시사점

GPT-5.6이 언제 풀리든 비용 충격을 최소화하는 방법은 새 모델을 기다리는 게 아니라 현재 비용 구조를 먼저 아는 것이다.

이번 주 할 것 하나. 봇 하나 골라서 claude_complete 호출 직후 usage를 INSERT하는 코드를 추가한다. 어렵지 않다. 한 달만 쌓이면 숫자가 보이기 시작한다.

다음 달 할 것 하나. 토큰 사용량 상위 3개 봇의 system prompt를 리뷰한다. 중복 지침을 제거하고 핵심만 남기면 입력 토큰 20~30% 절감은 대부분의 봇에서 어렵지 않다. 그 결과를 Sonnet 판단 비용과 분리해서 본다.

백악관이 GPT를 막든 풀든, 소형팀에게 주어진 선택지는 같다. 비용을 재는 도구를 만들고, 구조를 가볍게 하고, 대안을 열어 두는 것. AI 회사들이 채권 대신 파트너십으로 자금을 조달하는 구조는 앞으로도 바뀌지 않는다. 그 구조 안에서 소형팀이 살아남는 방법은 흥정이 아니라 효율이다.

원문: AI News & Artificial Intelligence | TechCrunch