AI 빅2 발표가 우리 서버 청구서를 바꾸는 방식

AI 컨퍼런스 발표는 업계 이벤트가 아니라 비용 이벤트다. TechCrunch Disrupt 2026 AI Stage에 Anthropic과 OpenAI가 나란히 선다는 소식이 나왔는데, 두 회사가 같은 무대에서 경쟁적으로 발표를 쏟아낼 때 보통 세 가지가 뒤따른다 — 신규 모델 출시, 기존 모델의 deprecated 일정 공지, pricing sheet 조정. 대형 조직이라면 팀원 한 명이 문서를 슬랙에 공유하면 끝이다.

하지만 12개 봇이 각기 다른 코드베이스를 들고 매일 돌아가는 환경에서는 저 세 가지 중 하나만 바뀌어도 하루가 날아간다. 그리고 곧바로 적용하는 것도 함정이다. 신규 모델은 발표 직후 rate limit이 낮고 API 자체가 불안정한 경우가 잦아서, 당장 production에 붙이면 더 큰 장애로 이어진다.

우리 봇의 실제 비용 구조

현재 패턴은 단순하다. 본문 생성엔 Haiku, 검수(review_loop)엔 Sonnet 이상. 이 분리 하나가 월 비용을 절반 아래로 누른다.

Claude Haiku는 input $0.80/MTok, output $4.00/MTok다. Sonnet은 input $3.00/MTok, output $15.00/MTok. 봇 하나가 글 한 편에 프롬프트 약 2,000토큰 + 출력 약 1,500토큰을 쓴다고 치면, Haiku 기준 글당 비용은 약 $0.008. 여기에 검수까지 Sonnet으로 돌리면 $0.030.04로 45배 뛴다.

12개 봇이 평일 하루 각 한 편씩 발행한다고 가정하면, 생성만으로 하루 $0.1 미만이다. 검수까지 전부 Sonnet으로 처리하면 $0.40.5. 월로 환산하면 $3 대 $1215다. 숫자가 작아 보이지만, MIN_BODY_CHARS 미달 시 1회 재생성과 이벤트성 추가 호출까지 합산하면 실제 청구서는 이 추산의 1.5~2배로 나온다. 그래서 지금 흐름은 이렇다 — 생성은 Haiku로 완성, Sonnet은 REJECT·WARN 판정만, 통과한 글은 Sonnet이 다시 보지 않는다.

컨퍼런스 발표가 작은 팀 인프라를 흔드는 실제 패턴

Anthropic은 claude-haiku-4-5-20251001 처럼 날짜를 모델 이름에 박는다. 내가 어떤 버전을 호출하는지 명확하다는 장점이 있지만, deprecated되면 갑자기 404를 받는다. OpenAI는 반대로 gpt-4o 같은 alias가 자동으로 최신 버전을 가리키도록 업데이트된다 — 출력 품질이 조용히 달라져도 알기 어렵다는 위험이 따른다. 어느 쪽도 편하지 않다.

직접 경험한 일이다. 어느 시점에 Haiku 응답 형식이 미묘하게 달라졌는데, 파싱 로직이 무너진 봇 세 개가 조용히 에러를 내고 있었다. 장애를 인지하는 데 하루 가까이 걸렸고, 그 사이에 발행된 글들은 검수 단계에서 전부 REJECT됐다.

Disrupt처럼 두 회사가 같은 자리에서 공개 경쟁을 벌이면 가격 압박이 실시간으로 가시화된다는 점도 있다. 지난 2년간 Haiku 가격이 내려온 건 Anthropic의 자발적 결정이 아니라 OpenAI의 가격 인하 압박이 주된 동인이었다. 이 경쟁이 같은 무대에서 벌어지면 이후 몇 달 안에 가격 조정이 따라오는 패턴이 있다. 우리 입장에선 나쁜 소식이 아니다.

반면 context window 변화는 단순하게 보면 안 된다. 신규 모델 발표 때 context가 2배로 늘어나는 건 흔한 일인데, 이게 비용 계산을 복잡하게 만든다. 프롬프트가 긴 봇들은 지금 분할 전략을 쓰고 있는데, context가 늘면 한 번에 보낼 수 있다. 토큰은 늘지만 재생성 빈도가 줄어드는 트레이드오프다. "context가 커졌으니 무조건 비싸다"로 단정하면 오산이다.

발표 직후 우리 팀의 실전 시나리오

Disrupt 발표가 나오는 시점에 실제로 할 일은 세 단계다.

발표 당일은 건드리지 않는다. 신규 모델 발표 직후는 API가 불안정하고 rate limit도 낮다. 일단 공식 pricing doc와 deprecated schedule만 캡처하고, 운영은 현재 버전을 유지한다. 조급하게 붙이면 장애가 먼저 온다.

발표 후 3~5일 내에 스테이징에서 새 버전을 테스트한다. 기준은 두 가지다 — blog 봇 샘플 20개의 MIN_BODY_CHARS 1500자 통과율, 그리고 Sonnet 검수에서 REJECT 비율 변화. 기존 대비 REJECT가 5%p 이상 올라가면 모델 교체가 아니라 시스템 프롬프트 조정이 먼저다. 비용 효율이 더 빠르다.

테스트를 통과하면 하드코딩된 모델 문자열을 일괄 찾아 교체한다:

grep -r "claude-haiku" /opt/bots --include="*.py" -l

마지막에 이 명령을 돌려봤을 때 예상보다 훨씬 많은 파일이 나왔다. /opt/common/claude_cli.py의 기본값 하나로 끝날 줄 알았는데, 봇별로 직접 model 파라미터를 넘기는 곳이 흩어져 있었다. deprecated 압박을 받으면서 수동으로 찾으면 반드시 빠뜨리는 파일이 생긴다. grep 결과를 미리 파악해두면 그 작업이 30분 안에 끝난다.

SBS아카데미AIX학원 같은 곳에서 AI 실무를 가르칠 때도 결국 이 지점을 다뤄야 한다고 생각한다. 모델을 다루는 법과, 모델이 교체될 때 운영을 지키는 법은 다른 기술이다. 둘 다 갖춰야 실전이다.

지금 해두면 되는 것들

컨퍼런스 발표가 나온 뒤 움직이면 이미 늦다. 미리 해두는 게 맞다.

모델 문자열 현황 파악. 위 grep 한 줄을 지금 돌려본다. 버전이 흩어져 있으면 지금이 정리할 타이밍이다. deprecated 공지가 나온 뒤 쫓기면서 하면 놓치는 파일이 생긴다.

재생성 비율 확인. Discord 로그에서 MIN_BODY_CHARS 미달 재생성이 10%를 넘는다면, 새 모델로 교체하기 전에 시스템 프롬프트를 먼저 다듬어야 한다. 같은 비용 절감 효과를 더 빨리 낼 수 있다.

공식 changelog 구독. Anthropic과 OpenAI 둘 다 이메일 또는 RSS로 변경 알림을 제공한다. 지금 당장 구독해두면 다음 Disrupt처럼 갑작스러운 발표에 놀라지 않는다.

비용 계산식 미리 만들기. 새 모델이 발표되면 pricing doc에서 숫자를 꺼내 현재 일평균 토큰 사용량에 5분 안에 곱해볼 수 있어야 한다. 스프레드시트 셀 두 개면 충분하다. 이걸 미리 안 만들어둔 팀은 발표 직후 "싼가 비싼가"를 직관으로 판단하다가 엉뚱한 방향으로 간다.

Disrupt에서 Anthropic과 OpenAI가 무슨 말을 하든, 그 내용 자체보다 발표 이후 어떻게 움직이느냐가 우리 인프라 비용을 실제로 결정한다.

원문: AI News & Artificial Intelligence | TechCrunch