OpenAI 2인자 공백이 쏘는 API 벤더 리스크

OpenAI의 2인자 자리가 비었다. 결제·정산 파이프라인을 직접 운영하는 팀이라면 이 뉴스를 그냥 넘기면 안 된다.

핵심부터 말하면, Fidji Simo의 이탈은 OpenAI의 API 요금 정책이 '결정자 공백' 상태에 들어갔다는 신호다. IPO를 준비 중인 기업이 가격 결정권자를 잃으면, 다음에 오는 건 대개 새 리더십 주도의 '매출 최적화' 방향 요금 재편이다. 단, 그게 언제, 어떤 방향으로 올지는 아무도 모른다. 그게 지금 문제다.

Simo가 OpenAI에서 실제로 무엇을 담당했나

Fidji Simo는 Instacart CEO 출신으로 2024년 OpenAI에 합류했다. Instacart에서 그녀가 실제로 한 일은 소비자 플랫폼의 수수료 구조를 재편하고, 대형 식료품 체인과의 B2B 계약을 표준화하는 것이었다. 공급자와 소비자 양쪽을 동시에 협상해 본 드문 경력이다. OpenAI가 그 역량을 데려온 데는 이유가 있었다.

OpenAI 내부에서 그녀는 'CEO 이후의 모든 것'을 맡았다. ChatGPT 엔터프라이즈 플랜의 계약 구조, API 가격 정책의 최종 승인선, 대형 파트너십 협상 — 이 모두가 그녀의 라인 아래에 있었다. 의료 휴직이 예상보다 길어지면서 결국 풀타임 복귀를 포기했다는 이번 발표는, API를 쓰는 팀 입장에서 "우리 거래 상대방의 가격 결정자가 없어졌다"는 말과 같다.

IPO 압박 아래에서 요금은 어떻게 움직였나

OpenAI는 현재 기업 공개를 검토 중이다. 상장 전 투자자에게 보여줄 숫자 중 가장 중요한 건 매출이고, SaaS·API 기업에서 매출을 빠르게 늘리는 방법은 두 가지다 — 고객 수를 늘리거나, 고객당 단가를 올리거나.

API 시장의 선례를 보면 패턴이 반복됐다. GPT-4 Turbo가 2023년 11월 출시됐을 때 입력 토큰 1천 개당 $0.01이었다. 이후 GPT-4o 전환 시점에 표면적으로 $0.005까지 내렸다. 가격이 내린 것처럼 보였지만, 동시에 기존 엔터프라이즈 계약을 새 모델로 마이그레이션시키는 사이클이었고, 그 과정에서 볼륨 할인 조건이 바뀐 팀들이 생겼다. Twilio는 2016년 IPO를 앞두고 API 요금 티어를 단순화하면서 소규모 개발자 할인을 사실상 축소했다. Stripe는 상장 논의가 나올 때마다 수수료 정산 방식 조정이 따라왔다.

"IPO 전 요금 재편"은 빅테크 업계에서 거의 공식처럼 반복된 패턴이다. OpenAI가 예외일 근거는 없다. 더구나 이번엔 그 결정을 내릴 사람이 막 바뀌었다.

결제 파이프라인에 AI를 심어뒀다면

직접 운영해 보니 한 가지가 분명해졌다. AI 호출을 결제 자동화에 붙이는 순간, 그 모델의 버전과 요금이 우리 비용 구조 속으로 들어온다. 처음엔 "보조 기능" 정도로 붙였는데, 어느 순간 그게 없으면 파이프라인이 돌지 않는 상태가 돼 있다.

청구서 파싱, 이상 거래 플래그, 정산 레포트 요약 — 이 셋 중 하나라도 외부 AI API로 돌리고 있다면, 그 API의 가격 정책이 우리 마진에 직접 닿는다. 예를 들어 월 처리액이 5천만 원인 파이프라인에서 AI 호출 비용이 처리액의 0.3%라면 15만 원이다. 요금이 30% 오르면 추가 4만 5천 원. 숫자 자체는 작아 보여도, 이게 여러 구간에 퍼져 있으면 체감은 다르다.

최근 챗GPT 활용 자격증을 취득하고 팀에 합류한 인원들이 "AI 붙여보겠다"며 파이프라인 구석구석에 호출을 심는 경우가 늘었다. 문제는 그 코드가 담당자가 떠나도 파이프라인에 남아 있고, API 요금이 바뀌어도 파악 자체가 안 되는 팀이 생각보다 많다는 점이다. 어떤 엔드포인트를, 얼마나 쓰고 있는지조차 모르면 리스크가 눈에 안 보인다. Simo 이탈 뉴스를 결제팀이 읽어야 하는 이유가 정확히 여기다.

단일 벤더에 고정하는 게 맞는가

HEDVION에서 LLM 호출은 Anthropic Claude 기반으로 표준화돼 있다. OpenAI를 직접 호출하는 코드가 없다. 처음엔 단순히 비용 비교 결과였는데, 돌아보면 단일 벤더가 관리 면에서 편한 것도 사실이다. 요금 알림 채널이 하나고, 모델 업데이트 대응 창구도 하나다.

그런데 단일 벤더 고정에도 함정이 있다. Anthropic이 내일 당장 요금을 두 배로 올려도 우리 손에 쥔 레버리지가 없다. 그래서 단일 벤더를 유지하면서도 리스크를 낮추는 방법은 하나다 — 대체 경로를 코드 수준에서 격리해 두는 것. 지금 당장 바꾸지 않아도 되지만, AI 호출부를 추상 레이어 하나로 감싸두면 나중에 벤더를 바꿀 때 코드 변경 범위가 파일 하나로 좁혀진다.

claude_cli.complete() 단일 함수로 모든 LLM 호출을 감싸둔 이유가 이거다. 요금이 바뀌거나 모델이 달라질 때 코드베이스 전체를 건드리지 않아도 된다. 이런 추상화는 처음에 만드는 게 쉽고, 파이프라인이 커진 뒤에 끼워 넣으면 공사가 커진다.

Anthropic에게는 기회, 우리에게는 협상 타이밍

반대로 보면 Anthropic 입장에서 이번 상황은 분명한 기회다. OpenAI가 리더십 재편과 IPO 준비로 내부가 혼란스러운 지금, 엔터프라이즈 계약을 갈아타려는 팀이 나올 수 있다. 실제로 요 몇 달 Claude API 영업 접촉이 예전보다 눈에 띄게 공격적으로 바뀐 느낌이 있다. 우연은 아닐 것이다.

작은 팀 입장에서 이 구도는 드물게 협상 레버리지가 생기는 순간이다. 현재 OpenAI API를 종량제로 쓰고 있다면, 볼륨이 어느 정도 쌓인 시점에 Anthropic 견적을 동시에 받아보는 것만으로 협상 여지가 달라진다. 두 벤더가 서로를 의식해서 경쟁하는 타이밍이 정확히 지금이기 때문이다.

지금 당장 실행할 것

복잡하게 생각할 필요 없다. 세 가지면 된다.

첫째, AI 호출 인벤토리를 만들어라. 결제·정산 파이프라인 내 AI 호출이 어떤 엔드포인트를 쓰는지 목록을 뽑아라. 담당자가 기억하는 것과 코드에 실제로 박힌 것이 다른 경우가 많다. grep -r "openai\|anthropic\|gpt\|claude" ./ 한 줄로 시작하면 된다. 예상치 못한 호출이 발견되는 경우가 흔하다.

둘째, 각 호출의 월 비용 추정치를 붙여라. 정확하지 않아도 된다. 100달러 단위로만 알아도 "요금 30% 오르면 우리 마진 어디서 맞추나"를 계산할 수 있다. 이 숫자가 없으면 요금 변동 시 영향 범위 자체를 모른다.

셋째, 요금 변동 공지를 받는 채널을 확인해라. OpenAI는 대규모 요금 변경을 이메일과 개발자 포럼으로 공지한다. 청구 관련 이메일이 누군가의 묵힌 받은편지함으로 가고 있지는 않은지 지금 확인할 것. 변경 공지를 팀 슬랙으로 포워딩하는 필터 하나 만드는 게 전부다. Anthropic 공지도 마찬가지다.

Simo의 이탈 자체가 내일 당장 뭔가를 바꾸진 않는다. 그러나 OpenAI라는 벤더가 과도기에 있다는 신호는 명확하다. 결제 파이프라인을 운영하는 팀이 이 뉴스에서 꺼낼 수 있는 가장 실질적인 것은 딱 하나 — 지금 자기 파이프라인에 무엇이 박혀 있는지 먼저 파악하는 것이다.

원문: AI News & Artificial Intelligence | TechCrunch