공급사가 내 제품의 AI를 흔들 때

MS의 영업 전략 뒤에 숨은 신호

마이크로소프트가 자사 영업팀에게 OpenAI와 Anthropic 모델을 깎아내리는 방법을 훈련시키고 있다는 TechCrunch 보도가 나왔다. 자사 모델, 즉 Phi 시리즈와 MAI 계열이 더 싸고 효율적이라는 메시지를 고객에게 심으라는 것이다. 얼핏 보면 AI 시장의 흔한 세일즈 노이즈처럼 들릴 수 있다.

그런데 이 뉴스가 평범하지 않은 이유가 있다. MS는 OpenAI에 130억 달러 이상을 투자한 최대 파트너다. 그 파트너의 제품을 지금 자사 영업팀이 직접 공개적으로 깎아내리고 있다는 구조 자체가, 공급사 관계가 얼마나 빠르게 달라질 수 있는지를 보여준다. 지금 내 제품이 Azure OpenAI 위에 올라가 있다면, 이 뉴스는 그냥 넘길 게 아니다.

우리 같은 소형 제품팀에게 이 뉴스가 중요한 이유는 딱 하나다. AI 모델은 이제 우리가 만드는 서비스의 핵심 부품이 됐다. 그 부품의 공급사가 스스로 불안정한 신호를 보내기 시작할 때, 아무 준비도 없으면 그 파장은 결국 우리 서비스의 사용자에게 직행한다.

비용이 싸면 사용자도 행복할까

MS 영업팀의 논리는 선명하다. 더 저렴하고, 더 빠르다. 실제로 Phi-4 같은 소형 모델은 특정 작업에서 GPT-4 대비 토큰 비용이 70~80% 낮고, 레이턴시도 짧다. 숫자만 보면 매력적인 전환 이유가 된다.

하지만 함정이 있다. "더 싸다"는 건 인프라 비용 얘기다. 사용자가 경험하는 건 결과물의 품질이다. 이 둘 사이의 갭을 어떻게 메우느냐가 제품 결정의 핵심인데, 영업 피칭은 그 갭을 깔끔하게 뭉갠다.

직접 Phi-4와 Claude Haiku를 같은 프롬프트에 돌려본 경험으로 말하면, 단순 분류나 요약 작업에서는 차이가 크지 않다. 반면 맥락을 타고 들어가야 하는 장문 생성이나 뉘앙스가 살아야 하는 편집 작업에선 체감 차이가 뚜렷하다. 비용을 30% 아끼려다 콘텐츠 재작업 비용이 2배로 불어난 팀 사례를 어렵지 않게 찾을 수 있다.

HEDVION 기준으로 구체적인 수치를 들면, 블로그 봇이 Claude Haiku로 생성한 콘텐츠의 AdSense 저가치 반려율은 프롬프트 튜닝 이후 5% 미만으로 유지되고 있다. 이 숫자가 모델 교체 이후 어떻게 달라지는지를 사전 테스트 없이 "영업사원 말 듣고" 전환하는 건 제품 결정이 아니다. 모델 비용을 아끼다가 발행 품질이 떨어지면, 그 손실은 API 요금 절감분의 몇 배로 돌아온다. AI 개발 비용의 함정은 늘 이런 식으로 숨어 있다.

벤더 인센티브와 제품 방향이 어긋나기 시작할 때

MS가 OpenAI를 공개적으로 깎아내리기 시작했다는 건, Azure OpenAI를 쓰는 제품팀에게 매우 직접적인 경고다.

시나리오를 하나 생각해 보자. Azure OpenAI로 GPT-4를 써서 제품을 운영 중이다. 어느 날 담당 영업이 바뀌고, 새 영업은 "이제는 Phi가 더 낫다"는 피칭을 들고 온다. 갱신 협상 때 기본 모델이 슬그머니 교체돼 있을 수도 있다. 계약서를 꼼꼼히 읽지 않으면 모르고 넘어간다.

이게 과장이 아닌 이유는, MS가 이미 그 방향으로 영업팀을 교육하고 있다는 게 이번 보도로 확인됐기 때문이다. 공급사의 인센티브가 내 제품 방향과 서서히 어긋나기 시작하는 순간이다.

소형 팀일수록 이 리스크가 더 크다. 대기업은 전담 구매팀이 있고, 복잡한 조달 프로세스가 모델 교체를 자연스럽게 버퍼링해 준다. 개발자 서너 명이 직접 API 청구서를 보면서 제품을 돌리는 팀은, 공급사 정책 변화가 제품 품질에 직행으로 꽂힌다. 중간에 막아줄 완충 구조가 없다.

장기적으로도 문제가 있다. 한 공급사 위에 깊게 박혀 있을수록 전환 비용이 커진다. 프롬프트 엔지니어링, 파인튜닝, 시스템 프롬프트 — 이 모든 게 특정 모델 특성에 최적화돼 있다면, 모델이 바뀌는 순간 다시 처음부터다.

우리 팀이라면 어떻게 했을까

HEDVION에서 실제로 쓰는 방식을 공개하면, 모든 AI 호출은 /opt/common/claude_cli.py 라는 얇은 래퍼 하나를 통한다. 각 봇이 Anthropic SDK를 직접 부르지 않는다는 게 핵심이다.

이 구조의 실질적인 이점은 단순하다. 공급사를 바꾸거나 모델 버전이 달라졌을 때, 봇 코드를 하나하나 건드리지 않아도 된다. 래퍼 한 곳만 수정하면 전체가 따라간다. 어느 모델이 나은지 A/B 테스트할 때도 래퍼 레벨에서 처리할 수 있다. 처음엔 이게 과설계처럼 보였는데, 실제로 모델 버전이 두 번 바뀌고 나서야 이 구조가 얼마나 시간을 아껴주는지 체감했다.

모델 선택 기준도 비용이 아니라 역할 기준으로 정해 뒀다. 본문 생성처럼 속도와 단가가 중요한 곳에는 Haiku, 검수나 판단처럼 정확도가 생명인 곳에는 Sonnet 이상. 역할 기반 기준이 있으면 외부 피칭에 흔들리지 않는다. 질문 자체가 달라지기 때문이다. "이 모델이 더 싼가?"가 아니라 "이 역할의 품질 기준을 이 모델이 만족하는가?"가 된다.

지금 Azure OpenAI를 쓰고 있고 영업에서 모델 전환 제안이 온다면, 우리 팀이 먼저 하는 일은 명확하다. 기존 운영 중인 프롬프트 100건을 뽑아 blind evaluation을 돌린다. 사람이 직접 결과물 품질을 채점한다. 비용 절감이 품질 저하를 정당화하는지를 수치로 확인한 뒤에야 결정한다. "영업 담당이 더 낫다고 했다"는 제품 결정의 근거가 아니다.

지금 바로 써먹을 수 있는 것들

AI 공급사들이 본격 경쟁 국면에 들어선 지금, 제품팀이 당장 점검해야 할 것들이다.

추상화 레이어부터 만들어라. 서비스가 LLM API를 직접 호출하고 있다면, 얇은 래퍼 하나를 먼저 만들어라. 30분짜리 작업이지만 공급사가 바뀌거나 모델이 갱신됐을 때 며칠을 아껴준다. 최소한 모델명을 환경변수나 config 파일로 빼는 것만으로도 시작은 된다.

역할별 모델 기준을 문서로 남겨라. "어느 모델을 왜 쓰는지"가 어딘가에 적혀 있어야 한다. 근거 없이 관성으로 쓰다 보면 영업 피칭 하나에 방향이 흔들린다. 기준이 있으면 외부 제안을 평가할 때도 훨씬 빠르다.

품질 지표를 운영 중인가 확인하라. 비용은 청구서가 알려준다. 품질은 측정해야만 안다. HEDVION은 AdSense 저가치 반려율과 자동 검수 REJECT 비율을 모델 품질 프록시로 쓴다. 수치가 있어야 "전환해도 되는가"를 판단할 수 있다. 없으면 느낌으로 결정하게 되고, 느낌은 영업 피칭에 취약하다.

MS가 무슨 영업 전략을 쓰든, 내 제품의 AI 선택 기준은 하나여야 한다. 내 사용자에게 어떤 경험이 돌아가는가. 공급사의 인센티브는 내 제품 방향과 언제나 완전히 같을 수 없다. 그 간격을 메우는 게 제품팀의 일이다.

원문: AI News & Artificial Intelligence | TechCrunch