← 모든 글

AfterQuery 5개월 10배 — 제품 결정 수명이 짧아지고 있다

AI 모델 훈련 스타트업 AfterQuery가 YC 최단 유니콘이 된 건 투자 흥미거리가 아니다. 이 속도가 우리 서비스의 AI 기능 결정 방식을 어떻게 바꿔야 하는지 제품 팀 시각으로 해석한다.

5개월 만에 10배 — 어떻게 읽을 것인가

AfterQuery는 올해 4월, 시리즈 A를 3억 달러 밸류에이션으로 마감했다. 5개월 뒤인 지금, 32억 달러다. YC 역사상 가장 빠른 유니콘 — 브렉스도, 딜도, 스트라이프도 이 속도는 아니었다. 10.7배가 5개월 만에.

이 회사는 AI 모델 훈련 데이터 인프라를 만든다. 모델 자체가 아니라, 모델을 학습시키는 과정에서 생기는 데이터 관리·가공 파이프라인의 복잡성을 해결한다. 생성형 AI 붐이 가속하면서 이 파이프라인이 실질적인 병목이 됐고, AfterQuery가 그 병목에 정확히 꽂혔다. 투자자들이 밸류를 10배 올린 건 기술 자체의 마법이 아니라 그 병목의 크기를 시장이 재확인했기 때문이다.

"AI 스타트업 또 큰돈 받았네"로 읽으면 아무것도 안 남는다. 우리 같은 작은 제품 팀한테 이 속도는 다른 신호를 보낸다. AI 인프라가 이 페이스로 성숙해간다는 건, 오늘 내리는 제품 결정의 수명이 그만큼 짧아지고 있다는 뜻이다. 단, "그러니까 빨리 결정하라"는 단순한 조언으로 환원하면 오히려 더 큰 함정에 빠진다.

제품 결정의 수명이 줄어드는 메커니즘

6개월 전에 어떤 팀이 GPT-4 기반으로 콘텐츠 요약 기능을 붙였다고 하자. 당시엔 충분히 합리적인 선택이었다. 지금은 그 모델보다 훨씬 저렴한 가격에 비슷하거나 더 나은 성능의 옵션이 여럿 존재한다. AfterQuery처럼 학습 인프라를 전문으로 하는 회사들이 이 교체 사이클을 더 빠르게 돌리고 있다. 더 좋은 훈련 데이터, 더 빠른 학습, 더 다양한 특화 모델 — 이쪽에 천문학적인 돈이 쏟아지는 중이다.

예전엔 DB 스키마를 한 번 결정하면 수년은 갔다. AI 통합 결정은 다르다. 우리 팀에서 실제로 느낀 건, 1년 전에 붙여놓은 AI 기능의 API 호출 방식 자체에 deprecated 경고가 뜨기 시작했을 때였다. 12개월도 안 됐는데. 그때 처음으로 'AI 레이어도 다른 인프라처럼 교체 비용을 미리 설계해야 한다'는 걸 제대로 실감했다. 뒤늦게 알아도 이미 코드 곳곳에 모델명이 박혀 있었고, 수습하는 데 예상의 두 배가 걸렸다.

10배 점프에 숨은 트레이드오프

AfterQuery의 밸류에이션이 10배 뛰었다는 건, 이 회사가 AI 훈련 데이터 파이프라인 영역에서 핵심 인프라 포지션을 선점했다는 의미다. 이걸 쓰는 팀들은 파이프라인 복잡도를 외주화하는 대신 벤더 종속 리스크를 가져간다.

32억 달러 밸류는 "나중에 갈아타기 어렵다"는 뜻이기도 하다. 인프라 회사가 클수록 전환 비용이 높아지는 건 AWS를 쓰는 팀들이 다 알고 있는 이야기. 작은 팀 입장에서 이 신호를 읽는 방식은 명확하다 — 지금 우리가 어떤 AI 레이어 위에 제품을 쌓고 있는지가 1~2년 뒤 리플랫폼 비용을 결정한다. 화려한 유니콘 소식 뒤에는 항상 이런 전환 비용 계산이 기다리고 있다.

AI 훈련 인프라가 빠르게 성숙한다는 건 특화 모델의 출현 속도도 함께 빨라진다는 뜻이다. 지금은 법률 문서 요약을 범용 모델로 처리하지만, 몇 달 뒤엔 법률 특화 파인튜닝 모델이 절반 가격에 두 배 정확도로 나올 수 있다. 이 환경에서 제품 결정의 핵심 질문이 바뀐다. "어떤 모델을 쓸까"에서 "AI 레이어를 얼마나 쉽게 갈아탈 수 있는 구조로 만들었나"로.

우리 팀 시나리오: 직접 부딪혀본 현실

우리는 여러 사이트의 콘텐츠 생성·자동화 파이프라인을 직접 운영한다. AI 레이어를 교체할 때마다 드는 비용이 만만치 않다. 프롬프트 재조정, 출력 형식 맞추기, 검수 기준 재설정까지. 직접 겪어보니 모델 교체 자체보다 "이게 기존 결과물과 얼마나 달라지나"를 검증하는 시간이 항상 더 길었다.

가장 효과를 봤던 건 단순한 것이었다. model_id를 설정 파일로 빼두는 것. 처음엔 어차피 같은 모델 쓰는데 굳이 싶었는데, 3개월 뒤 모델을 바꿀 때 코드 수정이 한 줄이었다. 그 전에 직접 박아뒀던 구간은 파일 열두 개를 뒤졌다. 별 것 아닌 것 같아도, 이 차이가 교체 결정을 쉽게 내릴 수 있느냐 없느냐를 실질적으로 결정한다.

AI 개발자 국비 교육 과정이 특정 모델이나 플랫폼 API 사용법 위주로 짜여 있는 경우가 많은 것도 이 맥락에서 문제가 된다. 툴은 6개월이 멀다 하고 바뀐다. AfterQuery 같은 회사들이 AI 인프라 진화를 가속할수록 특정 플랫폼 사용법의 반감기는 더 짧아진다. 팀 안에서 AI 기능을 담당하는 사람이 "이 API 쓰는 법"보다 "교체 가능한 AI 레이어 설계법"에 익숙해야 하는 시대가 이미 됐다. 채용할 때도, 교육 투자 방향을 정할 때도 이 기준이 다르다.

지금 바로 써먹을 수 있는 것들

AfterQuery가 5개월 만에 32억 달러가 된 건 구경거리가 아니다. 내일 AI 관련 제품 결정을 하나라도 내린다면, 아래가 실제 작업에서 바로 써먹을 만하다.

AI 레이어 교체 비용을 지금 당장 견적 내라. 현재 AI 기능 중 모델명이 코드에 직접 박힌 곳을 세어보자. 많을수록 6개월 뒤 교체 프로젝트가 2~3배 커진다. model_id를 환경변수나 설정 파일로 분리하는 건 오늘 할 수 있는 가장 작은 리팩터링이다.

사용자 경험의 바닥선을 명시적으로 정해라. 인프라가 바뀌어도 사용자가 경험하는 품질이 어느 선 이하로 내려가면 안 되는지 팀 안에서 합의해두자. 기준이 없으면 빠르게 교체하다가 유저 경험이 한 번 흔들리고, 그 수습이 교체 작업보다 더 오래 걸린다.

분기마다 현재 AI 스택의 대안 비용을 비교하라. 3개월에 한 번, 현재 쓰는 모델과 유사한 용도의 대안을 토큰당 비용과 실제 품질 기준으로 나란히 놓고 봐야 한다. AfterQuery 같은 회사들이 만드는 파동은 실제 API 가격표와 오픈 모델 성능으로 수개월 뒤 반영된다. 비교하지 않으면 2배 비싼 옵션에 고착된 채로 6개월을 보내게 된다.

AI 기능 한 영역을 책임지는 사람 한 명을 명시적으로 지정하라. 소규모 팀일수록 "다 같이 쓰는 AI 도구"가 아무도 책임 안 지는 도구가 된다. 누군가 한 명이 AI 레이어의 현재 상태와 대안 동향을 주기적으로 챙기는 구조가 없으면, 환경이 바뀐 걸 6개월 뒤에야 알게 된다. 결국 그게 가장 비싼 제품 결정 실수가 된다.


원문: AI News & Artificial Intelligence | TechCrunch

* 위 링크는 인프런 affiliate 활동의 일환이며, 일정액의 수수료를 제공받을 수 있습니다.

📚 추천 강의
한 입 크기로 잘라먹는 바이브코딩 (with Claude Code)
Claude Code로 바이브코딩, 개발자라면 꼭 들어야 할 필수 강의
강의 보러가기 →

* 위 추천 링크는 쿠팡파트너스 활동의 일환이며, 일정액의 수수료를 제공받을 수 있습니다.