Nvidia 70% 성장이 바꾸는 소팀 역량 기준

Nvidia가 내년 70% 성장한다는 발표를 주가 전망으로만 읽으면 절반밖에 못 본다. Jensen Huang이 이번 인터뷰에서 강조한 건 GPU 판매 숫자가 아니라, Nvidia가 AI 소프트웨어 스택 전반에 걸쳐 성장한다는 그림이다. CUDA 에코시스템부터 NIM(Nvidia Inference Microservices)까지 — 그 인프라가 만들어내는 게 뭔지가 우리 같은 소팀에게 진짜 질문이다.

GPU 공급이 70% 늘어난다는 건 AI 추론 비용이 더 내려가고, 더 강력한 모델이 더 싸게 API로 풀린다는 신호다. Claude Haiku 기준 토큰당 비용은 2024년 초 대비 현재 10분의 1 수준까지 내려왔다. 이 추세가 내년에도 이어지면 우리 팀 월 API 비용은 더 줄어든다. 좋은 일이다. 근데 문제는 그 다음에 온다.

비용이 낮아지면 더 많은 팀이 AI 개발 도구를 쓴다. "AI 써봤어요"가 차별점이던 시절은 이미 끝났고, 이제 곧 그게 기본 조건이 된다. 역량의 기준선이 올라간다는 뜻이다. 지금 준비하지 않으면 그 기준에 따라잡히는 속도가 생각보다 빠르다.

인프라가 팽창할수록 희소한 것이 달라진다

역설이 있다. AI 개발 도구 비용이 낮아질수록, 그 도구를 제대로 쓰는 사람의 희소성은 오히려 높아진다.

왜 그런가. "쉬워진다"는 건 입문이 쉽다는 뜻이지, 잘 쓰기가 쉽다는 뜻이 아니다. GitHub Copilot으로 자동완성 쓰는 것과, LLM을 API로 엮어서 검증 루프·fallback 로직·재학습 파이프라인을 갖춘 프로덕션 시스템을 설계하는 건 완전히 다른 능력이다. 도구가 강력해질수록 그 도구의 한계를 알고 설계할 수 있는 사람과 그냥 쓰는 사람 사이 격차는 줄지 않는다. 오히려 벌어진다.

수치로 보면 더 명확하다. 우리 팀에서 직접 겪어보니, AI 개발 도구를 제대로 쓰는 사람 한 명과 그렇지 않은 경력 3년 개발자 한 명이 같은 봇 구축 과제를 받았을 때, 초안 배포까지 걸리는 시간이 5배 이상 차이 났다. 코드 퀄리티 얘기가 아니라 완료 속도에서. 그리고 Nvidia가 AI 인프라를 더 많이 공급하면 이 격차를 만드는 도구들이 더 강력해진다.

트레이드오프도 분명히 있다. AI 도구에 익숙한 사람은 종종 레거시 시스템 이해나 깊은 디버깅에 약하다. MySQL idle timeout으로 연결이 끊기는 버그를 직접 추적하는 능력이 떨어지는 경우가 있다는 게 우리 경험이기도 하다. 소팀은 두 유형을 동시에 뽑을 여력이 없다. 그래서 선택을 해야 한다.

"AI 잘 쓴다"의 실제 기준 세 가지

지금 시점에서 AI 개발 도구를 제대로 쓰는 사람과 그냥 쓰는 사람은 세 지점에서 갈린다.

첫째, 프롬프트 설계다. 단순히 "이 코드 고쳐줘"가 아니라, 컨텍스트·제약조건·출력 형식을 명시적으로 설계한다. 우리 blog 봇 시스템 프롬프트가 "2800-4000자, 섹션 4-6개, 특정 상투어 목록 금지, 종결 어미 다양화"를 촘촘하게 잡는 것처럼. 이걸 즉흥적으로 치느냐, 설계해서 박느냐는 결과물 품질에서 명확히 갈린다.

둘째, 에이전트 파이프라인 설계다. 단일 LLM 호출로 끝나는 작업과, 생성 → 검수 → 발행 → 재학습 사이클을 설계하는 작업은 요구하는 사고방식 자체가 다르다. 각 단계에서 실패를 어떻게 감지하고, 어디서 사람이 개입해야 하는지, 실패 시 어디로 빠져야 하는지를 먼저 그릴 수 있어야 한다. Jensen Huang이 말하는 AI 소프트웨어 스택 성장은 이런 파이프라인 도구들이 더 강력해진다는 뜻이기도 하다.

셋째, 가드레일 설계다. AI가 틀릴 때 어떻게 막을 것인가. 우리가 kpopdex에 허위 컴백 차단 로직을 넣고, vtuberprofile에 소속사 교차검증 가드를 박은 이유는 간단하다. AI 결과물을 그냥 믿고 발행했다가 허위 정보가 나간 경험이 실제로 있어서다. 이 경험 없이는 왜 가드가 필요한지 피부로 못 느낀다.

이 세 가지를 갖춘 사람은 지금 시장에 많지 않다. Nvidia 공급이 70% 늘어나도, 이 역량을 가진 사람이 70% 늘어나진 않는다.

지금 채용 기준을 어떻게 다시 짜야 하는가

HEDVION은 수십 개의 봇이 매일 콘텐츠를 생성하고 발행하고 검수하는 구조를 소수 인원으로 돌린다. 이게 가능한 건 AI 개발 도구를 팀 핵심 역량으로 내재화했기 때문이다. 만약 지금 채용을 해야 한다면, 공고 자체가 달라져야 한다.

예전 공고: "Python 3년 이상, REST API 설계 경험, MySQL 최적화." 지금 우리가 던지고 싶은 질문은 다르다. "Claude API나 OpenAI API를 프로덕션에서 직접 쓴 경험이 있는가?" "AI가 생성한 결과물이 틀렸을 때 어떻게 감지했는가?" "봇 하나를 처음부터 설계하고 배포한 경험이 있는가?" 이 세 가지에 구체적으로 답할 수 있는 사람과 없는 사람의 온보딩 속도 차이는 2~3배다.

과제 전형도 바뀐다. "간단한 CRUD API 만들기" 대신 이렇게 낸다. "뉴스 URL을 받아서 LLM으로 요약하되, 요약이 원문 사실을 벗어났을 때 감지하는 로직까지 포함한 파이프라인을 설계하시오." 이 한 가지 조건이 지원자를 가른다. 파이프라인 설계 경험이 없는 사람은 LLM 호출까지는 하는데 검증 로직이 없거나, 있어도 엉성하다. 그게 보인다.

솔직한 트레이드오프를 말하자면, 이 기준으로 뽑으면 지원자 풀이 좁아진다. 경력이 짧아도 AI 파이프라인을 직접 짜본 사람이 경력은 길어도 거기 닿지 않은 사람보다 우리 팀에서 더 빠르게 성과를 낸다. 불편한 진실이지만, 지금은 그 선택을 해야 하는 시기다.

지금 당장 써먹을 수 있는 것들

채용 공고를 먼저 손본다. "AI 도구 활용 경험 우대"를 "LLM API 프로덕션 사용 경험 필수"로 바꾼다. 그리고 과제 전형에 LLM 파이프라인 설계 + 결과 검증 로직 포함 과제를 넣는다. 지원자 수가 줄어도 괜찮다. 맞는 사람 한 명이 안 맞는 사람 두 명보다 낫다.

팀 역량 스냅샷을 찍는다. 지금 팀에서 AI 개발 도구를 가장 잘 쓰는 사람이 누구인지 파악하고, 그 사람의 프롬프트 설계 방식과 파이프라인 구조를 문서화한다. 우리 blog 봇이 매일 학습 결과를 learned/{slug}.json으로 쌓아가는 것처럼, 팀의 AI 활용 노하우도 누적 자산이 되어야 한다. 개인 역량이 팀 자산으로 전환되지 않으면, 그 사람이 빠져나갔을 때 처음부터 다시 시작하게 된다.

새 도구 실험에 월정 예산을 잡는다. API 비용 절감보다 새로운 AI 개발 도구를 직접 써보는 데 쓰는 예산이다. Nvidia 공급 팽창으로 앞으로 6개월 안에 지금 없는 도구들이 더 나온다. 직접 써보지 않으면 경쟁 팀이 그걸로 이미 생산성을 높이고 있을 때 따라잡는 비용이 배로 든다.

마지막으로, 지금 팀에서 반복 작업 하나를 골라 AI로 대체 실험을 시작한다. 처음엔 엉성해도 된다. 파이프라인이 있는 팀과 없는 팀은 6개월 뒤 완전히 다른 위치에 있다. 어느 작업을 고르느냐보다, 지금 시작하느냐가 훨씬 더 중요하다.

Nvidia가 70% 성장하면 AI 인프라는 더 싸지고 더 강력해진다. 그 물결이 역량 시장을 다시 그릴 때, 도구를 쓸 줄 아느냐보다 그 도구로 무엇을 설계하느냐를 아는 팀이 남는다.

원문: AI News & Artificial Intelligence | TechCrunch