글 목록 · 6 / 6
-
Tool Use Loop 가 멈추지 않을 때 — 안전장치 설계
LLM 에이전트가 도구 호출 루프를 빠져나오지 못하는 상황을 어떻게 감지하고 제어할 것인가에 대해 팀이 고민한 내용을 공유한다.
-
Function Calling 과 MCP — 표준은 누가 정하는가
LLM 의 외부 도구 연동 방식이 function calling 에서 MCP 로 확장되는 흐름 속에서 표준화 논의를 살펴봤다.
-
Prompt Caching 을 실제 워크로드에 적용해본 회고
반복 호출이 많은 워크로드에 prompt caching 을 도입한 경험을 정리했다. 효과가 있었던 상황과 그렇지 않았던 상황을 나눠서 이야기한다.
-
1M 컨텍스트가 바꾼 것, 바꾸지 않은 것
백만 토큰 컨텍스트 창이 실무에서 실제로 어떤 변화를 가져왔는지, 그리고 여전히 변하지 않은 것은 무엇인지 돌아봤다.
-
LLM 토큰 가격이 또 떨어졌다 — 우리 인프라 계산식이 바뀐 지점
주요 LLM 의 토큰 단가가 빠르게 내려가면서 비용 설계 방식 자체를 다시 생각하게 됐다. 그 과정을 기록한다.
-
Agentic IDE — Cursor, Cline, Claude Code 중 우리가 고른 것
세 가지 AI 코딩 도구를 실무에서 직접 써보고, 우리 팀이 지금 어떤 조합으로 정착했는지 이야기한다.
-
RAG 가 사라지지 않는 이유
컨텍스트 창이 수백만 토큰으로 늘어났는데도 RAG 가 여전히 쓰이는 이유를 실무 관점에서 정리했다.
-
Claude 4 시리즈를 도입한 4주 후기
세 명이 함께 Claude 4 시리즈를 실무에 투입한 지 한 달이 됐다. 기대했던 것과 실제 달랐던 것을 솔직하게 정리한다.