『에이전트 시대의 AI 시스템 설계』 — LangChain 다음에 읽어야 할 책

에이전트 시대의 AI 시스템 설계

한빛미디어 <나는리뷰어다> 활동의 일환으로 도서를 제공받아 읽고 작성한 리뷰입니다. 

---

 

본문

이 책을 집어든 이유

요즘 사내에서 LLM을 붙인 업무 자동화 PoC를 굴리고 있다. 데모 단계까지는 어떻게든 됐는데, 답이 매번 미묘하게 다른 문제 와 근거 없는 답을 그럴듯하게 지어내는 문제 가 좀처럼 잡히지 않았다. 프롬프트를 다듬는 것만으로는 한계가 명확했고, LangChain 공식 문서와 입문서 한두 권으로는 "왜 깨지는지" 를 시스템 차원에서 설명해 주는 자료가 없었다.

마침 한빛미디어 <나는리뷰어다> 활동으로 이 책을 받아 보게 됐다. "32가지 설계 패턴" 이라는 표지의 카피가 일단 마음을 끌었다. 머신러닝 디자인 패턴(2021)을 썼던 그 락슈마난이 LLM/에이전트 시대 버전으로 다시 돌아왔다는 점도 컸다.

 

한 줄 요약

이 책은 "모델을 GPT에서 Claude로, 프레임워크를 LangChain에서 LangGraph로 바꿔도 무너지지 않는 설계 원칙" 을 32개의 패턴으로 정리한 카탈로그다. 패턴마다 문제 정의 → 해법 → 트레이드오프 → 파이썬 예제 가 일관된 형식으로 들어 있어, 읽다 보면 자연스럽게 "이 패턴은 우리 시스템에 적용할 수 있을까?" 를 자기 검열하게 된다.

저자 두 사람의 이력이 책의 톤을 설명한다. 발리아파 락슈마난은 구글에서 AI 솔루션 디렉터를 거쳐 금융 도메인 에이전트 스타트업을 창업했고, 하네스 하프케는 핀테크 디지츠(Digits)에서 ML 시스템을 만든 GDE다. 둘 다 "PoC를 프로덕션으로 가져갈 때 무엇이 깨지는가" 를 직접 겪은 사람들이라 패턴들이 학술적이지 않고 운영자 시점이다. 번역은 류광 — 『AI 에이전트 인 액션』, 『LLM 인 프로덕션』, 『그림으로 배우는 생성형 AI』를 옮긴 그 분이라 용어 일관성이 깔끔하다.

---

32가지 패턴이 7개 영역으로 묶이는 방식

목차를 영역 단위로 다시 보면 책의 의도가 더 잘 보인다.

• 콘텐츠 제어 (CH2 · 패턴 1~5) — 로짓 마스킹, 문법, 스타일 전이, 역중립화, 콘텐츠 최적화. "출력이 매번 다른 문제" 를 모델이 아니라 시스템 차원에서 묶어 잡는 영역.
• 지식 추가 — 기본/고급 (CH3·4 · 패턴 6~12) — 기본 RAG에서 출발해 색인 인식 검색, 노드 후처리, 신뢰할 수 있는 생성, 심층 탐색까지. RAG를 한 단어로 쓰는 책은 많지만 색인 단계와 검색 단계의 패턴을 분리해서 보여주는 책은 흔치 않다.
• 모델 능력 확장 (CH5 · 패턴 13~16) — CoT, ToT, 어댑터 조정, 지시사항 진화. 프롬프트로 안 풀리는 추론을 어디까지 시스템 설계로 우회할 수 있는가.
• 신뢰성 개선 (CH6 · 패턴 17~20) — 심판형 LLM, 성찰, 의존성 주입, 프롬프트 최적화. 운영 단계에서 가장 자주 마주치는 영역.
• 에이전트의 행동 능력 (CH7 · 패턴 21~23) — 도구 호출, 코드 실행, 다중 에이전트 협업. 다른 책의 메인 토픽이 여기서는 한 챕터 로 정리된다는 점이 시사하는 바가 있다.
• 제약 조건 해결 (CH8 · 패턴 24~28) — SLM, 프롬프트 캐싱, 인퍼런스 최적화, 성능 저하 테스트, 장기 기억. 비용·지연시간을 본격적으로 다룬다.
• 안전장치 (CH9 · 패턴 29~32) — 템플릿 생성, 조립 후 재구성, 자체점검, 가드레일.

마지막 10장은 조합 이다. 앞에서 다룬 패턴들을 실제 워크플로로 엮는 방법을 보여준다.

---

가장 와닿은 챕터 — 6장 신뢰성 개선, 그리고 4장 신뢰할 수 있는 생성

PoC 단계에서 가장 막혀 있던 "근거 없이 답을 지어내는 문제" 가 4장의 패턴 11(신뢰할 수 있는 생성) 과 6장의 패턴 17(심판형 LLM) 두 패턴으로 거의 그대로 정리됐다. 답변에 출처를 강제하는 구조와, 별도 LLM으로 답변 품질을 평가하는 구조를 분리해서 보고 나니 "품질 평가는 모델이 아니라 시스템에 책임을 주는 일" 이라는 게 머리에 박혔다.

특히 6장의 패턴 19(의존성 주입) 은 충격이 컸다. 에이전트가 호출하는 도구를 외부에서 주입하는 구조로 짜면 단위 테스트가 가능해진다는 단순한 아이디어인데, 그동안 우리 코드는 도구를 클래스 내부에서 직접 인스턴스화하고 있어서 에이전트의 행동을 테스트할 수 없는 상태 였다. 책을 덮자마자 우리 PoC 레포의 agent.py 를 의존성 주입 방식으로 리팩토링하기 시작했다.

8장의 패턴 24(소규모 언어 모델) 도 인상적이었다. 모든 호출을 GPT-4 급으로 처리하는 PoC를 그대로 운영에 올리면 비용이 어디서 폭발할지 막막했는데, 어떤 단계에서 SLM으로 충분한가 를 판단하는 기준을 제시해 준다.

 

다른 책과 비교했을 때의 자리

같은 시기에 나온 한빛미디어의 『컨텍스트 엔지니어링으로 구축하는 AI 에이전트』, 위키북스의 『AI 에이전트 인 액션』, 『LLM 인 프로덕션』 과 비교하면 이 책의 자리가 분명해진다. 다른 책들이 프레임워크 기반의 구체적 구현 또는 컨텍스트 관리 전략 에 무게를 둔다면, 이 책은 한 단계 추상화된 "패턴 카탈로그" 다. 락슈마난의 전작 『머신러닝 디자인 패턴』(2021) 의 LLM 버전이라고 봐도 무리가 없다.

GoF 디자인 패턴이 특정 언어를 안 가리듯, 이 책의 32개 패턴도 LangChain/LlamaIndex/LangGraph 어느 쪽이든 적용된다. 프레임워크는 6개월 단위로 갈아엎히지만 패턴은 남는다 는 게 이 책의 베팅이다.

 

아쉬운 점

• 예제 코드가 파이썬 기반. 자바/코틀린/Go 백엔드 환경에 바로 옮기려면 한 번의 번역이 필요하다. 다만 패턴 자체는 언어 독립적이라 코드는 의사 코드처럼 읽고 우리 환경에 다시 짜는 식으로 쓰면 된다.
• 기초 RAG·LLM 개념이 익숙하다는 전제. 입문자에게는 패턴 1~5의 추상화 수준이 다소 높다. LangChain 입문서 한 권 또는 같은 저자의 『그림으로 배우는 생성형 AI』를 한 차례 거친 뒤 읽기를 권한다.
• 32개를 모두 적용할 필요는 없다. 본인 시스템에 매핑해 보면 절반은 지금 우리에게 필요 없는 패턴 이다. 그 매핑 작업 자체가 이 책의 진짜 학습이다.

---

어떤 사람에게 권하나

• ✅ LLM/RAG PoC를 한 번이라도 만들어 본 백엔드/AI 엔지니어 — 운영 단계에서 환각·비용·지연시간 문제로 막혀 본 사람.
• ✅ 사내 LLM 도입 아키텍처를 책임지는 테크리드/아키텍트 — 모델·프레임워크 선택 의사결정에서 휘둘리고 싶지 않은 사람.
• ✅ 여러 LLM 프레임워크 사이에서 무엇을 골라야 할지 모르겠는 개발자 — 이 책은 프레임워크 위 의 설계 원칙을 다룬다.
• ⚠️ LLM을 처음 접하는 입문자에게는 무겁다. 입문서 → 이 책 순서가 자연스럽다.

 

마무리

다 읽고 가장 먼저 한 일은 우리 PoC 레포를 열고 어떤 패턴이 빠져 있는가 를 적어 보는 일이었다. 신뢰할 수 있는 생성, 심판형 LLM, 의존성 주입, 가드레일 — 4개 패턴이 빠져 있었고, 그 자리에 임시 코드가 들어가 있었다. 다음 스프린트의 백로그에 이 4개를 올렸다.

LLM 시대의 디자인 패턴 GoF 가 될 수 있는 책이라는 게 한 달 가까이 곁에 두고 본 소감이다. 프레임워크 책처럼 6개월 뒤 버려질 책은 분명 아니다.