[리뷰] 마법의 장막을 걷어낸 AI 엔지니어의 강력한 지적 나침반, 《AI가 일하는 법》

AI

1. 들어가며: 'Vibe Coding'과 'Library Import'의 시대에 던져진 화두

최근 AI 생태계의 발전 속도는 눈이 멀어버릴 정도로 빠릅니다. 프롬프트 몇 줄로 아키텍처를 설계하고, import 문 하나로 LLM의 강력한 결과물을 손쉽게 파이프라인에 이식하는 이른바 '바이브 코딩(Vibe Coding)'의 시대가 도래했습니다. 엔지니어로서 생산성이 극대화된 것은 분명 축복이지만, 한편으로는 마음 한구석에 서늘한 부채감이 자리 잡고 있었습니다.

"내가 지금 가져다 쓰는 이 거대한 인공지능 API와 에이전트들은, 정녕 내가 완전히 통제하고 있는 기술인가? 아니면 그저 블랙박스가 뱉어내는 '마법'에 의존하고 있는 것인가?"

이러한 기술적 갈증과 불안감이 엄습할 때, 로널드 크노이젤의 《AI가 일하는 법》을 만났습니다. 이 책은 난해한 수학 수식의 나열로 독자를 지치게 만들지도 않고, 반대로 단순히 AI의 트렌드만 겉핥기식으로 읊는 가벼운 대중서도 아닙니다. 저자의 말대로 숲과 덤불의 중간인 '나무 위에서 바라보는 관점'에서 AI의 본질적 메커니즘을 꿰뚫어 보는 책입니다.

2. 내 프로젝트와 경험에 비추어 본 이 책의 가치

최근 기업용 데이터 가상화 플랫폼(Denodo) 및 빅데이터 아키텍처 위에 RAG(검색 증강 생성) 기반의 AI 에이전트를 구축하는 프로젝트를 고민하며, 기술의 '흔들리지 않는 기초'가 얼마나 중요한지 절감하고 있었습니다. 아무리 화려한 프레임워크를 가져다 써도 환각(Hallucination) 현상이나 데이터 편향 문제를 해결하려면 결국 알고리즘의 본질을 알아야 하기 때문입니다.

이 책에서 가장 짜릿했던 부분은 CHAPTER 3(과거의 머신러닝)에서 CHAPTER 4(신경망), 그리고 CHAPTER 7(대형 언어 모델)로 이어지는 징검다리였습니다.

 

• 고전 머신러닝과의 연결고리: 저자는 최근접 모델, 랜덤 포레스트, SVM 같은 고전 모델을 먼저 빌드업합니다. "현대 AI를 이해하려면 고전부터 알아야 하며, 여기에 적용되는 원리가 신경망에도 그대로 적용된다"는 파트는 무릎을 치게 만들었습니다. 최신 LLM도 결국 '입력 데이터의 다음 단어를 가장 정확하게 예측하려는' 정교한 최적화 알고리즘의 연장선에 불과하다는 점을 직관적인 비유로 깨닫게 해줍니다.
• 인공 뉴런의 직관적 비유: 인공 뉴런을 '다이얼 스위치가 달린 전등'에 비유한 대목은 복잡한 활성화 함수(Activation Function)의 개념을 수식 없이 완벽하게 이해시키는 최고의 설명이었습니다.

 

 

3. 프로젝트에서 체감한 ‘이해의 차이’

실무에서 AI를 다룰 때 가장 곤란한 순간은 의사결정이다. 모델을 바꿔야 할지, 데이터가 문제인지, 구조를 손봐야 하는지 판단해야 할 때 말이다. 이 책을 읽고 난 뒤 가장 크게 달라진 점은, 선택의 기준이 생겼다는 것이다. 특히 고전 머신러닝을 다시 짚고 넘어가는 3장은 인상적이었다. 최근접 모델, 랜덤 포레스트, SVM 같은 모델들은 이미 “지나간 기술”처럼 취급되지만, 실제로는 지금 사용하는 신경망의 사고방식을 이해하는 데 결정적인 역할을 한다.
신경망이 왜 그런 구조를 취하게 되었는지, 왜 확률적 선택을 하는지, 왜 완벽하지 않은지를 이 과거 모델들이 설명해 준다.

덕분에 모델 성능이 기대만큼 나오지 않을 때, 무작정 파라미터를 튜닝하기보다
“이 문제는 표현의 문제인가, 학습의 문제인가”를 먼저 생각하게 됐다.

4. 비유가 단순해서가 아니라, 정확해서 좋다

이 책의 가장 큰 강점은 비유다. 하지만 흔히 말하는 ‘쉽게 설명한 책’과는 결이 다르다. 비유가 단순한 것이 아니라 정확하다.

신경세포를 전등 스위치에 비유한 설명이나, 알고리즘과 프로그램을 레시피와 직원의 작업으로 풀어낸 부분은 단순한 설명을 넘어 개념의 경계를 명확히 잡아준다. 덕분에 AI를 비전공자에게 설명해야 할 상황에서도, 막연한 설명이 아니라 구조를 전달할 수 있게 됐다.

5. LLM을 바라보는 시선이 달라지다

대형 언어 모델을 다루는 7장은 개인적으로 가장 오래 머물렀던 장이다. LLM을 “다음 단어 예측기”라고 설명하면서도, 왜 그게 추론과 창의로 이어지는지 설명하기 어려웠던 경험이 많았기 때문이다. 이 책은 LLM을 과대평가하지도, 과소평가하지도 않는다.
그저 어디까지가 설계이고, 어디서부터가 emergent behavior인지를 차분하게 짚는다. 덕분에 LLM을 만능 도구가 아니라, 성격이 분명한 도구로 바라보게 됐다. 이 시선의 변화는 곧바로 실무에 영향을 준다. 프롬프트를 설계할 때도, RAG 구조를 짤 때도
“모델이 뭘 이해할 수 있는가”가 아니라 “모델이 어떤 방식으로 추론하는가”를 먼저 떠올리게 된다.

 

덕분에 복잡한 분산 아키텍처와 MLOps 파이프라인을 설계할 때, AI 기술을 단순한 '마술 상자'가 아닌 내가 설계하고 제어할 수 있는 '예측 가능한 과학적 도구'로 다시금 정의할 수 있게 되었습니다.

6. 읽고, 쓰고, 나누며 찾은 '성장'의 이정표

이 책의 가장 큰 미덕은 개발자와 비개발자 모두에게 각자의 이정표를 제시한다는 점입니다.

• 동료 개발자들에게: 매일 API를 호출하고 모델을 파인튜닝하면서도 "내부 레이어에서 정확히 무슨 일이 일어나는 거지?"라는 의문이 들었다면, 이 책이 그 블랙박스의 장막을 걷어내 줄 것입니다. 왜 CNN이 시각 지능의 혁명을 이끌었는지, GAN과 확산 모델(Diffusion Model)의 차이가 무엇인지 기술적 필연성을 이해하게 됩니다.
• 함께 항해하는 일반인과 동료들에게: AI 아키텍처를 도입하려는 의사결정자나 기획자에게는 기술적 허구(Hype)에 매몰되지 않고 AI의 현재와 미래를 균형 있게 조망할 수 있는 '지적 나침반'이 되어줍니다.

 

책의 후반부에 배치된 '용어집(Glossary)' 또한 현업에서 동료들과 소통하거나 프로젝트 가이드라인을 작성할 때 훌륭한 레퍼런스가 되어줄 만큼 정교하게 정리되어 있습니다.

 

 

 

7. 마무리에 부쳐: 사람의 온기로 기술을 바라보기

"LLM의 원래 목표는 다음에 올 단어를 예측하는 것이었지만, 그 과정에서 질문 답변, 수학적 추론, 논리적 추론 등 새로운 능력을 스스로 학습했습니다. 이는 생각의 본질과 인간 정신의 고유함에 대해 질문하게 만듭니다." (본문 중)

AI 에이전트와 오픈소스 아키텍처를 연구하고 리드하는 입장에서, 이 책은 기술적 숙제를 넘어선 묵직한 감동을 주었습니다. 컴퓨터가 인간의 뇌와 눈, 그리고 창의성을 닮아가는 과정을 따라가다 보면 기술의 차가움보다는 그것을 구현해 낸 인류의 지적 성취에 대한 경외감이 먼저 듭니다.

AI 시대를 살아가는 모든 엔지니어와 지식 탐구자들에게 일독을 강력히 권합니다. 마법이 과학으로 치환되는 순간, 비로소 우리는 AI라는 거대한 파도 위에서 키를 쥔 선장이 될 수 있을 것입니다.

 

 

제이펍 <서평단 당첨> 활동을 위해 책을 제공받아, 실무 엔지니어로서의 경험과 진정성을 담아 솔직하게 작성한 서평입니다.