책
『구독형 AI의 한계를 넘어선 로컬 LLM 구축 바이블』이 2026년 1월 5일 도서출판 은빛나무에서 나왔다. 은빛나무 AI 3부작의 2부다. 1부가 언어 모델과 대화하는 법을 가르쳤다면 2부는 조직이 소유하는 모델을 직접 만들고 운영하는 법을 가르친다.
책은 AI 도입이 가장 자주 멈추는 순간에서 시작한다. 누군가 회사 데이터를 구독형 챗봇에 붙여 넣으려다 멈칫하는 순간이다. 외부 서비스형 모델이 채우지 못하는 요구 세 가지에 이 책이 답한다. 사내 문서가 회사 밖으로 나가지 않게 하는 데이터 주권. 조직의 규정과 용어를 아는 모델. 그리고 한 벤더의 가격·약관·로드맵에 묶이지 않는 독립성이다.
다루는 내용
로컬 모델의 전 과정을 한 권에 담았다.
- Ollama 기반 로컬 인프라: 설계, 설치, 모델 선택, Modelfile 기초
- 프롬프트와 역할 설계: 원칙, 시스템 프롬프트, 태스크별 패턴, 고급 기법
- RAG(검색 증강 생성)로 모델을 회사 문서에 연결하기: 아키텍처, 문서 인게스트, 청크 분할과 임베딩, 벡터 검색, 응답 품질
- 파인튜닝으로 회사 스타일 가르치기: 데이터셋 설계, 품질 관리, LoRA와 QLoRA, Ollama로 다시 배포
두 가지 구축 사례를 개념 검증(PoC)에서 프로덕션까지 끝까지 따라간다. 사내 지식 도우미와 고객지원 도우미다. 사례마다 바로 실행할 수 있는 명령어와 Modelfile, 아키텍처 다이어그램이 함께 실렸다.
차례
- 프롤로그. 왜 로컬 LLM인가: 업무 현장의 변화, 일반 LLM vs 우리 회사 전용 LLM, 읽는 법
- 1장. LLM과 Ollama 이해하기: 토큰·임베딩·컨텍스트, 트랜스포머, 프롬프트·RAG·파인튜닝의 관계
- 2장. Ollama 기반 로컬 LLM 인프라 구축
- 3장. 프롬프트 & 역할 설계
- 4장. RAG로 회사 데이터 연결하기
- 5장. 파인튜닝
- 6장. 실전 케이스: 로컬 지식베이스 & 고객지원 LLM(PoC → 프로덕션)
- 맺음말. 이 책의 마지막 장을 넘기며
관점
이 책은 배포할 수 없는 이론보다 조직이 이미 가진 자원으로 세울 수 있는 시스템을 택한다. 시연보다 결과에 책임을 질 독자를 위해 엔지니어링 쪽에서 쓴 책이다.
ChatGPT가 아닌 회사 자체 LLM을 만들고 싶을 때!
서지 정보
- 출판사: 도서출판 은빛나무
- 발행일: 2026년 1월 5일
- ISBN: 979-11-993543-7-1
- 판형·쪽수: 602쪽, 194 × 260mm
- 언어: 한국어
- 시리즈: 은빛나무 AI 3부작 2부(만드는 법)
자세한 소개는 이 사이트의 도서 페이지에 있다. 책은 YES24에서 살 수 있다.
3부작 안에서
1부 『프롬프트를 알면 인공지능이 보인다』는 2025년 7월에 나왔다. 3부 『인공지능 개론』은 AI가 실제로 어떻게 작동하는지 가르치는 입문서로 핵심 계산 다섯 가지를 손으로 직접 풀어 본다. 2026년 8월 3일에 나와 3부작을 마무리했다.