ChatGPT나 Claude 같은 LLM은 똑똑하지만 우리 회사 규정은 모른다. 모르는 걸 알려 주는 방법이 RAG, CAG, KAG이고, 답을 글 대신 결정으로 받는 방법이 Jev다. 어려운 수식 없이, 흐름을 한 단계씩 눌러 보며 익힌다.
바쁘면 이것만 기억하자. 카드를 누르면 해당 장으로 간다. 왜 그런지는 아래 흐름과 각 장에서 하나씩 확인한다.
질문마다 관련 조각만 골라 LLM에게 건넨다. 출처를 보여주기 쉽다. 단, 검색이 놓치면 답도 없다.
자료 전체를 창에 넣고 ‘읽은 상태’를 저장해 재사용한다. 빠르고 검색 실수가 없다. 단, 창에 들어가야 한다.
문서를 (누가, 관계, 누구)로 엮고, 질문을 단계로 쪼개 선을 따라간다. 답의 근거 경로가 보인다. 단, 그래프 구축 비용이 크다.
글을 쓰지 않고 정해 준 선택지마다 확률을 준다. 위 세 방식이 모은 재료 위에서 ‘결정’ 단계를 맡는다.
위의 탭으로 방식을 고르고 다음 단계 →를 눌러 보자. 질문 칩을 바꾸면 각 단계에 표시되는 실제 데이터(검색 결과, 프롬프트, 그래프 경로, 확률)도 바뀐다. ▶ 자동 재생을 켜 두고 지켜봐도 된다.
RAG 탭에서 마지막 질문 “오로라 프로젝트 담당자의 팀장은 어디서 일해?”를 골라 ⑦~⑩단계를 보자. 검색이 정답 문장을 놓친다. 그다음 KAG 탭에서 같은 질문이 어떻게 풀리는지 비교해 보면, 이 책 전체의 이야기가 한눈에 들어온다.
모든 장이 같은 사내 문서 7개를 쓴다. 같은 자료를 두고 방식만 바꾸면 차이가 잘 보이기 때문이다. 회사와 사람 이름은 모두 지어낸 것이다.
처음엔 외우지 말고 훑어보기만 하자. 각 장을 읽고 돌아오면 칸마다 ‘왜’가 채워진다. 자세한 비교와 선택 마법사는 8장에 있다.
| RAG | CAG | KAG | Jev | |
|---|---|---|---|---|
| 핵심 질문 | 무엇을 찾아 읽힐까 | 무엇을 미리 다 읽힐까 | 지식을 어떻게 엮어 둘까 | 답을 어떤 모양으로 받을까 |
| 질문할 때 하는 일 | 검색 → 조각 k개 덧붙임 | 저장된 캐시 + 질문 | 질문 쪼개기 → 그래프 탐색 | 선택지마다 확률 계산 |
| 잘 맞는 자료 | 크고 자주 바뀌는 문서 | 창에 들어가는 작고 고정된 문서 | 관계가 많은 전문 분야 | (재료는 부르는 쪽이 준비) |
| 강점 | 확장성, 출처 제시 | 검색 실수 없음, 빠른 응답 | 다단계 추론, 설명 가능 | 빠름, 형식 보장, 확률 |
| 약점 | 검색이 놓치면 끝 | 창 크기·메모리 한계, 갱신 비용 | 그래프 구축·관리 비용 | 글을 못 씀, 선택지 밖 불가 |
| 출력 | 글 (생성) | 확률·선택 (결정) | ||
기초 → 세 가지 ‘건네는 법’ → 결정 모델 → 선택. 시간이 없으면 1 → 3 → 5 → 6 → 8장만 읽어도 큰 그림은 잡힌다.
모든 장에 비유, 흐름 애니메이션 또는 실험, 핵심 정리, 퀴즈가 들어 있다.