Basic RAG.

200자 청크와 768차원 임베딩으로 시작하는 기본 검색 파이프라인

DOCUMENT CHAT

문서와 대화하기

벡터 RAG 챗봇

한글 사내 업무 규정

예제 문서를 불러오고 있습니다.

문서는 DB에 준비되어 있고, 질문 임베딩과 리랭킹은 실행할 때 처리합니다.

예제 문서 챗봇

Local Gemma 4확인 중—

문서 챗봇

안녕하세요. 사내 업무 규정이 준비되어 있어요. 아래 예제 질문을 선택하거나 궁금한 내용을 입력해 주세요.

유사도벡터 + 리랭킹

유사도가 높을수록 연관이 있는 정보입니다.

처리 방식

직접 업로드 문서는 브라우저에서 추출·청킹·임베딩한 뒤 DB에 저장합니다. 질문 임베딩, 벡터 검색, 유사도 기준과 답변 구성은 Python LangChain이 처리합니다.

Redis는 요청 순서를 관리하며, PC 모델 실행기가 리랭킹과 선택한 LLM 호출을 담당합니다.

EXAMPLE DOCUMENT

가상의 회사 규정입니다. 약 1~2페이지 분량이며 실제 업무 규정으로 사용하지 않습니다.

Basic RAG 설계

ARCHITECTURE

구성 요소의 역할과 데이터 흐름을 확인할 수 있습니다.

편집 가능한 draw.io 도면

구성도 텍스트 설명

예제 질문은 검토한 조항과 미리 생성한 모델 답변을 DB에서 바로 제공합니다. 브라우저 모델 다운로드가 없습니다.
예제에 직접 입력한 새 질문은 PC의 MPNet으로 임베딩한 뒤 공용 예제 DB를 검색합니다.
직접 업로드: 브라우저 본문 추출·200자 청킹·60자 중복·768차원 임베딩 → 쿠키 UUID별 DB 저장. 질문 전송 시 검색과 답변 생성을 이어서 실행합니다.
서버 전용 키와 접속 확인용 HttpOnly 쿠키로 개인 문서를 격리합니다. 공용 예제는 별도 테이블이며 브라우저의 DB 직접 접근은 차단합니다.
Gemma 4 E2B QAT가 PC에서 CPU로 실행됩니다. Vercel은 인증 게이트웨이·Cloudflare Tunnel로 연결하며 외부 LLM은 연결 대기 상태입니다.