RAG & KEYWORD Chat Bot.

벡터와 단어 검색을 합쳐 관련 문서를 찾기

이 페이지 사용 모델Local Gemma 4 · 대기열

Local Gemma 4확인 중—이 페이지

벡터와 BM25로 문서 후보를 검색하고 RRF와 리랭킹을 거쳐 선택한 모델이 답합니다.

KEYWORD CHAT

키워드 문서와 대화하기

벡터 + BM25 챗봇

한글 사내 업무 규정

예제 문서를 불러오고 있습니다.

문서는 DB에 준비되어 있고, 질문 임베딩과 리랭킹은 실행할 때 처리합니다.

예제 문서 챗봇

Local Gemma 4확인 중—

문서 챗봇

안녕하세요. 사내 업무 규정이 준비되어 있어요. 아래 예제 질문을 선택하거나 궁금한 내용을 입력해 주세요.

유사도벡터 + BM25 + 리랭킹

벡터 기준 이상인 후보와 BM25 순위를 합쳐 관련 순으로 다시 평가합니다.

처리 방식

직접 업로드 문서는 브라우저에서 200자 청킹·60자 중복·768차원 임베딩 후 DB에 저장합니다.

질문 임베딩부터 벡터·BM25 검색, RRF, 근거 선정과 답변 구성까지 Python LangChain이 조정합니다. Redis는 순서를 관리하고, PC 모델 실행기가 리랭커와 선택한 LLM을 호출합니다.

EXAMPLE DOCUMENT

가상의 회사 규정입니다. 약 1~2페이지 분량이며 실제 업무 규정으로 사용하지 않습니다.

문서를 브라우저에서 청킹·임베딩해 쿠키 UUID별 DB에 저장합니다. 벡터와 BM25 검색 결과를 RRF로 합치고 리랭킹한 상위 근거로 선택한 LLM이 답합니다.

가상 요청“연차 휴가 신청 기한과 승인 절차를 알려줘.”

예상 결과

의미와 키워드 검색을 함께 반영한 답변과 참고. 검색·리랭킹 점수는 정답 확률이 아닙니다.