LLM / CONNECTION DESIGN

LLM 연결 구조.

검색과 도구를 어떻게 연결하고, 하나의 업무 흐름으로 구성할지 살펴봅니다.

예상 연결 설계

화면과 연결 설계를 보여주는 프로토타입입니다. 실제 LLM·검색·API·DB는 연결 예정입니다. 아래 시안은 가상 응답을 사용합니다.

ARCHITECTURE

LLM 예상 연결 구성도

구성 요소의 역할과 데이터 흐름을 확인할 수 있습니다.

편집 가능한 draw.io 도면
LLM 예상 연결 설계
.drawio 원본
LLM 예상 연결 구조. Next.js 요청 화면에서 FastAPI로 요청하고, 서버가 LLM과 대화하며 허용된 검색·도구만 실행합니다. RAG 문서 검색, 외부 API, 내부 DB, 웹 검색의 결과를 모델에 전달해 답변을 구성합니다. 화면 외 실제 연결은 모두 예정입니다.
실선은 현재 동작, 점선은 연결 예정입니다. 실제 연동 전 검토할 예상 구조이며, 요청에 필요한 연결만 사용합니다.
구성도 텍스트 설명
  • 화면 → FastAPI: 요청 검증과 실행 상태 관리.
  • FastAPI ↔ LLM: 질문·검색 근거·도구 정의를 전달하고 답변 또는 도구 호출 요청을 받습니다.
  • 서버 실행 계층: 허용 도구와 인자·권한을 검증하고 RAG·API·DB·웹 검색을 실행합니다. 모델이 직접 DB나 API 자격증명에 접근하지 않습니다.
  • RAG는 문서에서 근거를 검색하고, API·DB·웹 검색은 각각 필요한 데이터를 가져옵니다. 모든 요청이 네 가지 연결을 모두 사용할 필요는 없습니다.
  • 결과는 서버를 거쳐 LLM에 전달하고, 답변·출처·조회 조건을 화면에 반환하는 설계입니다.
  • 현재는 UI 미리보기입니다. 모델·서버·검색·도구의 실제 연결은 예정이며 공급자는 미선정입니다.

LLM 예상 연결 구성도

100%
LLM 예상 연결 구조. Next.js 요청 화면에서 FastAPI로 요청하고, 서버가 LLM과 대화하며 허용된 검색·도구만 실행합니다. RAG 문서 검색, 외부 API, 내부 DB, 웹 검색의 결과를 모델에 전달해 답변을 구성합니다. 화면 외 실제 연결은 모두 예정입니다.

스크롤로 도면을 이동하고, 확대·축소 버튼으로 크기를 조절할 수 있습니다.

CONNECTIONS

LLM에 연결할 기능

RAG는 검색 방식을 별도로 살펴보고, API·DB·웹 검색은 도구 연동 사례로 확인합니다.

툴콜링은 LLM이 사용할 도구와 인자를 요청하는 방식입니다. 실제 실행은 서버가 담당하며, 요청에 따라 필요한 기능만 연결합니다.

ORCHESTRATION

에이전트 구성과 확장

연결 대상과 작업을 나누는 방식은 별개의 설계 선택입니다.

기본 설계

단일 에이전트

하나의 에이전트가 필요한 검색·도구를 선택하고 결과를 정리합니다. 조회 목적과 처리 단계가 명확한 업무에서 먼저 검토합니다.

  1. 요청과 조건 확인
  2. 필요한 검색·도구 실행
  3. 결과 확인과 답변
Agentic RAG 규정 검색
확장 검토

멀티에이전트

조사·업무 조회·검토처럼 역할과 컨텍스트를 나눌 필요가 있을 때 확장합니다. 각 역할이 필요한 RAG와 도구를 사용하고 조정자가 결과를 통합합니다.

  1. 조정자: 작업 분배와 종료 조건
  2. 담당 에이전트: 문서 조사·업무 조회
  3. 검토 역할: 근거 확인 → 최종 통합
사내 업무 자동화 시안

여러 도구를 연결한다고 멀티에이전트가 되는 것은 아닙니다. 이 페이지는 구성 방향이며, 자율 실행·역할 간 메시지·평가 기능은 아직 구현하지 않았습니다.

BUSINESS PROCESS / EXAMPLE

출장 신청을 사전검토한다면

검색 전략과 도구 연결을 하나의 요청 안에서 조합하는 예상 흐름입니다.

“서울 3박 4일 출장의 규정과 프로젝트 예산을 확인하고 신청서 초안을 만들어줘.”
  1. 01

    출장 규정 확인

    Agentic RAG로 신청 조건·숙박비 조항의 근거를 확인합니다.

  2. 02

    업무 정보 조회

    허용된 내부 DB 도구로 프로젝트·예산 정보를 확인합니다.

  3. 03

    근거와 결과 검토

    조건 누락·조회 실패·문서 불일치를 확인합니다.

  4. 04

    신청서 초안 작성

    검토 금액·적용 조항·미확인 항목을 문서 초안으로 정리합니다.

고정된 순서의 워크플로로도 구성할 수 있습니다. 역할별 독립 조사가 필요해질 때 멀티에이전트 도입을 검토합니다. 모든 규정·금액은 가상 예시이며 실제 결재 제출·예약·예산 변경은 수행하지 않습니다.

PERSONAL PORTFOLIO

어떤 분이신가요?

선택은 사이트 제작자의 확인 용도 입니다.
이름이나 연락처는 수집하지 않습니다.

접속 시 무작위 UUID를 배정해 쿠키에 3일간 보관합니다. 같은 UUID로 방문·검색·실행 기록을 연결하며, 쿠키가 만료되거나 삭제되면 새 방문자로 처리합니다. 방문자 유형으로 실제 신원이나 권한을 판단하지 않습니다. 이름과 연락처는 수집하지 않습니다. 자세히 보기