목록으로

PROJECT / 09

저비용 빠른 판단 Laya.

직접 분류하고, 시간과 정확도를 확인하기

한국어 Laya 모델을 별도 CPU 서버에서 실제 실행합니다. 정답이 지정된 예제 12개로 측정한 정확도와 문장별 추론 시간을 확인할 수 있습니다.

LOCAL DECISION MODEL

Laya 고객문의 분류

고객문의를 환불 · 결제 · 반품 · 구매로 분류합니다.

cpu : 인텔 펜티엄

고객문의 분류해 보기

환불은 대금 반환, 반품은 상품 반송 절차에 관한 문의입니다.

정확도 측정

분야별 3개씩, 정답이 지정된 12개 고객문의를 실제로 분류합니다.

정확도는 이 예제 12개에서 맞힌 비율입니다. 직접 입력한 문장의 선택 점수는 정답률과 다릅니다.

실측 결과를 확인해 보세요.

분류를 실행하면 처리 시간과 선택지별 점수가 표시됩니다.
일괄 평가에서는 정답과 예측을 비교합니다.

추론 시간은 모델 계산 구간, 전체 왕복은 브라우저에서 서버에 요청해 결과를 받기까지의 시간입니다. 모델은 서버 메모리에 미리 로드됩니다. 입력 문장은 테스트 처리에만 사용하며 저장하지 않습니다.

고객문의 분류에 Laya를 쓰는 이유

문의가 들어오면 먼저 환불·결제·반품·구매 중 어디로 보낼지 판단합니다. Laya는 정해진 선택지와 점수를 반환하므로 담당 상담 큐나 규정 검색 경로를 정하는 단계에 사용할 수 있습니다. 상세한 설명과 상담 답변은 이후 LLM이나 상담원이 맡습니다.

고객문의Laya 분류담당 큐 · 규정 검색LLM · 상담원 답변

업무 적용 예시입니다. 현재 체험은 분류와 평가 단계까지 실행하며, 실제 환불이나 결제를 처리하지 않습니다.

Laya와 Jev의 차이

둘 다 선택·점수·예/아니오 형태의 판단에 쓰입니다. 이 화면은 한국어 Laya-KO를 직접 운영하는 구성입니다.

로컬 Laya와 TypeSafe Jev 비교
비교 항목Laya · 이 사이트Jev · TypeSafe API
실행 위치제작자의 CPU 서버제공자의 API 서버
연결·운영모델 설치·서버 운영 직접 관리API 키로 연동, 추론 서버는 제공자가 운영
데이터 전달이 사이트와 제작자 서버에서 처리TypeSafe API로 입력 전송
비용 구조모델 라이선스·토큰 호출료 $0, 서버·전기·운영비 별도입력 100만 토큰당 $0.042, 출력 무료

이 페이지의 시간·정확도는 Laya만 실측한 값입니다. Jev와 같은 문의로 비교 실험하지 않았으며, 어느 쪽이 더 빠르거나 정확하다고 판단한 수치는 아닙니다.

호출량별 비용 예시

문의와 분류 지침·선택지를 포함한 입력 토큰을 가정합니다. 이 사이트의 실측 토큰 수나 실제 청구액은 아닙니다.

Jev 예상 입력 요금$2.10
50,000,000 토큰 ÷ 1,000,000 × $0.042
Laya 로컬 호출료 $0PC·전기·운영비는 별도로 발생하며 이 계산에 포함되지 않습니다.

적은 호출량에서는 API가 경제적일 수 있고, 기존 PC 활용이나 처리 위치 관리가 필요할 때는 직접 운영을 검토할 수 있습니다. 실제 비용은 서버 운영 조건과 호출량에 따라 달라집니다.

요금 확인: 2026.10.31 · Jev 1.13 / 1.14 직접 API 공개 요금 기준 · USD, 세금·네트워크비 제외
Jev 공식 모델·요금 안내 · Laya 공식 저장소·라이선스 · 한국어 모델 안내

업무 상황

별도 CPU 서버의 한국어 Laya 모델이 고객문의의 유형을 분류합니다. 직접 입력과 정답이 지정된 12개 예제를 통해 선택 점수, 모델 추론 시간, 네트워크를 포함한 왕복 시간, 예제 정확도를 확인합니다.

가상 요청“고객문의를 환불·결제·반품·구매로 분류하고, 예제 정답과 비교해 정확도와 응답 시간을 보여줘.”

처리 흐름

Laya-KOPyTorch CPUFastAPI실측 평가
  1. 01

    입력과 평가 기준

    문장을 직접 입력하거나 환불·결제·반품·구매 각 3개씩의 고정 예제를 선택합니다.

  2. 02

    CPU 분류

    메모리에 로드된 2nugu/laya-ko 모델이 네 문의 유형의 점수를 계산합니다.

  3. 03

    정답 비교

    고정 예제의 예측값과 정답을 비교해 정답 수와 정확도를 계산합니다.

  4. 04

    시간 측정

    서버의 모델 추론 시간과 브라우저의 전체 요청 시간을 나눠 보여줍니다.

예상 결과

분류 결과·선택 점수·추론 및 왕복 시간·고정 예제 12개의 정확도.

확장 설계

업무 의도 분류나 RAG 검색 경로 선택 등에 연결할 수 있습니다. 실제 도메인에 맞는 검증 데이터로 선택지와 판단 기준을 조정합니다.

문서 챗봇 보기

PERSONAL PORTFOLIO

어떤 분이신가요?

선택은 사이트 제작자의 확인 용도 입니다.
이름이나 연락처는 수집하지 않습니다.

접속 시 무작위 UUID를 배정해 쿠키에 3일간 보관합니다. 같은 UUID로 방문·검색·실행 기록을 연결하며, 쿠키가 만료되거나 삭제되면 새 방문자로 처리합니다. 방문자 유형으로 실제 신원이나 권한을 판단하지 않습니다. 이름과 연락처는 수집하지 않습니다. 자세히 보기