CASE STUDY 01 · ON-PREMISE AI

문서에서
업무의 답까지.

외부 LLM 사용이 제한된 환경에서,
사내 문서를 다루는 AI 서비스를 설계하고 운영했습니다.

모델 서빙부터 문서 처리, 사용자 화면, 배포까지.
세 가지 업무 흐름으로 설계 판단을 살펴보세요.

업무 시나리오 살펴보기 ↓

01 / CONTEXT

기능보다 먼저,
운영 조건을 설계했습니다.

업무 문제

외부 모델 API 사용이 제한된 환경에서 여러 형식의 문서를 처리하고, 사용자가 답변을 검토할 수 있는 흐름이 필요했습니다.

담당 범위

온프레미스 모델 서빙, Python 백엔드, 채팅 화면, 문서 처리와 인증·감사·배포 체계를 설계·개발했습니다.

요청을 통제하는 서빙

GPU 실행과 요청 대기를 분리했습니다. 전체 수용 요청 25건은 동시 추론 25건을 뜻하지 않으며, 실행 1건과 FIFO 대기열로 관리합니다.

원문과 접근 경계

파일 형식 검증과 대화 접근 제어, 원문을 기록하지 않는 감사 로그를 적용했습니다. 운영 문서와 이력은 이 시연에 포함하지 않습니다.

02 / INTERACTIVE WALKTHROUGH

같은 문서, 더 명확한 결과.

합성 자료 · 정적 시연

GLM-5.3 Flash 기반 사내 서비스의 화면과 업무 흐름을 보여주는 시연입니다. 응답은 사전 구성된 예시이며 실제 AI 추론·문서 처리는 수행하지 않습니다.

시나리오를 선택하고 자료와 결과를 비교하세요.
업무 시나리오 선택

어떤 업무를 살펴볼까요?

위에서 시나리오를 선택하세요. 모든 자료는 이 시연을 위해 만든 가상 문서입니다.

01 / DOCUMENT COMPARISON

검수 기준이 어떻게 바뀌었나요?

가상 제품 A의 두 문서를 읽고, 달라진 조건과 조치를 확인합니다.

SAMPLE A · 합성 문서

제품 A 검수 기준 · v1.0

2026.08.01 / 1쪽 / §2 입고 검사

표본 수
로트당 5개
중량 허용 오차
±2%
부적합 발생 시
해당 로트 보류 후 품질 담당자 검토
SAMPLE B · 합성 문서

제품 A 검수 기준 · v1.1

2026.09.01 / 1쪽 / §2 입고 검사

표본 수
로트당 8개
중량 허용 오차
±1.5%
부적합 발생 시
해당 로트 보류 후 품질 담당자 검토
선택한 질문

두 버전의 검수 조건을 비교하고, 현장에서 변경해야 할 항목을 알려주세요.

사전 구성된 예시

표본 수와 허용 오차가 변경되었습니다.

v1.0 → v1.1 변경 사항
항목v1.0v1.1현장 조치
표본 수5개8개검사 기록지 표본 수 변경
중량 허용 오차±2%±1.5%판정 기준 업데이트
부적합 처리로트 보류로트 보류기존 검토 절차 유지

근거: 문서 A · 1쪽 §2 / 문서 B · 1쪽 §2

설계 포인트 · 차이뿐 아니라 변경되지 않은 조건과 근거 위치를 함께 제시합니다.

02 / STRUCTURED EXTRACTION

원본 숫자를 검토 가능한 결과로.

가상 생산 일보에서 검사량·부적합 수·비율을 추출합니다.

SAMPLE C · 합성 문서

가상 공정 검사 일보

2026.09.02 / 1쪽 / 표 1

일별 검사 집계 · 단위: 개
로트검사량부적합
A-011203
A-02801
합계2004
선택한 추출 항목

로트별 검사량과 부적합 수를 정리하고, 전체 부적합률을 계산해 주세요.

사전 구성된 예시

검사 200개 중 부적합 4개

A-01
120개 / 부적합 3개 / 2.5%
A-02
80개 / 부적합 1개 / 1.25%
전체 부적합률
4 ÷ 200 × 100 = 2.0%

근거: 검사 일보 · 1쪽 표 1

설계 포인트 · 분자·분모·단위를 표시하고 원본 표와 바로 대조합니다. 이 수치는 실제 운영 성과가 아닙니다.

03 / FAILURE & RECOVERY

실패 다음에 무엇을 해야 할까요?

지원하지 않는 형식의 예시에서 오류를 확인하고 PDF 예시로 다시 시도합니다.

SAMPLE D · 가상 파일

검사안내.exe

선택된 실패 예시입니다. 실제 파일은 없으며 업로드하거나 실행하지 않습니다.

사전 구성된 예시

지원하지 않는 파일 형식입니다.

실행 파일은 문서로 처리할 수 없습니다. 확장자만 바꾸지 말고 원본 자료를 지원하는 문서 형식으로 내보내세요.

SAMPLE E · 합성 문서

검사안내.pdf · 예시 처리 완료

1쪽 §1: “검사 전 문서 버전을 확인하고, 검사 후 결과를 기록한다.”

답변 예시: 검사 전 문서 버전을 확인하고 검사 후 결과를 기록하세요.

근거: 검사안내.pdf · 1쪽 §1

설계 포인트 · 실패 이유와 사용자가 취할 조치를 함께 안내합니다. 실제 파서가 실행된 결과는 아닙니다.

입력·업로드·로그인 없이 동작합니다. 선택 상태는 이 페이지 안에서만 유지되고 초기화 또는 새로고침하면 사라집니다.

03 / EVIDENCE & BOUNDARIES

구현한 것과,
검증할 것을 구분합니다.

구축 경험

단일 GLM 운영 경로

SGLang 기반 GLM-5.3 Flash 모델 서빙과 웹 채팅을 연계했습니다. 다른 모델로 자동 대체하지 않으며, 배포 실패 시 이전 검증 GLM 릴리스로 복구하는 정책입니다.

내부 기록 기준

배포·회귀 검증

2026.09.04 운영 활성화 기록과 2026.09.20 단일 모델 정책을 기준으로 설명합니다. 개발 검증과 운영 반영을 분리하고 단위·통합 검증을 배포 과정에 연결했습니다.

사내 원문 기록은 공개하지 않습니다. 공개 자료만으로 운영 상태를 독립 검증할 수 있다는 뜻은 아닙니다.

측정 예정

업무 효과와 장기 품질

시간 절감·정답률·장기 운영 성능은 별도 평가가 필요합니다. 대화·피드백 분석과 현업 비교 실험 후 공개 가능한 집계만 추가할 예정입니다.

시연의 한계

실제 AI 응답이 아닙니다

예시 결과는 작성된 정적 콘텐츠입니다. 실제 OCR·SSE·인증·대기열은 실행하지 않습니다. 미완성 RAG를 운영 성과로 소개하지 않습니다.