한국수자원공사(K-water): 공공기관 최초 사내 생성형 AI 전사 오픈 사례

핵심 성과 요약 (Key Results)

• 업무 시간 단축: 도입 2개월 만에 누적 72,340분 절감 (일평균 1,507분, 일 40여명)
• 검색 정확도: 하이브리드 검색 기술 적용으로 질의 정확도 98% 달성
• 사용자 만족도: 긍정 피드백 비율 88% (사규 및 기술문서 검색 최적화)
• 보안성: 외부 유출 없는 Private On-Premise LLM 구축 완료

1. 도입 배경: 보안과 효율, 두 마리 토끼를 잡아라

한국수자원공사(K-water)는 수자원 관리, 환경 기술 등 방대한 양의 전문 지식과 사규를 보유하고 있습니다. 그러나 기존의 검색 시스템으로는 원하는 정보를 찾는 데 평균 1일 1.8시간이 소요되는 등 업무 비효율이 발생했습니다.

특히 ChatGPT와 같은 외부 생성형 AI는 데이터 외부 유출 우려로 인해 공공기관 내부망에서 사용이 엄격히 금지되어 있었습니다.

이에 K-water는 보안이 보장되면서도 사내 지식을 완벽하게 이해하는 자체 AI(Private LLM) 구축을 결정했습니다.

외부 GPT는 회사 내의 자료와 사정을 알지 못해 표면적인 답변만 줍니다. 단순 키워드 검색을 넘어, 문맥을 이해하고 업무에 즉시 활용 가능한 자료를 알려 주는 것이 목표였습니다. — K-water DX 추진 담당자

2. 해결 방안: GRIDONE GO RAG (하이브리드 검색)

그리드원은 K-water의 요구사항을 충족하기 위해 자사의 RAG(검색 증강 생성) 솔루션을 적용했습니다. 핵심은 정확도(Accuracy) 와 환각 최소화(Hallucination Control) 였습니다.

주요 적용 기술

• Hybrid Search Engine 키워드 검색(Lexical)과 의미 검색(Semantic)을 결합하여 ‘일상감사 대상금액’ 같은 구체적인 사규 용어부터 ‘인공지능 기술 트렌드’ 같은 추상적 질문까지 모두 대응
• Prompt Engineering 공공기관 특유의 문서 양식과 용어를 학습시켜 보고서 작성 시 수정 없이 바로 활용 가능한 문장 생성
• Citation Indexing AI 답변 시 반드시 출처 문서(Source) 를 함께 제시하여 신뢰성 확보

3. 도입 성과: 숫자로 증명된 혁신

시범 오픈 후 직원들을 대상으로 한 서비스 모니터링 결과, 단순 검색 시간이 획기적으로 줄어들었을 뿐만 아니라 실무직(4급 이하) 활용률이 63%를 차지하며 실제 현업에서의 유용성이 입증되었습니다.

• 72,340분: 누적 업무 절감 시간 (2개월, 일 40~50명)
• 36,803건: 누적 AI 사용 건수
• 98%: 검색 및 답변 정확도
• 0건: 보안 사고 (내부망 구축)

4. 향후 계획: AI Agent로의 진화

현재 K-water는 단순 질의응답(Chat)을 넘어, AI가 실제로 업무를 수행하는 Action Agent 단계로 고도화를 진행 중입니다.

그리드원의 RPA 및 OCR 모듈과 연동하여 “저수지 수위 보고서 작성해서 결재 올려줘”와 같은 명령을 실행하면 AI가 실제 시스템에 접속해 업무를 처리하는 지능형 자율 에이전트 시대를 준비하고 있습니다.

자주 묻는 질문 (FAQ)

Q. 공공기관/금융기관 내부에 구축(On-Premise)이 가능한가요?

네, 가능합니다. 그리드원의 솔루션은 보안이 중요한 공공 및 금융 기관을 위해 사내 서버에 직접 설치하는 구축형(On-Premise) 모델을 지원합니다. 데이터가 외부로 전송되지 않아 보안 규정/컴플라이언스를 100% 준수합니다.

Q. 답변의 정확도는 어떻게 보장하나요?

RAG(검색 증강 생성) 기술을 통해 AI가 사내 문서를 근거로만 답변하도록 설계되어 있습니다. 또한 답변과 함께 참고 문서 원문 링크를 제공하여 사용자가 직접 진위 여부를 확인할 수 있습니다.

Q. 기존 레거시 시스템(ERP, 그룹웨어)과 연동되나요?

네, 가능합니다. 그리드원은 RPA 및 API 연동 기술을 보유하고 있어 사내 게시판, 규정집, 인사 시스템 등 다양한 레거시 데이터와 유기적으로 연동됩니다.