영업 데이터 자연어 질의 시스템

사내 채팅창에 지난주 사업부 매출 같은 질문을 한국어로 입력하면 회사 데이터베이스에서 5초 만에 답을 받을 수 있습니다. SQL을 모르는 임원도 직접 조회할 수 있어, 데이터팀의 답변을 3일씩 기다리지 않아도 됩니다.

이 방식을 NL2SQL(Natural Language to SQL)이라고 합니다. ChatGPT 같은 LLM을 회사 데이터베이스에 안전하게 연결해, 한국어 질문을 SQL 쿼리로 변환하고 결과를 한국어 요약으로 돌려주는 구조입니다.

이 가이드는 NL2SQL의 도입 효과, 구축에 쓰는 도구와 모델 조합, 도입 전에 정해야 할 사항을 정리한 자료입니다.

활용 상황

사내에서 데이터를 확인해야 할 때마다 활용할 수 있습니다. 슬랙, 노션, 자체 웹앱 어디서든 다음과 같은 한 줄 질문을 그대로 입력하면 됩니다.

"지난주 우리 부서 매출은 얼마인가요?"

"이번 분기 신규 가입 고객 중 결제까지 완료한 비율은 얼마인가요?"

"지난달 가장 많이 팔린 상품 상위 5개를 보여 주세요."

"작년 같은 달 대비 우리 팀 비용은 어떻게 변했나요?"

"이번 분기 채용 합격률을 부서별로 보여 주세요."

"어제 가입한 고객 중 강남 거주자는 몇 명인가요?"

질문한 사람의 부서와 권한에 맞게 데이터가 자동으로 필터링되고, 답은 한국어 요약과 표, 차트로 함께 전달됩니다. 평균 응답 시간은 5~10초입니다. 데이터팀에 슬랙으로 요청하거나 BI 대시보드를 열지 않고도 바로 확인할 수 있습니다.

도입 전후 변화

시스템이 정착하면 회사가 데이터를 다루는 방식이 바뀝니다. 가장 자주 보고되는 변화는 다음 5가지입니다.

답변 속도: 도입 전에는 데이터팀에 요청하면 평균 3일이 걸렸고, 도입 후에는 채팅창에 질문을 입력하면 평균 5초 만에 답을 받습니다.

임원의 데이터 접근: 보고서나 BI 대시보드에 의존하는 대신 한국어로 직접 묻고 답을 받습니다.

데이터팀 업무 시간: 단순 쿼리 요청 대응에 쓰던 주 20시간을 전략 분석, 모델링, 신규 지표 설계에 씁니다.

같은 질문 반복: 매주 같은 보고서를 다시 요청할 필요가 없습니다. 한 번 답한 질문은 시스템이 카탈로그에 기록해 다음부터 자동으로 답합니다.

SQL 오류: 사람이 직접 작성할 때 생기던 오타와 집계 누락이 줄어듭니다. LLM은 읽기 전용 계정, 자동 LIMIT, 컬럼 화이트리스트 같은 안전 가드 안에서만 SQL을 생성합니다.

데이터 처리 흐름

한국어 질문이 안전 가드를 거친 SQL로 변환되고, 결과가 한국어 요약으로 돌아오는 과정입니다. 남색 박스는 LLM이 처리하는 단계, 회색 박스는 사내 자산입니다. 이 구조에서는 데이터 자체가 외부로 나가지 않습니다.

도구와 모델 조합

NL2SQL은 여러 도구와 모델을 조합해 구성하며, 권장 조합은 회사 데이터의 저장 위치와 외부 반출 가능 여부에 따라 달라집니다. 데이터 위치를 먼저 확인하면 옵션이 좁혀집니다.

옵션 A는 도입 비용이 가장 낮고 며칠 안에 파일럿을 진행할 수 있습니다. 옵션 B는 한국어 도메인 학습과 사내 확산에 강점이 있습니다. 옵션 C는 금융, 헬스케어, 공공처럼 데이터를 외부로 보낼 수 없는 환경에 적합합니다.

시스템 작동 방식

어떤 옵션을 선택해도 작동 원리는 같습니다.

1단계: 메트릭 카탈로그 구축. 비즈니스 용어를 SQL로 매핑한 카탈로그를 먼저 만듭니다. dbt metrics, Cube.dev, Snowflake Cortex semantic model 가운데 하나를 씁니다. 시스템은 "매출"이 GMV인지 순매출인지, "고객"이 가입자인지 활성 사용자인지 구분할 수 있어야 합니다. 정확도의 70%가 이 단계에서 결정됩니다.

2단계: 자연어의 SQL 변환과 안전 가드. LLM이 SQL을 생성할 때 읽기 전용 계정, LIMIT 자동 추가, 컬럼 화이트리스트, 위험 키워드 차단을 시스템에서 강제합니다. 풀스캔 쿼리는 사전에 거부하고, 파티션 키가 빠진 경우 사용자에게 다시 묻는 방식입니다.

3단계: 한국어 요약과 자동 시각화. SQL 결과를 다시 LLM에 넘겨 "이번 주 핵심 변화" 같은 코멘터리를 만듭니다. 결과가 시계열인지, 비교인지, 집계인지에 따라 차트 종류를 자동으로 선택합니다.

4단계: 답변 전달과 피드백 루프. 슬랙과 기존 BI 등 어느 채널에서 질문해도 같은 답이 나오도록 채널을 통합합니다. "맞음" 또는 "틀림" 피드백은 카탈로그를 보강하는 학습 데이터로 쌓입니다.

도입 시 주의 사항

가장 흔한 실패는 LLM이 그럴듯하지만 틀린 SQL을 만드는 환각입니다. 메트릭 카탈로그를 먼저 만들고, 검증된 SQL 라이브러리에서 비슷한 질문을 찾아 few-shot 예시로 함께 넣는 방법이 환각을 가장 잘 막는다고 알려져 있습니다.

권한과 보안은 row-level security와 부서별 읽기 전용 계정으로 관리합니다. 접근 제한은 LLM 프롬프트에 맡기지 않고 DB 권한 단계에서 적용해야 안전합니다.

"이번 분기는 어땠나요?" 같은 모호한 질문에는 추정으로 답하지 않고, "매출, 주문 수, 이익 가운데 어떤 지표를 보고 싶으신가요?"처럼 먼저 되묻도록 워크플로우를 설계합니다.

마지막은 신뢰입니다. "이 답을 만든 SQL 보기" 토글 하나로 채택률이 2배 이상 올라간 사례가 보고되어 있습니다. 생성된 SQL을 그대로 보여 주는 것이 도입 성공의 조건입니다.

성과 지표(KPI) 예시

NL2SQL 어시스턴트의 성과는 다음 4개 지표로 측정하는 것을 권장합니다.

데이터팀 단순 쿼리 요청 수(주간): 도입 6개월 후 70% 감소가 기준입니다.

임원 자가 데이터 조회 비율: 도입 전보다 3배 이상 늘어야 합니다.

답변 정확도(샘플 100문항): 90% 이상이면 확산 단계로 넘어갑니다.

평균 응답 시간: 15초 미만을 기준으로 합니다.

정확도가 높아도 사용자가 데이터팀에 요청하는 편이 더 빠르다고 인식하면 도입은 실패합니다. UI/UX와 응답 품질을 함께 갖춰야 하므로, 모델과 도구만큼 카탈로그와 온보딩 설계가 중요합니다.

자주 묻는 질문

회사 데이터를 외부 모델에 보내야 하나요?

데이터 자체를 LLM에 보내지 않는 구조로 구성할 수 있습니다. 옵션 A와 B는 LLM이 SQL만 생성하고 실행은 자사 DB에서 이루어지며, 결과 요약 단계에서만 일부 행이 LLM에 전달됩니다. 결과도 외부로 보내지 않으려면 옵션 C(셀프호스팅)로 모든 추론을 사내에서 처리합니다.

어떤 BI 도구와 연동할 수 있나요?

Tableau, Looker, Power BI, Metabase, Mode, Hex 등과 함께 쓸 수 있습니다. NL2SQL 어시스턴트는 기존 BI 위에 한국어 질문 창구를 추가하는 방식이므로 기존 자산을 그대로 활용할 수 있습니다.

도입에 얼마나 걸리나요?

옵션 A 기준으로 파일럿 프로젝트 2주, 운영 안정화까지 6~8주가 일반적입니다. 메트릭 카탈로그가 이미 있는 회사는 기간이 절반으로 줄고, 데이터 정리부터 시작하는 회사는 1.5배로 늘어납니다.

데이터팀이 없어도 도입할 수 있나요?

가능합니다. 데이터팀이 없는 중견기업이나 스타트업에서 ROI가 더 뚜렷한 경우가 많습니다. 메트릭 카탈로그 설계와 사내 확산 담당자 양성을 처음부터 함께 진행해 외부 의존도를 낮추는 방향을 권장합니다.

시작 단계 권장 사항

사내에서 직접 구축하는 경우 1단계의 메트릭 카탈로그부터 시작하는 것을 권장합니다. 옵션 A의 도구 조합이 학습 부담이 가장 적습니다.