개발자 대상 AI 에이전트 서비스 개발 워크샵

워크샵 첫 화면에는 코드 대신 질문 하나를 띄웠습니다. 지금 로컬에서 잘 돌아가는 그 Agent 데모를 내일 계열사 운영 환경에 그대로 올릴 수 있는가. 데모와 운영 사이의 이 간격을 좁히는 데 8시간 전체를 썼습니다.

롯데이노베이트 개발자 대상, 2025년 진행, 회차당 8시간. Agent 아키텍처·RAG·function calling·평가와 운영까지, 그룹사 IT 자회사 개발자가 서비스 수준의 AI 에이전트를 설계하는 기술 워크샵입니다.

안녕하세요, 권앤컴퍼니의 권기현입니다. 이번에는 롯데이노베이트에서 진행한 8시간 AI 에이전트 서비스 개발 워크샵을 소개하려고 합니다. 어떤 기준으로 커리큘럼을 짰고, 각 모듈에서 무엇을 다뤘는지에 대한 기록입니다.

개발자 대상 AI 에이전트 교육을 검색하다 이 페이지에 도착하셨다면, 비슷한 고민을 갖고 계실 가능성이 높습니다.

Agent 데모는 만들어 봤지만, 계열사 서비스로 내보낼 만큼의 안정성과 운용 패턴이 잡히지 않습니다.

계열사마다 인증과 권한 체계가 달라서, 사내 API 연동을 어느 지점부터 표준화해야 할지 판단이 서지 않습니다.

Agent의 정확도와 비용을 어떤 지표로 측정해야 결재 라인이 움직이는지 기준이 없습니다.

이 워크샵은 위 세 가지 질문에 대한 답을 아키텍처와 코드 수준에서 8시간 안에 정리하는 과정으로 설계했습니다.

설계 기준: 데모가 아니라 계열사 배포를 상수로 놓았습니다

AI 에이전트란 LLM이 검색과 도구 호출, 판단을 반복하며 여러 단계의 업무를 스스로 처리하는 소프트웨어를 말합니다. 그룹사 IT 자회사가 만드는 에이전트는 한 팀의 실험으로 끝나지 않고 여러 계열사 환경에 동시에 배포된다는 점이 다릅니다.

이 과정은 그룹사 IT 자회사 개발자가 어느 계열사 환경으로 가져가도 살아남는 Agent 아키텍처·RAG·function calling·운영 패턴을 8시간 안에 정리하는 워크샵입니다. 개발 역량이 이미 있는 수강생에게는 프롬프트 팁보다 아키텍처와 평가 기준이 더 중요하다는 판단이 출발점이었습니다.

8시간 네 모듈: 질의가 응답으로 돌아오는 한 사이클을 뜯었습니다

커리큘럼은 계열사 사용자 질의가 권한 검증과 검색, 추론, 사내 API 호출을 거쳐 응답으로 돌아오는 한 사이클을 기준선으로 잡고, 네 모듈이 각 구간을 운영 관점에서 파고드는 구조입니다.

1. Agent 아키텍처: 한 계열사에서 돌던 데모가 다른 계열사에서 깨지는 이유

그룹사 IT 자회사의 Agent는 태생부터 멀티 테넌트입니다. 유통 계열사에서 검증한 파일럿이 다른 계열사의 인증 체계 앞에서 멈춘다면 코드가 아니라 아키텍처의 문제입니다.

이 모듈에서는 다음 내용을 그룹사 배포 시나리오에 묶어 다룹니다.

• Router·Planner·Executor를 분리해 계열사별 차이를 격리하는 구조
• Agent loop의 반복 횟수·타임아웃·토큰 예산을 제약으로 거는 방법
• 같은 골격에 계열사 도메인 시나리오를 끼워 넣는 확장 패턴
• 자동 실행과 사람 승인 사이의 경계를 정하는 기준

실습에서는 동작하는 결과보다 구조 그림을 먼저 요구했습니다. 어느 단계에서 검색하고 어디서 사람이 승인하는지 그려서 설명할 수 있어야 파일럿 이후의 논의가 이어집니다.

2. RAG 설계: 계열사 문서가 한 인덱스에 섞일 때 생기는 일

RAG(검색 증강 생성)는 벡터 DB 한 줄로 끝나는 작업이 아닙니다. 청크 전략과 메타데이터, 재랭킹, 하이브리드 검색의 조합이 답변 품질을 결정하고, 여러 계열사의 정책 문서가 한 인덱스에 들어오는 환경에서는 메타데이터 스키마가 사실상 보안 경계가 됩니다.

이 모듈에서는 다음 내용을 다룹니다.

• 계열사·부서·문서 종류를 축으로 잡는 메타데이터 스키마 설계
• 키워드 검색과 벡터 검색을 섞는 하이브리드 구성
• 재랭킹과 컨텍스트 압축으로 비용과 지연 시간을 잡는 패턴
• recall·MRR·hit rate로 검색 품질 자체를 측정하는 방법

메타데이터 스키마가 서 있으면 같은 RAG 엔진이 계열사를 옮겨도 그대로 동작합니다. 그룹사 표준화는 임베딩 모델 선택이 아니라 스키마 설계에서 시작됩니다.

3. function calling: 사내 API 앞에 세우는 계약

Agent의 가치는 사내 시스템에 정확한 호출이 꽂히는 순간 처음 드러납니다. 계열사마다 인증과 권한 체계가 다른 환경에서는 function 스키마가 곧 계약서 역할을 합니다.

이 모듈에서는 다음 내용을 사내 API 연동 실습 형태로 다룹니다.

• 인자·반환·에러를 LLM이 판단할 수 있는 단위로 정의하는 function 스키마 설계
• 인증 토큰을 Agent 컨텍스트 밖에 두는 미들웨어 호출 구조
• tool 호출 결과 검증과 사용자 confirm 단계를 끼워 넣는 시점
• 권한 체크와 감사 로그를 호출 경로에 심는 방법

function 스키마는 한 번 제대로 짜 두면 계열사를 옮겨도 코드가 거의 그대로 살아남습니다. 이 모듈의 목표는 그 표준안 한 벌을 손에 쥐는 것입니다.

4. 평가와 운영: SLA가 걸린 Agent가 갖춰야 할 것

데모 Agent와 운영 Agent는 평가 셋과 트레이싱을 처음부터 넣었는지에서 갈립니다. 그룹사 서비스에는 SLA가 함께 걸리므로 이 모듈을 가장 무겁게 배치했습니다.

이 모듈에서는 다음 내용을 다룹니다.

• 시나리오 평가 셋 설계와 회귀 테스트 자동화
• 추론 모델과 일반 LLM을 섞어 쓸 때의 비용과 정확도 측정
• 운영 트레이싱과 이상 호출 감지
• 점진 배포·롤백·rate limit·SLA 정책

평가 셋과 트레이싱이 붙어 있는 Agent만 결재 라인을 통과합니다. 마지막 모듈은 사실상 그 결재 자료를 만드는 시간이기도 합니다.

이런 분께 추천드립니다

• 사내 AI 에이전트 서비스를 처음부터 설계해야 하는 개발자·테크리드
• Agent 파일럿을 계열사 운영 환경까지 끌고 가야 하는 AX·DT 추진 임원
• 사내 데이터·API를 LLM과 안전하게 연결해야 하는 플랫폼·인프라 담당자

특히 롯데처럼 그룹사 IT 자회사가 계열사 공용 Agent 서비스를 책임지는 환경이라면, 아키텍처 표준을 먼저 세워야 하는 팀에 가장 큰 시간 절약이 됩니다.

다음 단계

회사 상황에 맞춰 8시간 과정을 그대로 진행하실 수도 있고, 4시간 압축본으로 시작하셔서 차수를 늘려가시는 것도 가능합니다.

가장 빠른 길은 현재 회사 상황과 가능한 일정을 메일로 보내주시는 것입니다. 24시간 안에 비슷한 사례 2~3건과 견적 초안을 함께 회신드리겠습니다.

상담 문의 보내기 | 강의 카탈로그 요청하기

교육 담당자분께서 결재 라인에 공유할 자료가 필요하신 경우, 문의하실 때 카탈로그 요청을 함께 남겨주시면 사례 자료와 같이 보내드립니다.

Tags