개발자 대상 AI 에이전트 서비스 개발 워크샵

롯데이노베이트에서 진행한 개발자 대상 AI 에이전트 서비스 개발 워크샵입니다. 그룹사 IT 자회사 개발자를 대상으로 운영 환경을 고려한 Agent 아키텍처와 운영 패턴을 다뤘습니다.

롯데이노베이트 과정은 개발자를 대상으로 AI 에이전트를 서비스 수준에서 어떻게 설계할지 다룬 워크샵이었습니다. 이미 개발 역량이 있는 수강생에게는 프롬프트 팁보다 아키텍처, 운영, 평가 기준이 더 중요합니다.

개발자 AI 교육은 난이도를 낮추기보다 현업 개발자의 질문을 존중해야 합니다. 어떻게 배포하고, 어떻게 관찰하고, 어디서 실패를 감지할지가 교육의 밀도를 결정합니다.

Agent 데모는 만들어 봤지만, 그룹사 계열사 환경에 들어갈 만큼의 안정성·운용 패턴이 잡히지 않았습니다.

계열사마다 사내 시스템·인증 정책이 달라, function calling을 어디서부터 표준화해야 할지 모릅니다.

Agent의 정확도와 비용을 무엇으로 측정해야 결재 라인 설득이 되는지 기준이 없습니다.

그래서 이 과정은 Agent 패턴을 설명하는 데서 멈추지 않고, 실제 서비스 개발자가 운영까지 상상할 수 있는 구조로 진행했습니다.

교육 설계에서 중요했던 지점

개발자가 운영 환경을 고려한 AI 에이전트 서비스의 아키텍처와 운영 패턴을 이해하는 기술 워크샵입니다.

그룹사 IT 자회사 개발자가 계열사 환경에 가져갈 수 있는 Agent 아키텍처·RAG·function calling·운용 패턴을 한 번에 정리하는 흐름으로 구성했습니다.

커리큘럼은 이렇게 풀었습니다

1. AI 에이전트 아키텍처 — 토이 데모와 운영 환경 사이의 거리

그룹사 IT 자회사가 만든 Agent는 계열사 여러 곳에 동시에 들어가야 합니다. 한 사이트에서 동작한 파일럿이 다른 사이트에서 깨지지 않으려면 아키텍처 자체가 휴대 가능해야 합니다.

이 모듈에서는 다음 내용을 도메인 시나리오에 묶어 다룹니다.

• Router·Planner·Executor 분리와 멀티 테넌트 환경에서의 책임 범위
• Agent loop의 반복 횟수·타임아웃·예산을 제약으로 박는 방법
• 계열사별 도메인 시나리오를 동일 골격에 끼워 넣는 패턴
• Human-in-the-loop과 자동 실행의 경계 설정

Agent 실습에서는 결과보다 구조를 먼저 보게 했습니다. 어떤 단계에서 검색하고, 어떤 단계에서 도구를 호출하며, 어디에서 사람이 승인해야 하는지 그림으로 설명할 수 있어야 파일럿 프로젝트 이후 논의가 이어집니다.

2. RAG 시스템 설계 — 검색 품질이 곧 답변 품질입니다

RAG는 벡터 DB 한 줄로 끝나는 작업이 아니라 청크·메타데이터·재랭킹·하이브리드 검색의 조합으로 답변 품질이 결정됩니다. 그룹사 환경에서는 계열사별 정책 문서가 같이 들어오므로 메타데이터 스키마가 특히 중요합니다.

이 모듈에서는 다음 내용을 다룹니다.

• 계열사·부서·문서 종류별 메타데이터 스키마 설계
• 키워드·벡터 하이브리드 검색 구성
• 재랭킹·컨텍스트 압축으로 비용·지연 시간을 잡는 패턴
• 검색 품질 자체를 평가하는 지표 (recall, MRR, hit rate)

메타데이터 스키마가 잘 짜여 있으면 같은 RAG 엔진이 계열사 어디로 가도 그대로 동작합니다. 표준화의 출발선입니다.

3. function calling · tool use — Agent와 사내 시스템을 안전하게 잇는 법

Agent의 가치는 사내 시스템에 정확히 호출을 보낼 때 처음 나옵니다. 그룹사 환경은 인증·권한 체계가 계열사마다 달라, function 단위에서 표준을 잡아 두는 일이 핵심입니다.

이 모듈에서는 다음 내용을 실제 사내 API 스타일로 다룹니다.

• function schema 설계 패턴 — 인자·반환·에러를 LLM이 이해할 단위로
• 내부 API 인증을 Agent 컨텍스트에 노출하지 않는 호출 구조
• tool 호출 결과 검증과 사용자 confirm 단계 삽입 시점
• 권한·감사 로그를 미들웨어 한 줄로 박는 방법

함수 스키마는 한 번 잘 짜 두면 계열사를 옮길 때 코드가 거의 그대로 살아남습니다. function calling 모듈에서 그 표준을 손에 쥐어드립니다.

커리큘럼은 이렇게 풀었습니다

데모 Agent와 운영 Agent의 차이는 평가·모니터링·운용 모듈을 처음부터 박았는지 여부에서 갈립니다. 그룹사 환경은 SLA가 함께 걸리므로 더 무겁게 다뤘습니다.

이 모듈에서는 다음 내용을 다룹니다.

• 시나리오 평가 셋 설계와 회귀 테스트 자동화
• 추론 모델과 일반 LLM 혼용 시의 비용·정확도 균형 측정
• 운영 환경 트레이싱과 이상 호출 감지
• 점진 배포·롤백·rate limit·SLA 정책

평가 셋과 트레이싱이 박혀 있는 Agent만이 결재 라인에서 통과됩니다. 마지막 모듈은 그 결재 자료를 만드는 시간이기도 합니다.

이런 분께 추천드립니다

• 사내 AI 에이전트 서비스를 처음부터 설계해야 하는 개발자·테크리드
• Agent 파일럿을 운영 환경까지 가져가야 하는 AI 업무 전환·DT 추진 임원
• 사내 데이터·API를 LLM과 안전하게 연결해야 하는 플랫폼·인프라 담당자

특히 롯데·삼성·SK·현대처럼 그룹사 단위로 계열사 Agent 서비스를 설계해야 하는 IT 자회사 환경에서, 한 사이클의 표준을 손에 쥐는 다음 단계에서 가장 큰 시간 절약이 됩니다.

다음 단계

회사 상황에 맞춰 16시간 과정을 그대로 진행하실 수도 있고, 8시간 또는 4시간 압축본으로 시작하셔서 차수를 늘려가시는 것도 가능합니다.

가장 빠른 길은 현재 회사 상황과 가능한 일정을 메일로 보내주시는 것입니다. 24시간 안에 비슷한 사례 2~3건과 견적 초안을 함께 회신드리겠습니다.

→ 상담 문의 보내기 | 강의 카탈로그 PDF 받기

내부 검토용으로 공유할 자료가 필요하다면, 카탈로그 PDF를 먼저 받아두시면 편합니다.

도입 전에 정리할 것

개발자 대상 AI 교육은 깊이를 피하면 만족도가 떨어집니다. 권앤컴퍼니는 현업 개발자가 바로 토론할 수 있는 수준의 아키텍처와 실습으로 과정을 설계합니다.

처음 설계할 때는 업종, 대상 직군, 보안 기준, 기대 산출물부터 맞추는 편이 좋습니다. 이 네 가지가 정리되면 표준 교안보다 훨씬 현실적인 과정으로 좁혀집니다.

Tags