Week 4: 프로덕션 엔지니어링
이번 주는 에이전트를 프로토타입에서 프로덕션으로 전환하는 데 집중합니다. 안전 가드레일 추가, 휴먼 감독 구현, 확장 가능한 API로 에이전트 배포하는 방법을 배웁니다.
학습 목표
이번 주가 끝나면 다음을 할 수 있습니다:
- ✅ 디버깅 및 모니터링을 위한 LangSmith 추적 구현
- ✅ 입출력 검증을 위한 Guardrails 추가
- ✅ Human-in-the-Loop (HITL) 승인 워크플로우 구축
- ✅ 비용 최적화를 위한 동적 모델 라우팅 생성
- ✅ FastAPI와 Docker로 배포
- ✅ 완전한 엔터프라이즈 지식 에이전트 캡스톤 완료
세션
큰 그림
프로덕션은 기능만이 아닌 신뢰성에 관한 것입니다.
작동하는 프로토타입은 시작일 뿐입니다. 프로덕션 에이전트에는 안전 검사, 모니터링, 휴먼 감독, 확장 가능한 인프라가 필요합니다.
아키텍처 미리보기
핵심 개념
| 개념 | 설명 | 목적 |
|---|---|---|
| Input Guardrails | 사용자 입력 검증 및 정제 | 보안, 안전 |
| Output Guardrails | 생성된 콘텐츠 확인 | 환각 방지 |
| HITL | 중요 작업에 대한 휴먼 승인 | 신뢰, 컴플라이언스 |
| Model Routing | 작업 복잡성에 따른 모델 선택 | 비용 최적화 |
| LangSmith | 추적 및 디버깅 플랫폼 | 관찰 가능성 |
노트북
| 세션 | 영어 | 한국어 |
|---|---|---|
| 01. Evaluation | 📘 Notebook (opens in a new tab) | 📘 노트북 (opens in a new tab) |
| 02. Guardrails | 📘 Notebook (opens in a new tab) | 📘 노트북 (opens in a new tab) |
| 03. Model Routing | 📘 Notebook (opens in a new tab) | 📘 노트북 (opens in a new tab) |
| 04. DSPy | 📘 Notebook (opens in a new tab) | 📘 노트북 (opens in a new tab) |
| 캡스톤 | 📘 Coming Soon | - |
만들게 될 것
캡스톤 프로젝트는 Week 1-4의 모든 것을 통합합니다:
- Week 1: 도구를 갖춘 ReAct 에이전트
- Week 2: 자가 수정 추론
- Week 3: 멀티 에이전트 협업
- Week 4: 프로덕션 가드레일과 배포