01. Seminar Highlights
세미나 핵심 내용
조직의 LLM 사용 환경을 안전하고 효율적으로 운영하는 데 필요한 핵심을 다룹니다.
01
AI Gateway 구축
LiteLLM으로 여러 모델을 하나의 엔드포인트로 통합하고 Amazon Bedrock과 연결합니다.
02
접근·비용 통제
사용자별 API 키와 예산, 비용 추적과 캐싱으로 사용 권한과 비용을 관리합니다.
03
안전한 Claude Code
가드레일과 로깅을 적용해 Claude Code를 사내 통제 범위 안에서 운영합니다.
02. Overview
세미나 개요
참여 방법
사전 등록 후 참석 대상자에 한해 개별 안내 메일 발송 예정
※ 사전 등록 시 개인 이메일이 아닌 회사 이메일 주소로 입력해 주세요.
일시
2026년 9월 15일(화) 13:00–17:00
장소
AWS Korea 본사 · 센터필드 EAST
서울 강남구 테헤란로 231
03. Recommended For
이런 분께 추천합니다
- 조직 내 LLM 도입을 검토 중이거나 이미 사용 중인 기술 리더
- AI Gateway와 LiteLLM 활용 방안에 관심 있는 개발자 및 엔지니어
- 사내 LLM 사용 환경을 표준화하려는 플랫폼 엔지니어
- LLM 사용 비용을 파악하고 통제하고 싶은 인프라 운영자
- 민감 정보 유출 등 AI 사용 리스크를 관리해야 하는 보안 담당자
- Claude Code 등 AI 개발 도구의 사내 도입을 검토 중인 개발 조직 리더
04. Agenda
세미나 아젠다
시간
내용
13:00–13:30
교육 소개 및 환경 설정
13:30–14:00
왜 AI Gateway가 필요한가
- 조직에서 LLM 도입 시 마주치는 문제들
- AI Gateway의 역할과 아키텍처
14:00–16:00
LiteLLM으로 AI Gateway 구축
- LLM Proxy: 여러 모델을 하나의 엔드포인트로 통합
- 접근 제어: 사용자별 권한과 예산 관리
- 비용 추적: 누가 얼마나 쓰는지 가시화
- 캐싱: 반복 호출 비용과 지연 절감
- 가드레일: 민감 정보 유출 차단
- 로깅: LLM 사용 데이터 확보
16:00–16:30
Claude Code on Amazon Bedrock + LiteLLM
- 사내 통제 범위 안에서 Claude Code를 운영하는 방법
16:30–17:00
Q&A