Back to Security Portfolio
AI Governance / Security
LiteLLM 구축을 통한 GenAI API 키 관리 PoC
AI API 키 발급, 수명관리 및 사용로그 감사 체계 구축
LiteLLMAI GovernanceSecurityPoC
역할
정보보안 리더 (CISO)
소속 / 연도
MOIN / 2024.11 ~ Present
프로젝트 추진 배경 및 목표
개발팀 Claude Code 및 API 업무 지속 활용에 대한 모니터링 필요
솔루션 선정 이유
LiteLLM은 다양한 AI 모델 API를 단일 프록시로 관리할 수 있는 오픈소스 도구 가상 API 키 발급 및 수명관리 기능으로 키 추적이 용이 사용 로그 기반 감사 기능으로 비용 통제 및 MCP 사용내역 확인 가능
도입 요구 기술 및 인프라
LiteLLMDashboardGenAI API
관련 법규 및 컴플라이언스
해당 사항 없음
상세 설계 및 수행 내용
- 1
LiteLLM 설치 및 Dashboard 연동
- 2
가상 API 키 발급 및 수명관리 체계 구축
- 3
사용 로그 기반 감사 시스템 구현
기대 효과 및 수행 결과
가상 API 키 추적 및 비용 통제 가능
커스텀 MCP, 벤더사 MCP 사용내역 감사 가능
AI API 사용 현황 가시성 확보