화니의 세상

OpenAI·Gemini·Claude·Codex 계열 인터페이스를 하나의 프록시 서버로 묶어 주는 오픈소스 프로젝트입니다.
여러 AI CLI와 계정을 함께 다루는 흐름에 초점을 맞추고 있어, 개발 환경을 조금 더 유연하게 정리하고 싶은 사람에게 특히 눈에 들어오는 도구입니다.

CLIProxyAPI는 한 줄로 말하면, 다양한 AI 코딩용 CLI를 공통된 API 형태로 연결해 주는 프록시 서버입니다.

README에서는 OpenAI·Gemini·Claude·Codex 호환 API 인터페이스를 제공한다고 소개하고 있고, OpenAI Codex와 Claude Code는 OAuth 로그인도 지원합니다. 덕분에 특정 서비스 하나에 맞춰 사용 방식을 바꾸기보다, 익숙한 클라이언트나 SDK를 유지한 채 여러 백엔드를 연결하는 방향에 더 가깝습니다.

기능 구성을 보면 이 프로젝트의 성격이 더 선명해집니다. 스트리밍과 비스트리밍 응답을 모두 지원하고, 함수 호출과 도구 사용, 텍스트와 이미지 입력 같은 멀티모달 처리까지 포함합니다. 여기에 Gemini·OpenAI·Claude 계정을 여러 개 연결해 라운드로빈 방식으로 부하를 분산하는 기능도 제공하며, OpenAI 호환 업스트림 제공자를 설정으로 붙일 수 있게 설계되어 있습니다. 단순히 “요청을 전달하는 프록시”라기보다, 여러 모델과 계정을 실제 운영 환경에서 다루기 위한 중간 레이어에 가깝다는 인상을 줍니다.

활용 장면도 비교적 분명합니다. 예를 들어 한 개발자가 Claude Code, Gemini CLI, Codex 계열 도구를 프로젝트나 상황에 따라 번갈아 쓰고 있다면, CLIProxyAPI를 통해 인증과 라우팅을 한곳에서 관리하는 흐름을 생각해볼 수 있습니다. README에는 Amp CLI와 IDE 확장 지원도 별도로 정리되어 있고, 모델 매핑, 자동 라우팅, 보안 중심의 localhost 전용 관리 엔드포인트 같은 설명도 포함돼 있어, 개인 실험용을 넘어 실제 개발 워크플로에 맞춘 설계 의도가 읽힙니다.

비슷한 성격의 프록시나 릴레이 도구와 비교했을 때 눈에 띄는 점은 “호환성의 폭”과 “운영 편의성”입니다. 하나의 모델 제공사만 다루는 도구가 아니라 OpenAI·Gemini·Claude·Codex 계열을 함께 묶고, OAuth 로그인, 다중 계정 로드밸런싱, SDK 문서, Management API, Amp 연동까지 함께 제시합니다. 또 README에는 이 프로젝트를 바탕으로 만든 메뉴바 앱, 대시보드, VSCode 확장, 쿼터 모니터링 도구 등 여러 파생 프로젝트도 소개되어 있어서, 단일 스크립트 수준을 넘어 하나의 생태계처럼 확장되고 있다는 점도 흥미롭습니다.

그래서 이 프로젝트는 여러 AI 코딩 도구를 함께 쓰는 개발자, 계정 운영이나 인증 방식을 일관되게 묶고 싶은 사용자, 혹은 OpenAI 호환 인터페이스를 기준으로 다양한 백엔드를 연결하고 싶은 팀에게 특히 잘 맞아 보입니다. 반대로 아주 단순하게 한 서비스만 호출하면 되는 경우라면 다소 큰 구성처럼 느껴질 수 있지만, 여러 공급자와 모델을 유연하게 연결해야 하는 순간에는 장점이 분명해집니다. 

정리하면 CLIProxyAPI는 “여러 AI CLI를 하나의 공통 API 계층으로 정리해 주는 오픈소스 프록시”라는 점에서 가치가 분명한 프로젝트입니다. 지원 범위가 넓고, 다중 계정과 OAuth, 라우팅과 호환성까지 함께 다루기 때문에, AI 코딩 도구를 본격적으로 쓰는 사람일수록 활용도가 커질 만한 레포지토리입니다. 

https://github.com/router-for-me/CLIProxyAPI

LiteLLM은 OpenAI 형식의 인터페이스로 100개 이상의 LLM을 호출할 수 있도록 도와주는 오픈소스 프로젝트입니다. OpenAI, Azure, Bedrock, Vertex AI, Anthropic, Groq 등 다양한 AI 모델 제공자를 하나의 방식으로 연결할 수 있어, 여러 모델을 함께 운영해야 하는 개발팀과 플랫폼팀에 특히 유용합니다.

이 도구는 크게 두 가지 방식으로 사용할 수 있습니다. 첫 번째는 Python SDK로, 애플리케이션 코드 안에서 여러 LLM을 통합 호출할 수 있습니다. 두 번째는 AI Gateway(Proxy Server) 방식으로, 중앙에서 인증, 권한 관리, 비용 추적, 로깅, 캐싱, 모니터링까지 관리할 수 있습니다.

LiteLLM의 강점은 단순한 모델 호출에 그치지 않는다는 점입니다. 채팅, 응답 생성, 임베딩, 이미지, 오디오, 배치, 리랭크 등 다양한 엔드포인트를 지원하며, A2A 에이전트 연동과 MCP 도구 연결까지 지원해 AI 애플리케이션 확장성이 높습니다.

또한 라우팅, 재시도, 폴백, 로드 밸런싱, 예외 처리, 관측성 도구 연동 등 실무에서 필요한 기능을 폭넓게 제공해 운영 효율성을 높여줍니다. 여러 LLM을 일관된 방식으로 관리하고 싶은 조직이라면 LiteLLM은 매우 실용적인 선택지가 될 수 있습니다.

https://github.com/BerriAI/litellm

Pangolin은 WireGuard 기반 터널과 Traefik 리버스 프록시를 결합한 셀프 호스팅 터널형 리버스 프록시 서버입니다. 대시보드 UI와 ID 관리 기능을 통해 인터넷에 내부 리소스를 안전하게 노출할 수 있는 솔루션입니다.

주요 기능

• 구성: WireGuard 터널 및 Traefik 리버스 프록시 자동 설정, Docker 기반 손쉬운 배포 
• 인증 및 권한 관리: SSO/OAuth2/OIDC 지원(무료), 역할 기반 접근 제어, 핀코드/패스워드, 일회용 공유 링크 
• 보안:
  • 내부 리소스의 외부 포트 개방 불필요
  • Let’s Encrypt로 자동 SSL 인증서 발급 
• 대시보드 & 사용자 경험: UI 리프레시, 글로벌 테이블 검색, 리소스 가시성 설정 
• 고급 설정:
  • 멀티 도메인 지원, IP/CIDR/URL 경로 기반 접근 규칙 
  • CrowdSec 통합 설치 스크립트로 보안 강화 

구성 요소

• Newt: WireGuard 터널을 설정 + TCP/UDP 프록시 역할을 수행하는 user-space 클라이언트 
• Gerbil: WireGuard 인터페이스 관리 서버
• Badger: Traefik 인증용 미들웨어 플러그인

https://github.com/fosrl/pangolin

mitmproxy2swagger는 REST API의 트래픽을 캡처하여 자동으로 OpenAPI 3.0 스펙으로 변환하는 도구입니다. 이 도구를 사용하면 앱 실행 중 캡처된 HTTP 트래픽을 기반으로 API의 구조를 쉽게 분석할 수 있습니다.

주요 기능

• mitmproxy 통합: mitmproxy를 통해 HTTP 트래픽을 캡처하고 이를 기반으로 API 스펙을 생성합니다.

• HAR 파일 지원: 브라우저 개발자 도구에서 내보낸 HAR 파일도 처리할 수 있습니다.

• 유연한 스키마 병합: 기존 API 스펙과 새로 캡처한 데이터를 안전하게 병합할 수 있습니다.

활용 사례

• 내부 API 분석 및 문서화

• 타사 API 리버스 엔지니어링

https://github.com/alufers/mitmproxy2swagger