Cactus는 스마트폰·스마트워치 같은 모바일 기기에서 LLM/VLM/TTS 등 다양한 AI 모델을 로컬(오프라인)으로 구동할 수 있게 해주는 오픈소스 프레임워크입니다. Flutter, React-Native, C/C++ 등 여러 플랫폼을 지원하며, GGUF 포맷을 사용하는 최신 오픈소스 모델들을 즉시 가져다 쓸 수 있는 것이 특징입니다  .

 

 

주요 기능

 

  • 다중 모달 지원: 텍스트 완성, 이미지 인식, 음성 합성 등 다양한 AI 기능 탑재  .
  • 경량화 및 양자화 대응: FP32부터 2-bit 양자화 모델까지 효율적으로 처리  .
  • 클라우드 백업 옵션: 기기에서 실패 시 원격 API로 대체 실행을 선택할 수 있음 .
  • 일관된 API 제공: Flutter, React-Native, C/C++에서 동일한 사용법으로 호출 가능

 

https://github.com/cactus-compute/cactus

 

GitHub - cactus-compute/cactus: Cross-platform framework for deploying LLM/VLM/TTS models locally on smartphones.

Cross-platform framework for deploying LLM/VLM/TTS models locally on smartphones. - cactus-compute/cactus

github.com

 

반응형

Pangolin은 WireGuard 기반 터널과 Traefik 리버스 프록시를 결합한 셀프 호스팅 터널형 리버스 프록시 서버입니다. 대시보드 UI와 ID 관리 기능을 통해 인터넷에 내부 리소스를 안전하게 노출할 수 있는 솔루션입니다.

 

 

주요 기능

 

  • 구성: WireGuard 터널 및 Traefik 리버스 프록시 자동 설정, Docker 기반 손쉬운 배포 
  • 인증 및 권한 관리: SSO/OAuth2/OIDC 지원(무료), 역할 기반 접근 제어, 핀코드/패스워드, 일회용 공유 링크 
  • 보안:
    • 내부 리소스의 외부 포트 개방 불필요
    • Let’s Encrypt로 자동 SSL 인증서 발급 
  • 대시보드 & 사용자 경험: UI 리프레시, 글로벌 테이블 검색, 리소스 가시성 설정 
  • 고급 설정:
    • 멀티 도메인 지원, IP/CIDR/URL 경로 기반 접근 규칙 
    • CrowdSec 통합 설치 스크립트로 보안 강화 

 

 

구성 요소

 

  • Newt: WireGuard 터널을 설정 + TCP/UDP 프록시 역할을 수행하는 user-space 클라이언트 
  • Gerbil: WireGuard 인터페이스 관리 서버
  • Badger: Traefik 인증용 미들웨어 플러그인

https://github.com/fosrl/pangolin

 

GitHub - fosrl/pangolin: Tunneled Reverse Proxy Server with Identity and Access Control and Dashboard UI

Tunneled Reverse Proxy Server with Identity and Access Control and Dashboard UI - fosrl/pangolin

github.com

 

반응형

Chatterbox TTS는 Resemble AI가 개발한 오픈소스 음성 합성(TTS: Text-To-Speech) 모델입니다. MIT 라이선스 하에 공개되어 누구나 자유롭게 사용할 수 있으며, 상용 서비스 못지않은 높은 품질을 제공합니다. 특히 ElevenLabs 등 기존 상용 시스템과의 벤치마크에서도 경쟁력을 입증했습니다.

 

이 모델의 가장 큰 특징은 감정 과장 제어(emotion exaggeration control) 기능입니다. 이를 통해 목소리의 감정을 더 극적으로 조절할 수 있어, 밈 제작, 게임, 영상, AI 에이전트 등 다양한 콘텐츠 제작에 적합합니다.

 

 

주요 특징:

 

  • 최첨단 Zero-shot TTS 지원
  • LLaMA 기반 5억 파라미터 모델
  • 감정 과장/강도 제어 기능
  • 정렬 정보 기반 안정적 추론 (ultra-stable inference)
  • 50만 시간의 정제된 음성 데이터로 학습
  • 워터마크 삽입 기능으로 책임 있는 AI 구현
  • 간편한 음성 변환 스크립트 제공

https://github.com/resemble-ai/chatterbox

 

GitHub - resemble-ai/chatterbox: SoTA open-source TTS

SoTA open-source TTS. Contribute to resemble-ai/chatterbox development by creating an account on GitHub.

github.com

 

반응형

+ Recent posts