화니의 세상

Cactus는 스마트폰·스마트워치 같은 모바일 기기에서 LLM/VLM/TTS 등 다양한 AI 모델을 로컬(오프라인)으로 구동할 수 있게 해주는 오픈소스 프레임워크입니다. Flutter, React-Native, C/C++ 등 여러 플랫폼을 지원하며, GGUF 포맷을 사용하는 최신 오픈소스 모델들을 즉시 가져다 쓸 수 있는 것이 특징입니다  .

주요 기능

• 다중 모달 지원: 텍스트 완성, 이미지 인식, 음성 합성 등 다양한 AI 기능 탑재  .
• 경량화 및 양자화 대응: FP32부터 2-bit 양자화 모델까지 효율적으로 처리  .
• 클라우드 백업 옵션: 기기에서 실패 시 원격 API로 대체 실행을 선택할 수 있음 .
• 일관된 API 제공: Flutter, React-Native, C/C++에서 동일한 사용법으로 호출 가능

https://github.com/cactus-compute/cactus

Pangolin은 WireGuard 기반 터널과 Traefik 리버스 프록시를 결합한 셀프 호스팅 터널형 리버스 프록시 서버입니다. 대시보드 UI와 ID 관리 기능을 통해 인터넷에 내부 리소스를 안전하게 노출할 수 있는 솔루션입니다.

주요 기능

• 구성: WireGuard 터널 및 Traefik 리버스 프록시 자동 설정, Docker 기반 손쉬운 배포 
• 인증 및 권한 관리: SSO/OAuth2/OIDC 지원(무료), 역할 기반 접근 제어, 핀코드/패스워드, 일회용 공유 링크 
• 보안:
  • 내부 리소스의 외부 포트 개방 불필요
  • Let’s Encrypt로 자동 SSL 인증서 발급 
• 대시보드 & 사용자 경험: UI 리프레시, 글로벌 테이블 검색, 리소스 가시성 설정 
• 고급 설정:
  • 멀티 도메인 지원, IP/CIDR/URL 경로 기반 접근 규칙 
  • CrowdSec 통합 설치 스크립트로 보안 강화 

구성 요소

• Newt: WireGuard 터널을 설정 + TCP/UDP 프록시 역할을 수행하는 user-space 클라이언트 
• Gerbil: WireGuard 인터페이스 관리 서버
• Badger: Traefik 인증용 미들웨어 플러그인

https://github.com/fosrl/pangolin

Chatterbox TTS는 Resemble AI가 개발한 오픈소스 음성 합성(TTS: Text-To-Speech) 모델입니다. MIT 라이선스 하에 공개되어 누구나 자유롭게 사용할 수 있으며, 상용 서비스 못지않은 높은 품질을 제공합니다. 특히 ElevenLabs 등 기존 상용 시스템과의 벤치마크에서도 경쟁력을 입증했습니다.

이 모델의 가장 큰 특징은 감정 과장 제어(emotion exaggeration control) 기능입니다. 이를 통해 목소리의 감정을 더 극적으로 조절할 수 있어, 밈 제작, 게임, 영상, AI 에이전트 등 다양한 콘텐츠 제작에 적합합니다.

주요 특징:

• 최첨단 Zero-shot TTS 지원
• LLaMA 기반 5억 파라미터 모델
• 감정 과장/강도 제어 기능
• 정렬 정보 기반 안정적 추론 (ultra-stable inference)
• 50만 시간의 정제된 음성 데이터로 학습
• 워터마크 삽입 기능으로 책임 있는 AI 구현
• 간편한 음성 변환 스크립트 제공

https://github.com/resemble-ai/chatterbox

HyperDX는 세션 리플레이, 로그, 메트릭, 트레이스, 에러를 하나의 플랫폼에서 통합하여 제공하는 오픈소스 관측(Observability) 도구입니다. ClickHouse와 OpenTelemetry를 기반으로 하며, 빠르고 직관적인 검색 및 시각화 기능을 제공합니다.

주요 기능:

• 통합 데이터 분석: 세션 리플레이, 로그, 메트릭, 트레이스, 에러를 한 곳에서 분석할 수 있습니다.
• 빠른 검색 및 시각화: ClickHouse의 성능을 활용하여 대용량 데이터도 빠르게 처리합니다.
• 직관적인 검색 문법: level:err와 같은 간단한 문법으로 원하는 데이터를 쉽게 찾을 수 있습니다.
• 이상 징후 분석: 이벤트 델타를 통해 이상 징후를 빠르게 파악할 수 있습니다.
• 간편한 알림 설정: 몇 번의 클릭으로 알림을 설정할 수 있습니다.
• OpenTelemetry 지원: 다양한 언어와 플랫폼에서의 텔레메트리 데이터를 수집할 수 있습니다.

https://github.com/hyperdxio/hyperdx

genticSeek는 클라우드나 API 없이 사용자의 로컬 환경에서 완전히 작동하는 AI 비서입니다. 이 프로젝트는 웹 검색, 코드 작성, 작업 계획 등을 자율적으로 수행하며, 모든 데이터를 사용자의 기기 내에 저장하여 프라이버시를 보장합니다.

주요 특징:

• 완전한 로컬 실행: AgenticSeek는 인터넷 연결 없이도 작동하며, 사용자의 데이터를 외부 서버로 전송하지 않습니다.
• 자율적인 웹 탐색: 웹을 자동으로 검색하고, 정보를 추출하며, 웹 폼을 작성하는 등의 작업을 수행할 수 있습니다.
• 코드 작성 및 디버깅: Python, C, Go, Java 등 다양한 언어로 코드를 작성하고 디버깅할 수 있습니다.
• 음성 지원: 음성 명령을 인식하고, 음성으로 응답하는 기능을 제공합니다.
• 작업 계획 및 실행: 복잡한 작업을 계획하고, 여러 단계로 나누어 실행할 수 있습니다.

https://github.com/Fosowl/agenticSeek

주요 기능

• 호스팅 및 커스터마이징 가능한 로그인 페이지: 브랜드에 맞게 로그인 페이지를 구성할 수 있습니다.
• 다중 테넌시 지원: 각 고객사가 자체적으로 사용자 관리 및 로그인 설정을 할 수 있습니다.
• 사용자 가장 기능: 관리자가 특정 사용자로 로그인하여 문제를 진단할 수 있습니다.
• 매직 링크 및 소셜 로그인: 이메일, Google, GitHub, Microsoft 계정을 통한 로그인 지원.
• SAML SSO 및 SCIM 프로비저닝: 엔터프라이즈 환경에서의 싱글 사인온 및 디렉터리 동기화 지원.
• 역할 기반 접근 제어(RBAC): 세분화된 권한 설정이 가능합니다.
• 다단계 인증(MFA): 추가적인 보안 계층을 제공하여 계정 보호를 강화합니다.
• API 키 관리: 고객이 자체적으로 API 키를 생성하고 관리할 수 있습니다.
• 웹훅 지원: 실시간으로 데이터를 동기화할 수 있습니다.

https://github.com/tesseral-labs/tesseral

스탠포드 대학교 MAST 연구팀이 개발한 BLAST(Browser-LLM Auto-Scaling Technology)는 웹 브라우징 기능을 갖춘 대규모 언어 모델(LLM)을 효율적으로 서빙하기 위한 오픈소스 엔진입니다.

BLAST의 주요 특징:

• OpenAI API 호환성: 기존 OpenAI API를 사용하는 애플리케이션을 별도의 수정 없이 BLAST로 전환할 수 있습니다.
• 고성능 처리: 자동 병렬 처리와 프리픽스 캐싱을 통해 빠른 응답 속도를 제공합니다.
• 스트리밍 응답: 웹 브라우징 결과를 실시간으로 스트리밍하여 사용자에게 즉각적인 피드백을 제공합니다.
• 리소스 효율성: 메모리와 LLM 비용을 효율적으로 관리하여 비용을 절감할 수 있습니다.

https://blastproject.org/

https://github.com/stanford-mast/blast

🧠 Void란?

Void는 오픈소스 기반의 코드 에디터로, AI 기능이 통합된 Cursor의 대안입니다. Visual Studio Code(VSCode)를 포크하여 개발되었으며, AI 에이전트와의 통합, 코드 변경 시각화, 다양한 LLM(Local Language Model) 지원 등을 특징으로 합니다.

🔧 주요 기능

• AI 에이전트 통합: GPT-4.1, Claude 3.7, Mistral 등 다양한 오픈소스 모델과 연동하여 코드 작성 및 보조 기능 제공.
• 변경사항 체크포인트: 코드 변경 이력을 시각적으로 확인하고 관리할 수 있는 기능.
• 로컬 및 원격 실행 지원: SSH 및 WSL 환경에서의 원격 실행을 지원하여 다양한 개발 환경에 대응.
• 자동 업데이트: 최신 기능과 보안 패치를 자동으로 적용하여 항상 최신 상태 유지.

https://github.com/voideditor/void