화니의 세상

HyperDX는 세션 리플레이, 로그, 메트릭, 트레이스, 에러를 하나의 플랫폼에서 통합하여 제공하는 오픈소스 관측(Observability) 도구입니다. ClickHouse와 OpenTelemetry를 기반으로 하며, 빠르고 직관적인 검색 및 시각화 기능을 제공합니다.

주요 기능:

• 통합 데이터 분석: 세션 리플레이, 로그, 메트릭, 트레이스, 에러를 한 곳에서 분석할 수 있습니다.
• 빠른 검색 및 시각화: ClickHouse의 성능을 활용하여 대용량 데이터도 빠르게 처리합니다.
• 직관적인 검색 문법: level:err와 같은 간단한 문법으로 원하는 데이터를 쉽게 찾을 수 있습니다.
• 이상 징후 분석: 이벤트 델타를 통해 이상 징후를 빠르게 파악할 수 있습니다.
• 간편한 알림 설정: 몇 번의 클릭으로 알림을 설정할 수 있습니다.
• OpenTelemetry 지원: 다양한 언어와 플랫폼에서의 텔레메트리 데이터를 수집할 수 있습니다.

https://github.com/hyperdxio/hyperdx

genticSeek는 클라우드나 API 없이 사용자의 로컬 환경에서 완전히 작동하는 AI 비서입니다. 이 프로젝트는 웹 검색, 코드 작성, 작업 계획 등을 자율적으로 수행하며, 모든 데이터를 사용자의 기기 내에 저장하여 프라이버시를 보장합니다.

주요 특징:

• 완전한 로컬 실행: AgenticSeek는 인터넷 연결 없이도 작동하며, 사용자의 데이터를 외부 서버로 전송하지 않습니다.
• 자율적인 웹 탐색: 웹을 자동으로 검색하고, 정보를 추출하며, 웹 폼을 작성하는 등의 작업을 수행할 수 있습니다.
• 코드 작성 및 디버깅: Python, C, Go, Java 등 다양한 언어로 코드를 작성하고 디버깅할 수 있습니다.
• 음성 지원: 음성 명령을 인식하고, 음성으로 응답하는 기능을 제공합니다.
• 작업 계획 및 실행: 복잡한 작업을 계획하고, 여러 단계로 나누어 실행할 수 있습니다.

https://github.com/Fosowl/agenticSeek

주요 기능

• 호스팅 및 커스터마이징 가능한 로그인 페이지: 브랜드에 맞게 로그인 페이지를 구성할 수 있습니다.
• 다중 테넌시 지원: 각 고객사가 자체적으로 사용자 관리 및 로그인 설정을 할 수 있습니다.
• 사용자 가장 기능: 관리자가 특정 사용자로 로그인하여 문제를 진단할 수 있습니다.
• 매직 링크 및 소셜 로그인: 이메일, Google, GitHub, Microsoft 계정을 통한 로그인 지원.
• SAML SSO 및 SCIM 프로비저닝: 엔터프라이즈 환경에서의 싱글 사인온 및 디렉터리 동기화 지원.
• 역할 기반 접근 제어(RBAC): 세분화된 권한 설정이 가능합니다.
• 다단계 인증(MFA): 추가적인 보안 계층을 제공하여 계정 보호를 강화합니다.
• API 키 관리: 고객이 자체적으로 API 키를 생성하고 관리할 수 있습니다.
• 웹훅 지원: 실시간으로 데이터를 동기화할 수 있습니다.

https://github.com/tesseral-labs/tesseral

스탠포드 대학교 MAST 연구팀이 개발한 BLAST(Browser-LLM Auto-Scaling Technology)는 웹 브라우징 기능을 갖춘 대규모 언어 모델(LLM)을 효율적으로 서빙하기 위한 오픈소스 엔진입니다.

BLAST의 주요 특징:

• OpenAI API 호환성: 기존 OpenAI API를 사용하는 애플리케이션을 별도의 수정 없이 BLAST로 전환할 수 있습니다.
• 고성능 처리: 자동 병렬 처리와 프리픽스 캐싱을 통해 빠른 응답 속도를 제공합니다.
• 스트리밍 응답: 웹 브라우징 결과를 실시간으로 스트리밍하여 사용자에게 즉각적인 피드백을 제공합니다.
• 리소스 효율성: 메모리와 LLM 비용을 효율적으로 관리하여 비용을 절감할 수 있습니다.

https://blastproject.org/

https://github.com/stanford-mast/blast

🧠 Void란?

Void는 오픈소스 기반의 코드 에디터로, AI 기능이 통합된 Cursor의 대안입니다. Visual Studio Code(VSCode)를 포크하여 개발되었으며, AI 에이전트와의 통합, 코드 변경 시각화, 다양한 LLM(Local Language Model) 지원 등을 특징으로 합니다.

🔧 주요 기능

• AI 에이전트 통합: GPT-4.1, Claude 3.7, Mistral 등 다양한 오픈소스 모델과 연동하여 코드 작성 및 보조 기능 제공.
• 변경사항 체크포인트: 코드 변경 이력을 시각적으로 확인하고 관리할 수 있는 기능.
• 로컬 및 원격 실행 지원: SSH 및 WSL 환경에서의 원격 실행을 지원하여 다양한 개발 환경에 대응.
• 자동 업데이트: 최신 기능과 보안 패치를 자동으로 적용하여 항상 최신 상태 유지.

https://github.com/voideditor/void

Rybbit은 구글 애널리틱스의 오픈소스 대안으로, 사용자 개인정보를 보호하면서도 직관적인 웹 분석 기능을 제공합니다. 설치가 간편하며, 자체 호스팅 또는 공식 사이트를 통한 사용이 가능합니다.

주요 기능

• 세션, 방문자 수, 페이지뷰, 이탈률, 평균 세션 시간 등 핵심 웹 분석 지표 제공
• 쿠키나 사용자 추적 없이 GDPR 및 CCPA 준수
• 사용자 여정, 전환 퍼널, 목표 설정 등 커스터마이징 가능한 대시보드
• 15개 이상의 필터링 옵션을 통한 고급 분석
• 실시간 세션 대시보드 및 국가-지역-도시 수준의 위치 추적
• 조직 및 무제한 사이트 지원

Rybbit은 TypeScript로 개발되었으며, AGPL-3.0 라이선스를 따릅니다. 현재 GitHub에서 1.2k 이상의 스타를 받으며 활발히 유지 관리되고 있습니다. 

Rybbit은 웹사이트 방문자 데이터를 효율적으로 분석하고자 하는 개발자 및 운영자에게 적합한 도구입니다. 개인정보 보호와 직관적인 UI를 중시하는 분들에게 추천드립니다.

https://github.com/rybbit-io/rybbit

Infinity는 텍스트 임베딩, 리랭킹 모델, CLIP, CLAP, Colpali 등을 고속으로 서빙할 수 있는 REST API 기반의 오픈소스 엔진입니다. Michael Feil이 개발하였으며, MIT 라이선스로 배포되어 자유롭게 사용할 수 있습니다.

주요 특징

• 다양한 모델 지원: HuggingFace의 임베딩, 리랭킹, CLIP, 문장 변환기 모델을 손쉽게 배포할 수 있습니다.
• 고속 추론 백엔드: PyTorch, Optimum(ONNX/TensorRT), CTranslate2 기반으로 NVIDIA CUDA, AMD ROCm, CPU, AWS INF2, Apple MPS 등 다양한 하드웨어를 지원합니다.
• 멀티모달 및 멀티모델 지원: 여러 모델을 동시에 운영하며, 텍스트와 이미지 등 다양한 입력을 처리할 수 있습니다.
• 간편한 사용법: FastAPI 기반으로 구축되어 있으며, CLI를 통해 환경 변수나 인자를 이용한 설정이 가능합니다.
• OpenAI API 호환: OpenAI의 API 사양에 맞춰져 있어 기존 시스템과의 통합이 용이합니다.

활용 예시

Infinity는 검색 엔진, 추천 시스템, 문서 분류 등 다양한 분야에서 활용될 수 있습니다. 특히, 고속의 텍스트 임베딩과 리랭킹 기능은 대규모 데이터 처리에 적합합니다.

시작하기

Infinity에 대한 자세한 정보와 설치 방법은 공식 GitHub 저장소에서 확인할 수 있습니다:

🔗 https://github.com/michaelfeil/infinity

또한, 문서화된 가이드는 다음 링크에서 확인할 수 있습니다:

📄 https://michaelfeil.github.io/infinity/

Infinity를 통해 고성능의 텍스트 임베딩 및 리랭킹 서비스를 손쉽게 구축해보세요!

Transformer Lab은 복잡한 코딩 없이도 누구나 대형 언어 모델(LLM)을 쉽게 활용할 수 있도록 도와주는 오픈소스 플랫폼입니다. 이 플랫폼은 macOS, Windows, Linux 등 다양한 운영체제에서 동작하며, 로컬 환경에서 모델 다운로드, 미세 조정, 평가, 실행까지 모두 가능합니다.

주요 기능으로는 클릭 한 번으로 Llama3, Mistral, Phi3 등 인기 모델 다운로드, Hugging Face와 Apple Silicon 기반의 미세 조정, RLHF 방식 학습(DPO, ORPO, SIMPO 등), RAG 기반 검색 및 임베딩 처리, 시각화 기반 모델 평가 도구 제공 등이 있습니다. 또한 REST API와 플러그인 시스템도 지원하여 다양한 외부 연동이 가능합니다.

Transformer Lab은 Mozilla의 후원을 받아 개발되었으며, 사용자는 공식 사이트에서 운영체제별 설치 파일을 받을 수 있습니다. 설치 가이드와 튜토리얼도 함께 제공되어, 누구나 쉽게 시작할 수 있습니다.

https://transformerlab.ai/