화니의 세상

Sim은 AI 에이전트 워크플로우를 시각적으로 만들고 배포할 수 있는 오픈소스 플랫폼입니다. GitHub에서 공개되어 있으며, Next.js와 Bun, PostgreSQL(pgvector) 기반으로 돌아가는 모던한 AI 자동화 도구입니다. 

Sim의 핵심 기능

• 캔버스 기반 워크플로우 빌더
• 블록을 캔버스에 올리고, 에이전트·툴·조건 블록을 선으로 연결해서 흐름을 설계할 수 있습니다. 복잡한 에이전트 파이프라인도 플로우 차트 그리듯 만들 수 있습니다. 
• Copilot 연동으로 자동 노드 생성
• 자연어로 “웹 크롤링 후 요약해서 슬랙으로 보내줘” 같은 요구를 하면, Copilot이 필요한 노드를 제안하고 오류 수정까지 도와줘 워크플로우 설계를 빠르게 반복할 수 있습니다. 
• 벡터 DB 연동(RAG 지원)
• 문서를 업로드해서 벡터스토어에 저장한 뒤, 에이전트가 해당 지식을 기반으로 질의응답을 할 수 있는 RAG(검색 기반 생성) 워크플로우를 구성할 수 있습니다. 

사용 방법 (클라우드 & 셀프 호스팅)

• 클라우드 버전
• 공식 사이트(sim.ai)에 접속해 바로 워크플로우를 만들 수 있는 클라우드 환경을 제공합니다. 
• 로컬/온프레미스 셀프 호스팅
  • NPM으로 간단 실행: npx simstudio
  • Docker Compose로 프로덕션 환경 실행
  • Ollama, vLLM과 연동해 로컬 LLM 또는 자체 호스팅한 모델도 사용할 수 있어, 외부 API 없이 폐쇄망에서도 운영이 가능합니다. 

기술 스택

• Framework: Next.js (App Router)
• Runtime: Bun
• DB: PostgreSQL + pgvector(임베딩·RAG용)
• UI: Shadcn + Tailwind CSS
• 상태관리/플로우: Zustand, ReactFlow
• 실시간 & 잡 처리: Socket.io, Trigger.dev 등 

이런 분들께 추천

• 여러 LLM·툴·API를 조합한 에이전트/자동화 플로우를 만들고 싶은 개발자
• 사내 문서·데이터를 기반으로 맞춤형 AI 도우미를 구축하려는 팀
• 클라우드가 아닌 셀프 호스팅 AI 에이전트 플랫폼이 필요한 조직

Sim은 Apache-2.0 라이선스로 공개되어 있어, 기업 환경에서도 자유롭게 커스터마이징하고 배포할 수 있는 점이 큰 장점입니다.  

https://github.com/simstudioai/sim

Docling은 다양한 문서 형식을 쉽게 처리하고, 생성형 AI와 연동할 수 있도록 돕는 오픈소스 프로젝트입니다. PDF, DOCX, PPTX, XLSX, HTML뿐만 아니라 이미지와 오디오 파일까지 지원하며, 고급 PDF 분석 기능을 통해 표, 코드, 수식, 레이아웃까지 이해할 수 있습니다.

또한 문서를 Markdown, HTML, JSON 등 여러 형식으로 변환할 수 있으며, LangChain, LlamaIndex, Haystack 같은 AI 프레임워크와도 손쉽게 통합할 수 있습니다. 로컬 실행도 가능해 보안이 중요한 환경에서도 활용할 수 있다는 점이 특징입니다.

https://github.com/docling-project/docling

Cactus는 스마트폰·스마트워치 같은 모바일 기기에서 LLM/VLM/TTS 등 다양한 AI 모델을 로컬(오프라인)으로 구동할 수 있게 해주는 오픈소스 프레임워크입니다. Flutter, React-Native, C/C++ 등 여러 플랫폼을 지원하며, GGUF 포맷을 사용하는 최신 오픈소스 모델들을 즉시 가져다 쓸 수 있는 것이 특징입니다  .

주요 기능

• 다중 모달 지원: 텍스트 완성, 이미지 인식, 음성 합성 등 다양한 AI 기능 탑재  .
• 경량화 및 양자화 대응: FP32부터 2-bit 양자화 모델까지 효율적으로 처리  .
• 클라우드 백업 옵션: 기기에서 실패 시 원격 API로 대체 실행을 선택할 수 있음 .
• 일관된 API 제공: Flutter, React-Native, C/C++에서 동일한 사용법으로 호출 가능

https://github.com/cactus-compute/cactus

스탠포드 대학교 MAST 연구팀이 개발한 BLAST(Browser-LLM Auto-Scaling Technology)는 웹 브라우징 기능을 갖춘 대규모 언어 모델(LLM)을 효율적으로 서빙하기 위한 오픈소스 엔진입니다.

BLAST의 주요 특징:

• OpenAI API 호환성: 기존 OpenAI API를 사용하는 애플리케이션을 별도의 수정 없이 BLAST로 전환할 수 있습니다.
• 고성능 처리: 자동 병렬 처리와 프리픽스 캐싱을 통해 빠른 응답 속도를 제공합니다.
• 스트리밍 응답: 웹 브라우징 결과를 실시간으로 스트리밍하여 사용자에게 즉각적인 피드백을 제공합니다.
• 리소스 효율성: 메모리와 LLM 비용을 효율적으로 관리하여 비용을 절감할 수 있습니다.

https://blastproject.org/

https://github.com/stanford-mast/blast

🧠 Void란?

Void는 오픈소스 기반의 코드 에디터로, AI 기능이 통합된 Cursor의 대안입니다. Visual Studio Code(VSCode)를 포크하여 개발되었으며, AI 에이전트와의 통합, 코드 변경 시각화, 다양한 LLM(Local Language Model) 지원 등을 특징으로 합니다.

🔧 주요 기능

• AI 에이전트 통합: GPT-4.1, Claude 3.7, Mistral 등 다양한 오픈소스 모델과 연동하여 코드 작성 및 보조 기능 제공.
• 변경사항 체크포인트: 코드 변경 이력을 시각적으로 확인하고 관리할 수 있는 기능.
• 로컬 및 원격 실행 지원: SSH 및 WSL 환경에서의 원격 실행을 지원하여 다양한 개발 환경에 대응.
• 자동 업데이트: 최신 기능과 보안 패치를 자동으로 적용하여 항상 최신 상태 유지.

https://github.com/voideditor/void

Transformer Lab은 복잡한 코딩 없이도 누구나 대형 언어 모델(LLM)을 쉽게 활용할 수 있도록 도와주는 오픈소스 플랫폼입니다. 이 플랫폼은 macOS, Windows, Linux 등 다양한 운영체제에서 동작하며, 로컬 환경에서 모델 다운로드, 미세 조정, 평가, 실행까지 모두 가능합니다.

주요 기능으로는 클릭 한 번으로 Llama3, Mistral, Phi3 등 인기 모델 다운로드, Hugging Face와 Apple Silicon 기반의 미세 조정, RLHF 방식 학습(DPO, ORPO, SIMPO 등), RAG 기반 검색 및 임베딩 처리, 시각화 기반 모델 평가 도구 제공 등이 있습니다. 또한 REST API와 플러그인 시스템도 지원하여 다양한 외부 연동이 가능합니다.

Transformer Lab은 Mozilla의 후원을 받아 개발되었으며, 사용자는 공식 사이트에서 운영체제별 설치 파일을 받을 수 있습니다. 설치 가이드와 튜토리얼도 함께 제공되어, 누구나 쉽게 시작할 수 있습니다.

https://transformerlab.ai/

Kodus는 개발 팀이 코드 품질을 향상시키는 데 도움을 주는 오픈 소스 AI 에이전트입니다.  이 도구는 팀의 Git 워크플로우에 통합되어 자동으로 코드 리뷰를 수행하며, 성능, 보안, 가독성 등 다양한 측면에서 피드백을 제공합니다.

주요 기능:

• 맥락 인식 지능: Kodus는 코드베이스와 팀의 코딩 표준을 학습하여 관련성 높은 피드백을 제공합니다.
• 맞춤형 리뷰 정책: 자연어로 리뷰 지침을 설정하여 팀의 엔지니어링 원칙과 실천 방침을 반영할 수 있습니다.
• 네이티브 Git 통합: 기존 Git 워크플로우와 원활하게 통합되어 풀 리퀘스트에서 직접 피드백을 제공합니다.
• 지속적인 학습: 팀의 피드백을 반영하여 시간이 지남에 따라 더욱 정교한 리뷰를 제공합니다.

Kodus는 클라우드 에디션과 자체 호스팅 에디션으로 제공되며, 팀의 필요에 따라 선택하여 사용할 수 있습니다.

https://github.com/kodustech/kodus-ai

Local Deep Research는 강력한 AI 기반 연구 도우미로, 여러 LLM(대규모 언어 모델)과 웹 검색을 활용한 심층 분석을 수행합니다. 로컬에서 실행할 수 있어 개인정보 보호가 가능하며, 클라우드 기반 LLM을 사용할 수도 있습니다.

주요 기능

• 자동화된 심층 연구: 지능형 후속 질문, 출처 추적 및 검증

• 유연한 LLM 지원: Ollama, Claude, GPT 등 다양한 모델과 연동 가능

• 강력한 검색 기능: Wikipedia, arXiv, PubMed, DuckDuckGo, Google 검색 API 등과 연동

• 로컬 문서 검색(RAG): 벡터 임베딩을 활용한 개인 문서 검색 지원

• 개인정보 보호: 로컬에서 실행되며, 검색 설정을 자유롭게 조정 가능

https://github.com/LearningCircuit/local-deep-research