Supa"OmniVoice" is the best local TTS I've used so far.
sayzardSudo su (@sudoingX)
Hermes agent 27B dense 모델이 DGX Spark에서 로컬 자율 실행되며, Qwen 27B Q8용 커스텀 fused kernels와 SSM/Triton Q8 커널 최적화를 통해 큰 속도 향상을 달성했다는 업데이트다. 로컬 에이전트 실행과 커널 가속 성능 측면에서 매우 주목할 만하다.
Sudo su (@sudoingX) on X
update: hermes agent with 27b dense has been running autonomously locally on my dgx spark since last night. here's what it did while i lived my life. built custom fused kernels for qwen 27B Q8. SSM kernel 12.91x speedup. triton Q8 kernel 9.66x faster than naive pytorch. now
Lean Leen (@Tech_Leener)
DKG V10이 로컬 AI 설정에서 부족했던 신뢰 계층을 추가해, 메모리를 더 안전하게 확장하고 검증 가능하게 만든다고 소개한다. 로컬 AI의 보안성과 신뢰성, 기억 확장 문제를 해결하는 업데이트로 보인다.
DARA – Compiled Memory for Any AI. No Cloud. Just Markdown and Python
DARA는 클라우드 없이 로컬에서 마크다운과 파이썬만으로 AI의 지속적인 기억을 가능하게 하는 오픈소스 메모리 프로토콜입니다. 여러 AI 모델과 플랫폼 간에 공유되는 단일 파일 기반의 컴파일된 메모리를 제공하며, 10단계 검증 및 중복 제거 파이프라인으로 오류를 자동 수정하고, 다수 AI의 합의에 의해 메모리를 관리합니다. 별도의 인프라 없이도 작동하며, AI 에이전트 간 컨텍스트 공유 문제를 해결해 토큰 낭비와 반복 설명을 줄여줍니다. 다양한 AI 모델에서 테스트를 거쳐 높은 신뢰성을 입증했으며, AI 개발자들이 멀티 에이전트 환경에서 효율적으로 메모리를 관리하는 데 즉시 활용할 수 있습니다.
Informity AI – Chat with your documents locally on your Mac (MIT, free)
Informity AI는 Mac용 무료 오픈소스 애플리케이션으로, 사용자의 문서를 로컬에서 인덱싱하고 AI 모델을 통해 출처가 명확한 답변을 제공합니다. 모든 처리 과정이 클라우드 없이 기기 내에서 이루어져 개인정보 보호가 철저하며, PDF, 워드, 스프레드시트 등 다양한 문서 형식을 지원합니다. 사용자는 하드웨어에 맞는 AI 모델을 선택할 수 있고, 설치 후 인터넷 연결 없이도 완전한 오프라인 작동이 가능합니다. MIT 라이선스 하에 공개되어 누구나 자유롭게 사용하고 수정할 수 있습니다.
iamonthemission🎥 New video: LMIM OS TEZCAT — GPU-accelerated local AI, double-click install.
EN: Whisper + llama.cpp + Piper, all offline. Windows + Linux.
FR: IA locale accélérée GPU. Installation en un clic. Windows + Linux.
👉 https://youtu.be/UOqQwRQoJKY
Free forever. MIT License.
👉 https://lmim.tech
🤖 LMIM : L'IA gratuite qu'on installe sur SON ordinateur (sans cloud, sans abonnement)
Event Calendar from Newsletters
NOWSLETTER는 뉴스레터에서 이벤트 정보를 수집하고 관리하는 협업 도구로, 로컬 AI와 사람의 협업을 통해 뉴스레터 내용을 이벤트 데이터로 변환한다. 뉴스레터는 탈중앙화되고 특정 맥락에 맞는 정보 소스로서, 웹 스크래핑이나 공개 데이터 활용보다 개인정보 보호와 데이터 품질 면에서 유리하다. 사용자는 직접 서버를 운영하거나 운영자를 통해 서비스를 이용할 수 있으며, AI 모델로는 Qwen3.6-35B와 Apertus-8B 등이 활용된다. 이 프로젝트는 오픈소스로 공개되어 있어 AI 기반 뉴스레터 이벤트 관리에 관심 있는 개발자에게 실용적이다.
CrustAI – Private local AI assistant
CrustAI는 사용자의 컴퓨터에서 완전히 로컬로 실행되는 개인용 AI 비서로, 데이터가 외부로 전송되지 않아 높은 프라이버시를 보장한다. Telegram, WhatsApp, Discord, Slack 등 여러 메시징 플랫폼과 연동되며, Ollama의 로컬 LLM을 기반으로 다양한 AI 모델을 지원한다. 음성 인식 및 합성, 장기 기억 기능, REST API 등 개발자와 프라이버시 중시 사용자를 위한 다양한 기능을 제공한다. 오픈소스 프로젝트로 누구나 소스 코드를 검토할 수 있으며, 향후 웹 UI, 이미지 이해, 플러그인 시스템 등의 확장 계획이 있다.
Swival: A coding agent for any model
Swival은 다양한 언어 모델과 호환되는 오픈소스 코딩 에이전트로, 작은 컨텍스트 윈도우와 제한된 자원 환경에서도 신뢰성 있게 작동하도록 설계되었다. LM Studio, llama.cpp, HuggingFace, OpenRouter, Google Gemini, ChatGPT, AWS Bedrock 등 다양한 플랫폼과 연동 가능하며, API 키 암호화, 세션 간 메모리 유지, 자동 보안 감사 기능을 제공한다. 또한, 사용자가 직접 확장 가능한 스킬과 서버 모드를 지원하며, Python 라이브러리로도 쉽게 임베드할 수 있어 개발자 친화적이다.
Swival — A coding agent for any model
A CLI coding agent built to be reliable with smaller models, including local ones. Designed for tight context windows and limited resources. Works with LM Studio, llama.cpp, HuggingFace, OpenRouter, Google Gemini, ChatGPT Plus/Pro, AWS Bedrock, and any OpenAI-compatible server.
ℒӱḏɩę 💾☮∞🎶♲☀🔋Every token you generate in Ashburn, VA, is a data point in someone else's training set. #selfhosted #selfhosting #localai