sayzardAA (@measure_plan)
사진 검색·뷰잉 실험: threejs 인터페이스 위에 smolVLM + Roboflow RF-DETR 기반 컴퓨터 비전과 ChromaDB 시맨틱 검색을 결합해, 도시·색상·객체 같은 자연어로 전체 사진 라이브러리를 검색할 수 있게 구성한 사례를 공유함.
AA (@measure_plan)
로컬의 무료 AI 모델들을 활용해 컴퓨터에 있는 오래된 여행 사진을 자연어로 검색하는 앱을 제작한 사례: smolVLM으로 장면·색상 설명, Roboflow RF-DETR로 객체 검출, ChromaDB에 메타데이터 저장·시맨틱 검색을 수행하고 Python과 Streamlit으로 UI를 구현했습니다.
AA (@measure_plan) on X
i built an app to search old travel photos on my computer with natural language queries using free local AI models: - smolVLM to describe the scene and colours - roboflow RF-DETR to detect objects - chromaDB to store metadata labels and run semantic search - python + streamlit
ViennaMikeBuilding My First RAG System (Which Sadly Failed the Tax Preparer Exam)
A while back, I posted about how I gave the IRS’ volunteer tax preparer exam to ChatGPT. It scored in the 70s, but an 80% is the minimum required score to pass and be certified. A short while later, I took a Coursera short course on Retrieval Augmented Generation (RAG). I then decided to
https://www.mcgurrin.info/robots/8318/
#Uncategorized #AI #chatbots #chromadB #gradio #llamaparse #LLMs #ollama #python #RAG #Taxes
A while back, I posted about how I gave the IRS’ volunteer tax preparer exam to ChatGPT. It scored in the 70s, but an 80% is the minimum required score to pass and be certified. A short while later, I took a Coursera short course on Retrieval Augmented Generation (RAG). I then decided to
https://www.mcgurrin.info/robots/8318/
#Uncategorized #AI #chatbots #chromadB #gradio #llamaparse #LLMs #ollama #python #RAG #Taxes
HabrКак мы с ИИ сделали локальный ИИ, который учится по моим книгам и пишет за меня отчёты
Я с GitHub Copilot (Claude) собрал полностью локальную RAG-систему с GUI, которая индексирует мои учебники и генерирует по ним отчёты, презентации, конспекты и эссе. Всё работает офлайн. В статье — архитектура, выбор компонентов, процесс совместной разработки с ИИ-ассистентом, грабли и рабочий код.
Базовый минимум. Часть 3: RAG-системы
Большая языковая модель это не источник актуальных сведений, а статистическая система, обученная на данных прошлого. Она не обращается к внешним базам знаний и не узнает о новых событиях. Все что она знает было усвоено на этапе обучения и зафиксировано в ее параметрах. В современных прикладных системах это ограничение часто скрыто за инструментами, поиском и дополнительными модулями. Однако именно архитектурный подход Retrieval-Augmented Generation, RAG стал стандартным способом расширения возможностей модели без ее дообучения. Он позволяет подключать внешние базы знаний, работать с актуальными документами и заметно снижать количество галлюцинаций. В третьей части серии Базовый минимум разбирается как устроен RAG и как реализовать его минимальную рабочую версию на практике.
https://habr.com/ru/articles/1002152/
#RAG #RetrievalAugmented_Generation #языковые_модели #векторная_база_данных #эмбеддинги #чанкование #семантический_поиск #векторный_индекс #ChromaDB #Hugging_Face
Habr 25+Мой локальный агент помнит проект лучше меня. Контекст — 32K токенов. Расскажу, как
Мой агент на Llama 3.1 8B в третий раз спросил, как меня зовут. Я представился 200 сообщений назад. Контекст переполнился — начало разговора уехало. Большие контексты не спасают: дорого, «Lost in the Middle», локально не влезает. Суммаризация теряет детали. Я сделал по-другому — три типа внешней памяти: Redis для фактов, ChromaDB для семантического поиска, файлы для документов. Контекст маленький, память большая. Внутри — код на Python и грабли, на которые я уже наступил.
https://habr.com/ru/articles/994618/?utm_source=habrahabr&utm_medium=rss&utm_campaign=994618
#LLM #AIагенты #память_LLM #RAG #Redis #ChromaDB #векторный_поиск #sentencetransformers #llama #локальные_модели
Мой локальный агент помнит проект лучше меня. Контекст — 32K токенов. Расскажу, как
Мой агент на Llama 3.1 8B в третий раз спросил, как меня зовут. Я представился 200 сообщений назад. Контекст переполнился — начало разговора уехало. Большие контексты не спасают: дорого, «Lost in the Middle», локально не влезает. Суммаризация теряет детали. Я сделал по-другому — три типа внешней памяти: Redis для фактов, ChromaDB для семантического поиска, файлы для документов. Контекст маленький, память большая. Внутри — код на Python и грабли, на которые я уже наступил.
https://habr.com/ru/articles/994618/
#LLM #AIагенты #память_LLM #RAG #Redis #ChromaDB #векторный_поиск #sentencetransformers #llama #локальные_модели
GripNews🌘 Chroma Explorer：現代化 ChromaDB 桌面用戶端
➤ 視覺化管理向量嵌入，讓語義搜尋變得觸手可及
✤ https://www.chroma-explorer.com/
Chroma Explorer 是一款專為 ChromaDB 打造的原生桌面應用程式，為開發者提供了一個直觀且美觀的介面，用以管理複雜的向量嵌入資料。這款工具突破了以往僅能透過程式碼操作的限制，讓使用者能輕鬆連通本地、遠端或雲端資料庫。它不僅支援多達 13 種主流嵌入模型供應商（如 OpenAI 與 Gemini），更將繁瑣的 HNSW 參數配置與語義搜索流程視覺化。透過優雅的 macOS 磨砂玻璃設計，Chroma Explorer 顯著提升了處理大規模文件與批次操作的效率，是開發 AI 應用程式不可或缺的利器。
+ 這款工具簡直救了我的開發進度！以前在測試 RAG 流程時，都要寫腳本才能確認 ChromaDB 裡的資料是否正確，現在有了這個 GUI，視覺化查看向量內容變得非常直觀。
+ 介面設計非常有 Appl
##向量資料庫 #開發者工具 #ChromaDB #人工智慧 #macOS軟體
➤ 視覺化管理向量嵌入，讓語義搜尋變得觸手可及
✤ https://www.chroma-explorer.com/
Chroma Explorer 是一款專為 ChromaDB 打造的原生桌面應用程式，為開發者提供了一個直觀且美觀的介面，用以管理複雜的向量嵌入資料。這款工具突破了以往僅能透過程式碼操作的限制，讓使用者能輕鬆連通本地、遠端或雲端資料庫。它不僅支援多達 13 種主流嵌入模型供應商（如 OpenAI 與 Gemini），更將繁瑣的 HNSW 參數配置與語義搜索流程視覺化。透過優雅的 macOS 磨砂玻璃設計，Chroma Explorer 顯著提升了處理大規模文件與批次操作的效率，是開發 AI 應用程式不可或缺的利器。
+ 這款工具簡直救了我的開發進度！以前在測試 RAG 流程時，都要寫腳本才能確認 ChromaDB 裡的資料是否正確，現在有了這個 GUI，視覺化查看向量內容變得非常直觀。
+ 介面設計非常有 Appl
##向量資料庫 #開發者工具 #ChromaDB #人工智慧 #macOS軟體
N-gated Hacker NewsAh, yet another "modern, beautiful" app that promises to revolutionize your #ChromaDB experience 🙄. Because who doesn't want to manage their vector embeddings while sipping overpriced macchiatos at the local cafe? ☕✨ But hey, at least it has 13 embedding providers, because apparently 12 just wouldn't cut it! 🤷♂️
https://www.chroma-explorer.com/ #modernapps #vector_embeddings #techhumor #appreviews #cafevibes #HackerNews #ngated
https://www.chroma-explorer.com/ #modernapps #vector_embeddings #techhumor #appreviews #cafevibes #HackerNews #ngated
Hacker News