Zed에서 로컬 AI 모델을 실행해야 하는 이유와 설정 방법

로컬 모델은 데이터가 외부로 유출되지 않는 절대적인 개인정보 보호와 SaaS 비용 부담 없는 경제성을 제공한다.

🔗 원문 보기

6 моделей, 3 инфраструктурных задачи, 1 локальный AI-агент

В прошлой статье было показано, что обычный MacBook Pro M2 16GB может с оговорками решать инфраструктурные проблемы используя локальную LLM. В этой статье будут показаны результаты решения более сложных инфраструктурных задач на более тяжеловесных моделях. Мой личный выбор - Qwen3.6-35-A3B для проблем, которые сформулированы общими словами, Gemma4-26B-A4B - для чётко описанных проблем . Далее обо всём этом подробнее.

https://habr.com/ru/articles/1037082/

#mlx #llmагент #local_llm #local_ai #agent #local_agent

Локальный агент для диагностики инфраструктуры

В статье описаны результаты, которые получил в поисках ответа на вопрос "можно ли решать реальные задачи диагностики и исправления проблем инфраструктуры на слабом MacBook в агентском режиме (да, но)".

https://habr.com/ru/articles/1033614/

#mlx #llmагент #local_llm #local_ai #agent

Как запускать LLM локально с LM Studio: Полное руководство 2026

Как запускать LLM локально с LM Studio: Полное руководство 2026 Запускайте большие языковые модели оффлайн на своём компьютере — без API-ключей, без облачных зависимостей, полная приватность

https://habr.com/ru/articles/1005054/

#local_ai #local_llm #llm #lmstudio #ai #artificial_intelligence

Mô hình LLM y tế địa phương tốt nhất tháng 1 năm 2026? Các mô hình LLM mã nguồn mở nào thích hợp cho mục đích y tế? #LLM #Y_tế #Mô_hình_llm #Tháng_1_2026 #Medical_LLM #Local_LLM #Open_source_LLM

https://www.reddit.com/r/LocalLLaMA/comments/1q5pexc/best_local_medical_llm_models_in_jan_2026/

Как научить нейросеть работать руками: создание полноценного ИИ-агента с MCP и LangGraph за час

Надоели чат-боты, которые только болтают? Создаём настоящего ИИ-помощника: читает файлы, ищет в сети, запоминает всё. LangGraph + MCP — пошаговый гайд для Python-разработчиков. Меньше теории, больше работающего кода. - Два готовых агента: классификатор вакансий + файловый помощник - Поддержка Ollama, OpenAI, DeepSeek — выбирайте любую модель - Асинхронная архитектура с обработкой ошибок - Полная интеграция в Python-проекты без no-code конструкторов - Код готов к продакшену: логирование, retry-механизмы, конфигурация От настройки окружения до рабочего агента за час.

https://habr.com/ru/companies/amvera/articles/929568/

#python #langchain #langgraph #mcp #mcpserver #ollama #local_llm #ииассистент #ииагенты #ии

I've been having a lot of fun considering how speech-to-text and LLMs can help us have better IRL conversations.

For example: You know when you're talking with a friend and you're trying to remember a book or movie or the name of an acquaintance? What if a listening app could unobtrusively show what it thinks might be the answer on its screen? Or help paint a mental picture that you're trying to explain?

We're at the point now where STT can be on-device (no surveillance) and local LLMs are close to "good enough" for this.

What else would you want an allied device to do for you to complement in-person conversations?

#Local_llm

I've seen the light of MCP. Well, not the protocol itself. My understanding is it is pretty janky, and I don't need to be an expert to see the context injection threat it represents.

But I have Claude desktop rigged with local memory, filesystem, shell tools, and a behavioral correction rule system, and it is pretty slick! Next I want to try it with Ollama, although I doubt any model I can run locally will handle the context overhead.

#AI #mcp #llm_agent #local_llm