[Перевод] Разбираемся с суффиксами квантования LLM: что на самом деле значат Q4_K_M, Q6_K и Q8_0

Привет! Задумывались, какую версию квантованной LLM выбрать: Q4_K_M, Q6_K или Q8_0? Насколько Q6_K хуже справляется с задачами по сравнению с Q8_0? И что вообще означают все эти буквы в суффиксах? Примечание: это адаптированный перевод моей статьи на Medium. Перевод был сделан при помощи мозга, а не нейросетей или Google Translate. Узнать чуть больше про квантование LLM

https://habr.com/ru/articles/918936/

#ai #ml #llm #llmмодели #llmприложения #llmархитектура #квантование #искусственный_интеллект #ии #ии_и_машинное_обучение

[Перевод] Разбираемся с суффиксами квантования LLM: что на самом деле значат Q4_K_M, Q6_K и Q8_0

Привет! Задумывались, какую версию квантованной LLM выбрать: Q4_K_M, Q6_K или Q8_0? Насколько Q6_K хуже справляется с задачами по сравнению с Q8_0? И что вообще означают все эти буквы в суффиксах? Примечание: это адаптированный перевод моей статьи на Medium. Перевод был сделан при помощи мозга, а не нейросетей или Google Translate. Узнать чуть больше про квантование LLM

https://habr.com/ru/articles/918936/

#ai #ml #llm #llmмодели #llmприложения #llmархитектура #квантование #искусственный_интеллект #ии #ии_и_машинное_обучение

ИИ-агенты против чат-ботов: в чём разница и что выбрать бизнесу в 2025 году

В 2025 году, когда автоматизация стала нормой, компании всё чаще задаются вопросом: что эффективнее — чат-бот или ИИ-агент? Оба инструмента вроде бы отвечают клиентам, автоматизируют процессы и экономят ресурсы. Но разница между ними — как между калькулятором и персональным помощником. Давайте разберёмся. Что такое чат-бот? Чат-бот — это скрипт, настроенный отвечать на заранее определённые запросы. Он работает по сценарию: если пользователь спрашивает A — бот отвечает B. Хорошо работает в простых, повторяющихся ситуациях: бронирование, FAQ, статусы заказов. Плюсы чат-ботов:

https://habr.com/ru/articles/917918/

#ии_чатбот #ии_и_машинное_обучение #ииассистент #ииагенты #ии_бот #ии_помощник #ии_агенты #ai #ai_agent #ai_agents

[Перевод] Black Forest Labs представила Flux Kontext: ИИ-редактирование изображений на новом уровне

Теперь мы можем использовать одно изображение для создания портретов или редактирования изображений менее чем за пять секунд за 0,04 доллара США, и все это с вау-эффектом на выходе. Black Forest Labs выводит редактирование изображений с помощью ИИ на новый уровень, представив Flux Kontext . У меня возникло несколько вопросов. Вот некоторые из них:

https://habr.com/ru/articles/914488/

#flux #fluxkontext #генерация_изображений #ии #ии_и_машинное_обучение #ai

[Перевод] Black Forest Labs представила Flux Kontext: ИИ-редактирование изображений на новом уровне

Теперь мы можем использовать одно изображение для создания портретов или редактирования изображений менее чем за пять секунд за 0,04 доллара США, и все это с вау-эффектом на выходе? Black Forest Labs выводит редактирование изображений с помощью ИИ на новый уровень, представив Flux Kontext . У меня возникло несколько вопросов. Вот некоторые из них:

https://habr.com/ru/articles/914486/

#flux #fluxkontext #генерация_изображений #ии #ии_и_машинное_обучение #ai

Как сделать RAG/ИИ-ассистента без кода

Если Вам нужно сконфигурировать персонального или командного AI ассистента без единой строчки кода, то инфраструктура OpenAI позволяет это сделать. Для примера сделаем бота который может писать сообщения в стиле определенного телеграм канала. Берем канал https://t.me/+yU0dsHboVmlhNGYy . Экспортируем сообщения из канала json.

https://habr.com/ru/articles/907960/

#ai #ai_agent #ассистент #помощник #ииассистент #ии #ииагенты #ии_и_машинное_обучение

Nvidia AI Factory: Суперкомпьютер на Тайване и новые горизонты для ИИ

19 мая 2025 года Nvidia, Foxconn и правительство Тайваня объявили о партнёрстве для создания AI factory — суперкомпьютера, предназначенного для обучения крупных языковых моделей (LLM), робототехники и развития умных городов. Как сообщает The Wall Street Journal, проект укрепляет позиции Тайваня как центра ИИ-инноваций и задаёт новый стандарт для вычислительных платформ. В этой статье мы разберём техническую основу AI factory, её значение для разработчиков и перспективы для российской ИИ-экосистемы.

https://habr.com/ru/articles/911082/

#искусственный_интеллект #нейрон #технологии #ии #ии_и_машинное_обучение #nvidia #chatgpt #будущее #маркетинг #тренд

Мягкие роботы и ИИ: Как MIT переосмысливает будущее робототехники

Робототехника переживает бум: от складских манипуляторов до гуманоидов, обещающих подавать кофе. Но пока мир зациклен на жёстких, антропоморфных машинах, Даниэла Рус, директор Лаборатории компьютерных наук и искусственного интеллекта MIT (CSAIL), предлагает радикально иной подход — мягкие роботы. Представьте гибких, податливых механизмов, способных плавать среди кораллов или даже растворяться в организме после микрооперации. В этой статье мы разберём, как мягкая робототехника, усиленная ИИ, меняет представление о роботах, какие технологии стоят за этим, и почему это важно для будущего.

https://habr.com/ru/articles/910252/

#роботы #нейрон #нейросеть #искусственный_интеллект #ииагенты #ииассистент #ии #ии_и_машинное_обучение #ии_чатбот #ии_бот

Хаус-кипер 2.0: Как создать ИИ, к которому пользователи привяжутся

В статье рассказываем, почему современные ИИ остаются безликими утилитами и как вдохновение образом хаус-кипера XIX века помогает строить эмоционально близких цифровых спутников. Делимся принципами: персонализация через контекст, прозрачная логика, эмоциональный UX и интеграция в экосистему. Для разработчиков, UX-дизайнеров и всех, кто хочет сделать ИИ частью жизни, а не временным инструментом.

https://habr.com/ru/articles/909690/

#openai #ai #ии #ии_и_машинное_обучение #ии_чатбот #ииассистент #ииагенты #ии_помощник #ии_бот #чатбот

Установил DeepSeek 1.5B на слабое железо, пока остывал мой борщ

DeepSeek 1.5B — маленький, но шустрый собрат больших языковых моделей. Работает локально, не требует железа на киловатт. Внутри — инструкция по установке, настройке и запуску DeepSeek 1.5B на Ubuntu 24.04 с Ollama и Open WebUI .

https://habr.com/ru/companies/minerva_media/articles/909130/

#deepseek #иимодель #установка_сервера #ии #docker #ollama #ubuntu_2404 #ии_и_машинное_обучение #генеративные_модели