LoRA fine-tuning для генерации презентаций: как мы выбирали метод дообучения LLM в presentsimple.ai

Меня зовут Павел, я отвечаю за Data Science в presentsimple.ai — это сервис для создания презентаций с помощью искусственного интеллекта, который генерирует результат по текстовому запросу за пару минут. В этой статье расскажу, как мы собрали для этой задачи ансамбль из нескольких ML‑моделей, как искали наиболее подходящие методы дообучения YandexGPT, и какую роль здесь сыграли LoRA‑адаптеры, которые недавно появились в Yandex Cloud внутри Foundation Models.

https://habr.com/ru/companies/yandex_cloud_and_infra/articles/884336/

#llm #loraадаптеры #lora

Обучение и fine-tuning моделей простым языком: зачем, как, где

В нашей работе с большими языковыми моделями (LLMs), один из самых популярных вопросов касается их до-обучения. Каждый второй клиент спрашивает, нужно ли проводить дополнительное обучение модели. Давайте рассмотрим нужно ли это, как это сделать.

https://habr.com/ru/companies/raft/articles/866148/

#finetuning #lora #loraадаптеры #квантизация #дообучение #llm

Как настроить LLM на локальном сервере? Пошаговое руководство для ML-специалистов

Привет, Хабр! Все чаще коллеги из ML замечают, что компаниям нравятся возможности ChatGPT, но далеко не каждая готова передавать данные во внешние АРІ и жертвовать своей безопасностью. В результате команды начинают внедрять

https://habr.com/ru/companies/selectel/articles/846510/

#selectel #compresia #compressa_ai #llm #машинное_обучение #большие_языковые_модели #квантование #loraадаптеры