LLM в кармане: запускаю локальные модели на Samsung S24 Ultra через PocketPal — бенчмарки, настройки и туториал

Последние материалы мы посвятили графическим пайплайнам: как собирать сцены и стили в WebUI Forge, где помогает Flux, и как добиваться управляемости через ControlNet. Логичный следующий шаг - добавить текстовый слой, который формирует смысл: брифы, описания, сценарии, заголовки и итоговые тексты под публикацию. Именно его мы переносим в карман - в формате локальной LLM на смартфоне. В этой статье мы разберём PocketPal на Samsung S24 Ultr a: как поставить модели в GGUF, какие кванты выбирать под 12 ГБ RAM , как оценить требуемую память (модель + KV-кэш), какие скорости генерации ждать и как настроить параметры, чтобы телефон оставался шустрее и не «уходил в троттлинг». Почему смартфон? Две причины: приватность (данные не покидают устройство), офлайн-режим (работает в дороге и на выезде) . Для креативных задач это означает: черновики текстов, сводки брифов, подписи к визуалу и техзадания для графического пайплайна - там, где нет Wi-Fi и интернета.

https://habr.com/ru/articles/936504/

#машинное_обучение #llm #nlp #ai #нейросети #мобильная_разработка #android #инструменты_разработчика #обзор #разработка_вебприложений

[Перевод] Временные и постоянные ошибки

При работе с внешними интеграциями мы часто реализуем базовую реакцию на ошибки. В большинстве случаев достаточно ограничиться response.raise_for_status() , а детальную обработку оставить на потом. Нередко мы не управляем ошибками. Не знаем в действительности ни как поведет себя внешняя система, ни какие типы этих ошибок следует от нее ожидать. В самом деле, бывает непросто учесть все возможные крайние случаи и обеспечить соответствующее ответное действие. Что делать, когда сервер возвращает ошибку 503? А если превышен лимит запросов? А, допустим, истекло время ожидания и тому подобное? Мы неизбежно получаем длинный список исключений и обработчиков, которые необходимо реализовать, задокументировать и протестировать. Однако ситуацию можно улучшить…

https://habr.com/ru/companies/selectel/articles/911602/

#selectel #перевод_с_английского #разработка #разработка_приложений #разработка_вебприложений #обработка_ошибок

1500 часов разработки, 300 часов аналитики и согласование макетов с врачами, чтобы разработать дневник здоровья

Привет! Я — Вера Осолодкина, работаю аккаунт-директором в диджитал-продакшене Далее. Сегодня хочу рассказать о разработке медицинского сервиса для МЕДСИ, который из MVP превратился в полноценный продукт. Это один из самых интересных проектов в моем послужном списке и в целом полезная штука для мониторинга своего здоровья.

https://habr.com/ru/articles/852236/

#mvp #разработка_вебприложений #управление_проектами #python

Разработка одностраничных приложений с помощью HappyX

В прошлой статье я сравнивал HappyX и Karax , показывая их декларативный подход к разработке с помощью Nim. В этой статье я подробнее расскажу о разработке одностраничных приложений с помощью HappyX с применением императивного подхода к разработке .

https://habr.com/ru/articles/778222/

#nim #web #spa #одностраничное_приложение #разработка_сайтов #разработка_вебприложений

Разработка одностраничных приложений с помощью HappyX

В прошлой статье я сравнивал HappyX и Karax , показывая их декларативный подход к разработке с помощью Nim. В этой статье я подробнее расскажу о разработке одностраничных приложений с помощью HappyX с применением императивного подхода к разработке .

https://habr.com/ru/articles/778222/

#nim #web #spa #одностраничное_приложение #разработка_сайтов #разработка_вебприложений