«Старички» V100 в деле и модные ИИ-агенты для написания документации

Документация к инфраструктуре устаревает быстрее, чем коммиты попадают в main ветку, но мы решили эту «боль», отдав её на откуп ИИ. В статье разбираем, как связка из нескольких LLM-агентов автоматически парсит Ansible-плейбуки, генерирует пользовательские инструкции, проверяет и переводит их. Всё это крутится на четырёх Tesla V100 с ручной балансировкой через Ollama и OpenWebUI — без свежего железа, но с десятками сэкономленных часов и гарантией актуальности текстов.

https://habr.com/ru/companies/hostkey/articles/1023358/

#ИИагенты #LLM #NVIDIA_V100 #Ollama #автоматизация_документации #OpenWebUI #Ansible #CUDA #GitLab #hostkey

RT @Teknium: Hermes Agent tip of the night - did you know with the OpenAI Endpoint that Hermes Agent create for itself, you can use @OpenWebUI to have a chat GUI for your agent? See the full guide here: hermes-agent.nousresearch.co…

Mehr auf Arint.info

#agent #Agent #OpenAI #OpenWebUI #arint_info

https://x.com/Teknium/status/2040998328461316524#m

I'm using #openwebui and #svelte is seriously impressive. I never experienced such good #performance in a website before.

It's very noticeable even if you don't care about such things.

Once I got hardware-accelerated #AI working under #Linux on my AI mini workstation from HP, my next goal was to make it easier to use. From this blog, you can read about my initial experiments with #OpenWebUI on @fedora Linux.

https://peter.czanik.hu/posts/new-toy-openwebui-first-steps/

#ollama #AMD #ryzen #ROCm

Реализация MCP в Open WebUI. Часть 2 — Агентское поведение

Это вторая часть нашей реализации MCP на Open WebUI, которая строится для целей портфельной аналитики. В прошлой части мы разобрали интеграционную часть нашего решения: как мы пришли к Open WebUI, как использовали статусы в запросах пользователя, как отображаем результаты (чтобы не словить ошибки о слишком больших чанках), как строим графики в интерфейсе и как работаем с запросами пользователей. Данная часть будет посвящена реализации самого агента: его общению с инструментами, вызову этих самых инструментов и планированию шагов по их вызовам. В этой статье будет рассмотрен наш путь по реализации данного агента: от наивного агента, которому просто дали пул инструментов и отправили в релиз до разделения агента на планировщик и исполнителя (спойлер: вторая версия стала куда лучше справляться с различными задачами). Отдельно будет затронута возможность различных моделей использовать chain-of-thoughts.

https://habr.com/ru/articles/1015158/

#llmагент #mcp #clickhouse #openwebui #аналитика #автоматизация

IA : les serveurs OpenWebUI piratés pour miner des cryptomonnaies
https://www.it-connect.fr/ia-les-serveurs-openwebui-pirates-pour-miner-des-cryptomonnaies/

#Infosec #Security #Cybersecurity #CeptBiro #IA #OpenWebUI #Cryptomonnaies

Die Infoseiten zur #lernOS Convention sind aktualisiert. Unter https://loscon.lernos.org könnt ihr alle Infos navigieren und durchsuchen. Ausserdem könnt ihr dort mit unserem #Chatbot Suri "reden", das geht meist schneller.

Den Chatbot hatten wir lezztes Jahr zugekauft. Dieses Jahr ist er selbst gemacht, sehr simple mit #n8n, #OpenWebUI und einem europäischen Sprachmodell von #Mistral.

I'm already getting good results. Comparable or even superior to chatgpt, on local, for free, and no with one stealing my data.

#openwebui #ollama