ChiefGyk3D2d ago
I'm starting to train my local AI server FOR RAG running OpenWebUI and Ollama on Wikipedia. Next is NIST, OWASP, CIS, and a bunch more. So I will have data for the primary LLM's to reference from the work the embedded LLM has processed. This will take a few days. Slowly getting off SaaS AI step by step.
I’ve put some of the code for the RAG setup and documentation to help on my github under the FrankenLLM project https://github.com/ChiefGyk3D/FrankenLLM
#AI #LLM #Ollama #openwebui #opensource
Peter Czanik3d ago

Once I got hardware-accelerated #AI working under #Linux on my AI mini workstation from HP, my next goal was to make it easier to use. From this blog, you can read about my initial experiments with #OpenWebUI on @fedora Linux.

https://peter.czanik.hu/posts/new-toy-openwebui-first-steps/

#ollama #AMD #ryzen #ROCm

My new toy: Openwebui First Steps

Once I got hardware-accelerated AI working under Linux on my AI mini workstation from HP, my next goal was to make it easier to use. From this blog, you can read about my initial experiments with Open WebUI on Fedora Linux. Open WebUI talking about central log collection :-) Everything in containers As Open WebUI is not yet available as a package in Fedora, my initial approach was to use containers.

Habr3d ago

Реализация MCP в Open WebUI. Часть 2 — Агентское поведение

Это вторая часть нашей реализации MCP на Open WebUI, которая строится для целей портфельной аналитики. В прошлой части мы разобрали интеграционную часть нашего решения: как мы пришли к Open WebUI, как использовали статусы в запросах пользователя, как отображаем результаты (чтобы не словить ошибки о слишком больших чанках), как строим графики в интерфейсе и как работаем с запросами пользователей. Данная часть будет посвящена реализации самого агента: его общению с инструментами, вызову этих самых инструментов и планированию шагов по их вызовам. В этой статье будет рассмотрен наш путь по реализации данного агента: от наивного агента, которому просто дали пул инструментов и отправили в релиз до разделения агента на планировщик и исполнителя (спойлер: вторая версия стала куда лучше справляться с различными задачами). Отдельно будет затронута возможность различных моделей использовать chain-of-thoughts.

https://habr.com/ru/articles/1015158/

#llmагент #mcp #clickhouse #openwebui #аналитика #автоматизация

Реализация MCP в Open WebUI. Часть 2 — Агентское поведение

Обложка Содержание Введение Наивная реализация агента: дам инструмент и все взлетит Реализация на существующем MCP Реализация собственных инструментов Проблемы наивного подхода к реализации агента...

Хабр
Rene Robichaud5d ago

IA : les serveurs OpenWebUI piratés pour miner des cryptomonnaies
https://www.it-connect.fr/ia-les-serveurs-openwebui-pirates-pour-miner-des-cryptomonnaies/

#Infosec #Security #Cybersecurity #CeptBiro #IA #OpenWebUI #Cryptomonnaies

IA : les serveurs OpenWebUI piratés pour miner des cryptomonnaies

Une vaste campagne cible les serveurs OpenWebUI exposés sur Internet et mal configurés. L'objectif : détourner la puissance de calcul pour miner de la crypto.

IT-Connect
Simon Dückert6d ago

Die Infoseiten zur #lernOS Convention sind aktualisiert. Unter https://loscon.lernos.org könnt ihr alle Infos navigieren und durchsuchen. Ausserdem könnt ihr dort mit unserem #Chatbot Suri "reden", das geht meist schneller.

Den Chatbot hatten wir lezztes Jahr zugekauft. Dieses Jahr ist er selbst gemacht, sehr simple mit #n8n, #OpenWebUI und einem europäischen Sprachmodell von #Mistral.

Show threadhnnnMar 21
Hey @zeioth, you should try using #openclaw with #ollama. Not for the agent stuff, but just as a swap in for #openwebui. I am finding the memory component of #openclaw to be really perspective changing and totally inline with your thoughts about the future. I don't need something to respond to my email, but I think I do need a more private, more local #llm that remembers and iterates on work across sessions and days.
Adrian LopezMar 19

I'm already getting good results. Comparable or even superior to chatgpt, on local, for free, and no with one stealing my data.

#openwebui #ollama

Adrian LopezMar 17

The more I play with #ollama and #openwebui the more I think: This is what the future of AI should be.

A local personal assistant that just works out of the box, and you can customize in an trivial way.

No sordid manipulations. No billionarie oligarchs. Just a convenient tool you can use.

Show threadJeroen Franssen 🇧🇪Feb 25
@bart good news is that you can have a very similar features and performance fully hosted by yourself with tools like #localai and #openwebui
Simon DückertFeb 24
Werde heute mal ausrobieren, für lokales #OpenWebUI nicht #Docker, sondern die nativen #Apple Container zu verwenden. Hat da jemand Erfahrung mit?