The Late Night Linux FamilyGary is concerned that he might have dug himself into a hole of on-prem vendor lock-in, despite using open source software. Plus why you should have PiKVM type device in your toolkit.
GripNews🌘 基於代理的任務執行：OnPrem.LLM 實作指南
➤ 透過 AI 代理實現自動化程式開發與任務執行
✤ https://amaiya.github.io/onprem/examples_agent.html
本文介紹了 OnPrem.LLM 框架下的 AgentExecutor 工具，這是一套能讓開發者運用雲端或本地大型語言模型（LLM）部署自主代理的解決方案。該代理透過內建的九項核心工具（如檔案編輯、網路搜尋、程式碼執行等），能自主拆解複雜任務、撰寫程式碼並執行測試。文章詳細展示瞭如何透過設定沙盒環境（Sandbox）與自訂工具權限，在確保安全的前提下，讓 AI 代理完成開發專案，大幅提升開發效率。
+ 這對於本地化部署的需求很有幫助，特別是能串接 Ollama 和 vLLM，讓開發者在不需將敏感程式碼上傳到雲端的情況下也能使用 AI 代理。
+ PatchPal 的整合看起來很直覺，沙盒模式（sandbox=True）對於執行這類會寫入檔案的代理程式來說，確實是必要的防禦機制。
#AI 代理 #軟體開發 #自動化工具 #OnPrem.LLM
➤ 透過 AI 代理實現自動化程式開發與任務執行
✤ https://amaiya.github.io/onprem/examples_agent.html
本文介紹了 OnPrem.LLM 框架下的 AgentExecutor 工具，這是一套能讓開發者運用雲端或本地大型語言模型（LLM）部署自主代理的解決方案。該代理透過內建的九項核心工具（如檔案編輯、網路搜尋、程式碼執行等），能自主拆解複雜任務、撰寫程式碼並執行測試。文章詳細展示瞭如何透過設定沙盒環境（Sandbox）與自訂工具權限，在確保安全的前提下，讓 AI 代理完成開發專案，大幅提升開發效率。
+ 這對於本地化部署的需求很有幫助，特別是能串接 Ollama 和 vLLM，讓開發者在不需將敏感程式碼上傳到雲端的情況下也能使用 AI 代理。
+ PatchPal 的整合看起來很直覺，沙盒模式（sandbox=True）對於執行這類會寫入檔案的代理程式來說，確實是必要的防禦機制。
#AI 代理 #軟體開發 #自動化工具 #OnPrem.LLM
HabrПять человек в компании должны сказать Ок, чтобы сменить мессенджер. Вот что убедит каждого из них
Представьте: менеджер по продажам уходит из компании. Уходит со скандалом, забрав часть клиентской базы. Через три месяца он всё ещё состоит в рабочем Telegram-чате отдела, читает обсуждения новых сделок, видит, кто из клиентов недоволен. Использует эту информацию или просто злорадствует — неважно. Важно то, что компания об этом не знает.
https://habr.com/ru/companies/lenza/articles/1008416/
#onpremise #onprem #корпоративный_мессенджер #коммуникация_с_командой #lenza #бизнес_коммуникации #корпоративные_чаты #рабочий_мессенджер
Пять человек в компании должны сказать Ок, чтобы сменить мессенджер. Вот что убедит каждого из них
Представьте: менеджер по продажам уходит из компании. Уходит со скандалом, забрав часть клиентской базы. Через три месяца он всё ещё состоит в рабочем Telegram-чате отдела, читает обсуждения новых...
sayzardTechRadar (@techradar)
Azure Local이 더 이상 정기적인 클라우드 업데이트에 의존하지 않고 완전 분리된(오프라인/로컬) 모드로 전환되었다는 소식입니다. 이와 함께 M365와 Foundry도 로컬 전개(온프레미스) 쪽으로 움직이고 있다는 언급으로, 클라우드-로컬 전략과 엔터프라이즈 배포 방식에 중요한 변화가 감지됩니다.
Negative PID SL
JTIDo we have any owners of one of those Ryzen AI Max+ 395 128GB UMA boxes here that operate them on the daily for at least a few months as a claude LLM coding server and are capable of giving a comparative run down on their performance vs the OG claude and its collection of formal prose generators?
Also: Especially curious to hear any numbers that came out of a watt meter in daily consumption and base/peak numbers. Same with the used models, their size, their respective achieved tok/s and response times.
And should you have had the opportunity of comparing this against non-UMA beefy dGPUs on the above parameters that'd also be quote interesting.
#claude #aicoding #AIAsssisted #ollama #onprem #selfhosing #StrixPoint #ryzenaimaxplus395 #ryzenAiMax #powerconsumption #costefficiency #uma
Coder JasonHowever, I can't help but feel sceptical about the article posted. It sounds too much like a #salesPitch. I'm especially bothered by point 4 ‐ #cloudFirst. #CloudServices have plenty of sensible #useCases. However, for many businesses, the number drops radically once #BusinessObjectives are considered. #DataStorage is often best done #onprem, in many cases, purely from a financial perspective [1]. Google seems to hint at this approach introducing security issues. /2
[1] https://thenewstack.io/cloud-vs-on-prem-comparing-long-term-costs/
Nextcloud - Open source content collaboration platformThe Republic of Serbia deploys Nextcloud for compliant, on-premises collaboration
readbeanicecreamLocal-First Software: Taking Back Control of Our Data | a mini-doc
https://m.youtube.com/watch?v=10d8HxS4y_g
#tech #technology #software #apps #onprem #localfirst #computing
Local-First Software: Taking Back Control of Our Data | a mini-doc
RandomGondolatokAlmost there.
The server is basically ready — it just needs a little more tweaking.
One silent fan in the power supply, and everything will finally run as it should.
Patience, small upgrades, and a lot of love for quiet hardware.
#homelab #homeserver #serverbuild #selfhosted #selfhosting #baremetal #onprem #linux #opensource #sysadmin #devops #infrastructure #hardware #computers #technology #it #techlife #geeklife #maker #diyserver #silentpc #noiseless #cooling #fanmod #psu #homelabbing
