archgw 0.3.20 đã loại bỏ 500MB dependencies Python, chuyển các tính năng LLM (guardrails, function-calling) sang server C++/Go (ollama/lama.cpp). Giúp hệ thống nhẹ, nhanh hơn (<2 giây khởi động), an toàn hơn và ít code hơn. archgw hỗ trợ các tác vụ AI agent như định tuyến, bảo vệ, ghi log và API LLM thống nhất.
#archgw #AI #LLM #SoftwareUpdate #Development #OpenSource #CậpNhậtPhầnMềm #PhátTriển #MãNguồnMở

https://www.reddit.com/r/LocalLLaMA/comments/1p7briq/archgw_0320_gutted_out_500mbs_worth_o

Dự án archgw: một proxy trung gian cho các tác nhân AI, giúp giảm thiểu các vấn đề bảo mật và tăng tốc độ xử lý. archgw cho phép xây dựng các tác nhân AI bằng bất kỳ ngôn ngữ hoặc khuôn khổ nào và offload công việc管道 AI sang một cơ sở hạ tầng bền vững. #archgw #AI #TrungGian #BảoMật #TốcĐộ #LLM #Rust #Cplusplus #Go #Python #TácNhânAI #CơSởHạTầng #Robustness

https://www.reddit.com/r/selfhosted/comments/1p5jz50/archgw_0320_all_python_deps_removed_from_request/

Dự án archgw ra mắt: một sidecar proxy gốc cho các tác nhân AI, giúp giảm thiểu mã, tăng tốc độ và bảo mật. Giờ đây, các nhà phát triển có thể xây dựng tác nhân AI bằng bất kỳ ngôn ngữ hoặc khuôn khổ nào và offload công việc AI cho archgw. #archgw #AI #LLM #SidecarProxy #TríTuệNhânTạo #PhầnMềmMới

https://www.reddit.com/r/ollama/comments/1p5jy43/archgw_0320_removed_all_500mb_python_deps_in_the/

archgw 0.3.17 ra mắt: traces siêu phong phú, cải tiến LLM router, hiện đang hỗ trợ HuggingFace Omni! Router dựa trên chính sách để chọn model. Tiếp theo: điều phối agent cho lưu lượng truy cập từ người dùng đến agents.
#archgw #huggingface #LLM #AI #congnghe #trituenhantao

https://www.reddit.com/r/SideProject/comments/1ohz7kk/archgw_0317_hyperrich_traces_improved_llm_router/

"Bản cập nhật ArchGW 0.3.12: Tích hợp别 danh cho các mô hình, giúp người dùng sử dụng tên gọi thân thiện và thay đổi mô hình mà không cần thay đổi mã code.

ArchGW 0.3.12 mang đến khả năng sử dụng tên gọi ý nghĩa và linh hoạt hơn cho các mô hình, giúp người dùng dễ dàng thử nghiệm và cập nhật mô hình mà không cần phải thay đổi mã code.

Mounted #ArchGW # AI # mô hình # 插件化 # người dùng # dòng lệnh # thử nghiệm # mã code

न庭旅 #TríTuệNhânTạo # chế biến ngôn ngữ # công nghệ # yaptır_ai # MachineLe

#archgw: AI-native (edge and LLM) proxy for agents. Handles all the pesky heavy lifting in building agentic apps -- fast ⚡️ query routing, seamless integration of prompts with business APIs, and unified access and observabilty of LLMs. Built by the contributors of Envoy proxy. https://github.com/katanemo/archgw
#llm #genai #Java
GitHub - katanemo/archgw: The data plane for agents. Arch is a models-native proxy server that handles the plumbing work in AI: agent routing & hand off, guardrails, zero-code logs and traces, unified access to LLMs from OpenAI, Anthropic, Ollama, etc. Build agents faster, and scale them reliably.

The data plane for agents. Arch is a models-native proxy server that handles the plumbing work in AI: agent routing & hand off, guardrails, zero-code logs and traces, unified access to LLMs fro...

GitHub