🛠️ Đã xây dựng nền tảng điều phối chạy Claude API cùng các mô hình nội bộ!
💻 Cấu hình: RTX 5090 (32 GB VRAM), Devstral Small 2 (24B) + Gemma 3 4B đồng thời, dùng 31 GB VRAM, 15 agent song song, CPU chỉ 7%.
🔄 Chức năng: chuyển tải giữa cloud & local tùy độ phức tạp, tìm kiếm RAG (BM25+vector), PTY spawn đa agent, UI desktop giám sát, hỗ trợ >61 mô hình từ 6 nhà cung cấp.
💡 Mục tiêu: inference nội bộ dự phòng & phân tích song song.

#AI #MachineLearning #LocalInference #Claude #OpenSou

Witral: Khung xử lý tự lưu trữ, chuyển tin nhắn WhatsApp thành Markdown & đồng bộ Google Drive. Tích hợp mượt với Obsidian và các hệ thống ghi chú cá nhân (PKM). Hoạt động như “khung dệt” lọc thông tin lộn xộn thành tri thức có cấu trúc. Dễ thiết lập bằng Docker, quản lý qua tin nhắn WhatsApp. Không dùng AI, toàn quyền kiểm soát dữ liệu. Mở rộng linh hoạt qua plugin.

#Witral #SelfHosted #Obsidian #PKM #KnowledgeManagement #GhiChúCáNhân #TựLưuTrữ #CôngCụHiệuSuất #Markdown #GoogleDrive #OpenSou

Lập trình viên tối ưu Matching Engine (hệ thống khớp lệnh) đạt 150 triệu lệnh/giây chỉ với một nhân CPU bằng C++20.

Điểm nổi bật:
- Hiệu suất: 156M lệnh/giây (benchmark) và 132M lệnh/giây (dữ liệu thực Binance).
- Độ trễ: < 1 micro giây.
- Kỹ thuật: Zero Allocation (std::pmr), Lock-free (SPSC Ring Buffer), và tối ưu Cache (Flat vectors thay cho std::map).

Dự án mã nguồn mở trên GitHub dành cho ai quan tâm đến HFT và tối ưu hệ thống.

#Cplusplus #Cpp20 #Programming #HFT #MatchingEngine #OpenSou

📝 Decryption/CypherError on Rails 7.1 Apps with Encrypted Columns After Upgrading from Previous Versions

When upgrading to Rails 7.1 with any models using the encrypts macro from ActiveRecord::Encryption, be wary of upgrading the config.load_defaults in config/application.rb from 7.0 to 7.1. The 7.1 defaults for ActiveRecord::Encryption include a combination of settings that can lead to your app...

#NaBloPoMo #RubyonRails #NaBloPoMo2024 #Bug #OpenSou https://calebhearth.com/rails-7-1-encryption-errors