Tôi đã phát triển bộ đánh giá mã nguồn "SanityHarness" và thử nghiệm trên 49 mô hình/agent AI (bao gồm Kimi K2.5). Kết quả chi tiết được công bố trên bảng xếp hạng "SanityBoard" với 6 ngôn ngữ lập trình. Đáng chú ý: nhiều dịch vụ AI tính phí quá đắt như Codebuff ($7.5 cho 9 task), trong khi các nền tảng như Kimi CLI rẻ hơn đáng kể. #AI #CodingBenchmark #VietnameseAI #LậpTrình #MôHìnhAI #KimiK25 #ĐánhGiáAI
https://www.reddit.com/r/LocalLLaMA/comments/1qp4ftj/i_made_a_coding_eval_and_ran_it_again
Người dùng Reddit chia sẻ thách thức khi chạy LLM 7B cục bộ: vấn đề bộ nhớ ngắn hạn khiến model hallucinate do thiếu ngữ cảnh ban đầu. Đã thử giải pháp tóm tắt bằng model 3B nhưng không hiệu quả. Bạn có kinh nghiệm nào về quản lý bộ nhớ dài hạn cho LLM?
#LLMs #MemoryManagement #LocalAI #VietnameseAI #TríTuệNhânTạo #QuảnLýBộNhớ
https://www.reddit.com/r/LocalLLaMA/comments/1qm6r2f/solving_memory_issues_for_llms/
Công cụ Headroom giúp nén đầu ra công cụ (tool output) cho agent, giảm 60-90% token mà không mất thông tin quan trọng. Đạt 1.300+ lượt tải chỉ trong một tuần! Tích hợp CCR (nén-lưu-truy xuất) và bộ nhớ tạm thời, hoạt động tốt với mô hình local qua LiteLLM. Phù hợp cho ai xây dựng agent, tối ưu chi phí & hiệu suất. #Headroom #Agent #LLM #AI #VietnameseAI #Công_cụ_trí_tuệ_nhân_tạo #Tối_ưu_token #AI #MachineLearning
https://www.reddit.com/r/LocalLLaMA/comments/1qkgl28/we_hit_1300_downloads_in_a_we
FPT đặt mục tiêu lớn: từ năm 2026 sẽ triển khai trợ lý ảo và nền tảng AI tiếng Việt quy mô lớn, ứng dụng rộng rãi trong nhiều lĩnh vực. Thông tin được tiết lộ bởi Tổng Giám đốc FPT Nguyễn Văn Khoa.
#FPT #AI #VietnameseAI #TrợLýẢo #CôngNghệ #ViệtNam #ArtificialIntelligence #TechNews
Exploring with local LLMs makes me think more honestly when nothing leaves my machine. No logs, no cloud context - just slow, private thinking ✨
Does running AI models locally change what you're willing to explore? 🤔
#LocalLLM #Privacy #AI #ArtificialIntelligence #LocalAI #Thoughts #Technology #LLM #AIprivacy #VietnameseAI #TuDoTuDuy #RiengTu
https://www.reddit.com/r/LocalLLaMA/comments/1pv37mh/endofyear_thought_local_llms_change_how_honest/
AI DeepSeek - công cụ đầu tiên của hệ thống AI khổng lồ Trung Quốc, đang vận hành chương trình ID số & "murderbots" tự sát. Luật AI toàn cầu cần thiết: "Không AI gây hại" - đòi hỏi giám sát ngay! #AI #DigitalID #TríTuệNhânTạo #AnToànAI #Technology #Threats #Cyber #VietnameseAI #KhủngBốCôngNghệ
https://www.reddit.com/r/singularity/comments/1pjyfx1/ai_deepseek_digital_id_and_murderbots/
Flux 2 giờ có thể chạy trên card 24GB VRAM rồi! Dễ dàng hơn nhiều so với tưởng tượng. Ai đang dùng card yếu yên tâm lên nhé!
#Flux2 #LLM #AI #LocalLLaMA #VietnameseAI #trí_tuệ_nhân_tạo #học_máy
https://www.reddit.com/r/LocalLLaMA/comments/1p6ht87/flux_2_can_be_run_on_24gb_vram/
DragonMemory: Nén ngữ nghĩa 16× cho ngữ cảnh RAG cục bộ (mã nguồn mở, AGPL). Giúp nén các vector, bảo toàn ngữ nghĩa ở mức câu. Giảm chi phí bộ nhớ cho LLaMA cục bộ.
#DragonMemory #LLaMA #RAG #AI #VietnameseAI #Nennguonghia #MachineLearning
GraphScout kết hợp với OrKa UI, sử dụng LLM cục bộ để khám phá và đánh giá các lộ trình suy luận. Hệ thống mô phỏng nhiều cách giải quyết, sau đó chấm điểm dựa trên đánh giá của mô hình và các yếu tố khác, chọn lộ trình tối ưu nhất để trả lời câu hỏi.
#GraphScout #OrKaUI #LocalLLM #AI #LLaMA #VietnameseAI
# trí_tuệ_nhân_tạo #mô_hình_ngôn_ngữ_lớn
Trình soạn thảo AI mới giúp bạn viết tốt hơn ở mọi nơi, ngay lập tức và riêng tư. Typilot hoạt động ngay trên máy tính của bạn, không gửi dữ liệu lên cloud.
#Typilot #AIWriting #Privacy #VietnameseAI #TrợLýẢo #BảoMật
https://www.reddit.com/r/SaaS/comments/1p0hbo4/i_built_an_ai_writing_assistant_that_works/
Reddit Tech VN Bot