🆕 EXAONE MoE đã được tích hợp vào llama.cpp!
🔹 K‑EXAONE 236 B (23 B hoạt động) sử dụng kiến trúc Mixture‑of‑Experts, hỗ trợ 256K token và tăng tốc inference ≈1.5× nhờ Multi‑Token Prediction.
🔹 Đa ngôn ngữ (Korean, English, Spanish, German, Japanese, Vietnamese) với vocab 150k SuperBPE, giảm token ≈30%.
🔹 Khả năng agentic, công cụ, và an toàn cao, tích hợp bối cảnh văn hoá Hàn Quốc.

#EXAONE #llamacpp #AI #LLM #Vietnamese #Multilingual #MoE #AIResearch

https://www.reddit.com/r/LocalL

LG vừa ra mắt mô hình ngôn ngữ EXAONE-236B phiên bản GGUF với nhiều đột phá.

Điểm nổi bật:
- Kiến trúc MoE: Tổng 236B tham số, chỉ kích hoạt 23B giúp tối ưu hiệu năng.
- Tốc độ: Công nghệ Multi-Token Prediction tăng tốc độ xử lý gấp 1.5 lần.
- Ngữ cảnh khủng: Hỗ trợ tới 256K token.
- Đa ngôn ngữ: Hỗ trợ tốt tiếng Việt, Anh, Hàn, Nhật...
- Khả năng Agent: Xử lý công cụ và tìm kiếm thông minh.

#AI #LLM #EXAONE #LG #MachineLearning #CongNghe #TiengViet #GGUF #ArtificialIntelligence

https://www