Как я тестировал локально новый Qwen 3.6 и Gemma 4

Всем привет ! Текст полностью написан человеком ! На днях вышла модель Qwen 3.6 , весь реддит забит этой темой. И я рискнул проверить что она может Оборудование на котором тестировал (Ноутбук Asus TUF AMD Ryzen + дискретная Nvidia rtx 4070 8GB):

https://habr.com/ru/articles/1024932/

#qwen36 #lmstudio #rtx4070 #llm #gemma4 #gemma4

Как я тестировал локально новый Qwen 3.6 и Gemma 4

Всем привет ! Текст полностью написан человеком и не форматировался ИИ ! На днях вышла локальная модель от алибабы - Qwen 3.6 , весь реддит забит этой темой. И я рискнул проверить что она может в...

Хабр
Puissance extrême avec le MSI Alpha 17 ⚡🎮
Équipé du Ryzen 9 7945HX et de la RTX 4070, ce monstre de performance est prêt pour le gaming ultra et la création avancée 💻🔥
Écran QHD 240Hz pour une fluidité incroyable ! 🚀
https://setupmedia.ma/produit/msi-alpha-17-c7vg-031-ryzen-rtx-4070-32-go-ddr5/
#MSI, #PCGamer, #RTX4070, #GamingLaptop, #SetupGaming, #TechMaroc, #LaptopGaming

💻🔥 La puissance portable ultime est là !
Découvrez le Lenovo Legion Pro 5 i7-14700HX + RTX 4070 🚀

⚡ 32GB DDR5 pour un multitâche fluide
🎮 RTX 4070 pour du gaming ultra performant
💾 SSD 1TB rapide et réactif
🖥️ Écran 16” immersif

Parfait pour gaming, création & performance 💪

Disponible dès maintenant sur:
https://setupmedia.ma/produit/lenovo-legion-pro-5-16irx9-i7-14700hx-32gb-ddr5-1tb-ssd-rtx-4070/

#lenovo, #legion5, #rtx4070, #gaminglaptop, #pcportablegamer, #setupgaming, #gamingmaroc, #setupmedia

Un PC gamer robuste et ultra performant pour le jeu et le multitâche intensif.
Intel Core i7 | RTX 4070
32 Go DDR5 | 1 To SSD NVMe
Écran 144Hz fluide pour une expérience gaming stable et réactive.
Conçu pour durer, prêt pour la performance.

https://setupmedia.ma/produit/asus-tuf-gaming-f15-intel-core-i7-rtx-4070-32-go-ddr5-1-to-ssd-nvme-144hz/

#ASUS, #TUFGaming, #PCGamer, #RTX4070, #IntelCorei7, #GamingLaptop, #144Hz

Benchmark trên RTX 4070 Super (12 GB) cho thấy Qwen 2.5 Coder 7B (AWQ Int4) nhanh hơn 24 % (44.6 TPS) và dùng ít VRAM hơn (9.49 GB) so với Qwen 2.5 3B FP16 (35.9 TPS, 10 GB). Kết luận: mô hình lớn đã được định lượng đáp ứng tốt hơn trên GPU tiêu dùng. #AI #Quantization #Benchmark #RTX4070 #LLM #TríTuệNhânTạo #địnhlượng #đánhgiá

https://www.reddit.com/r/LocalLLaMA/comments/1qqz7mi/benchmark_the_power_of_quantization_qwen_25_coder/

Gợi ý mô hình ngôn ngữ mã nguồn mở (LLM) cho GPU RTX 4070 Super (12GB VRAM):

Với 12GB VRAM, các dòng mô hình dưới 14B tham số là lựa chọn tối ưu nhất để chạy mượt mà:

1. Llama 3.1 8B: Tiêu chuẩn vàng hiện nay cho hiệu năng và độ thông minh.
2. Mistral NeMo 12B: Sự hợp tác giữa NVIDIA & Mistral, tận dụng tối đa 12GB VRAM.
3. Phi-3.5 Mini (3.8B): Nhẹ, cực nhanh nhưng rất thông minh.
4. Qwen 2.5 7B/14B: Rất mạnh về logic và code.

#AI #LLM #OpenSource #NVIDIA #RTX4070 #TechTips #MaNguonMo

https:

【RTX 4070 + AI tự động Super-Bot: Cấu hình hệ thống tương lai!】
Super-Bot - AI tự học tự sửa lỗi, viết code, kiểm tra màn hình, tích hợp đa nền tảng (GPT-4, Claude…), bộ nhớ thông minh & bảo mật khóa phần cứng. Cấu hình mạnh mẽ chạy mượt AI, lý tưởng cho phát triển phần mềm. ⚡️ #RTX4070 #AItựđộng #SuperBot #CôngthứcAI #Cácnghệtinhtươnglai #AIRevolution #TechVietnam

https://www.reddit.com/r/ollama/comments/1przacs/rtx_4070_in_action_what_your_new_system_could/

Chạy LLM trên nhiều GPU với PCIe 1x có thể được không? Người dùng có GPU RTX 4070 và muốn thêm GPU mới nhưng chỉ còn 1 khe cắm PCIe 3.0. #LLM #GPU #PCIE #RTX4070 #MachineLearning #MáyHọc #TríTuệNhânTạo

https://www.reddit.com/r/LocalLLaMA/comments/1oqopjv/llm_running_on_multi_gpu_with_pcie_1x/