RT @NVIDIAAIInfra: 👏 @CoreWeave ist der erste Cloud-Anbieter, der die NVIDIA Vera Rubin NVL72 in Betrieb genommen und validiert hat. Training von MoE-Modellen mit nur einem Viertel der GPUs. Inference zu einem zehntel der Kosten pro Token im Vergleich zu NVIDIA Blackwell. Erfahren Sie mehr ⤵️ CoreWeave (@CoreWeave) Wir sind der erste Cloud-Anbieter, der @nvidia Vera Rubin NVL72 in Betrieb genommen und validiert hat. Nicht nur die Hardware. Der gesamte Stack: softwaredefinierte Flüssigkeitskühlung (Valvey), einheitliche Rack-Steuerung (Racky), CoreWeave Mission Control über die gesamte Flotte. Lesen Sie den Blog: utm.io/uqEQP Video — https://nitter.net/CoreWeave/status/2067257727550636116#m

mehr auf Arint.info

#AIInfrastructure #CloudComputing #CoreWeave #MoEModels #NVIDIA #VeraRubin #arint_info

https://x.com/NVIDIAAIInfra/status/2067272920448348441#m

If you have 2 MI50s and a 7900XT, can you use the 7900XT for prompt processing in MOE models while leveraging the faster VRAM of the MI50s? Or combine them for better performance? Thrilling tech experimentation! #TechTalk #VRAM #MOEmodels #GamingPC #Multigpu #C FamilienTechTalk #VRAMbộnhiền #môihínhthùng #GamePC #bộgpuđa

https://www.reddit.com/r/LocalLLaMA/comments/1oksprm/is_it_possible_to_use_vram_like_ram_is_multigpu/

Cập nhật: Kiểm tra nhiều mô hình MoE (mix of experts) gamle 10-35B trên miniPC với iGPU. Thông số: OS Kubuntu 25.10, CPU Ryzen 6800H, RAM 64GB DDR5, GPU AMD Radeon. Kết quả: Ling-Coder-lite.i1-Q4_K_M (t/s: 399-487), Qwen3-30B (t/s: 171-292).

Tags: #MoEmodels #AI #Tech #Vietnamese #Gaming #LLM

https://www.reddit.com/r/LocalLLaMA/comments/1o7cgaf/moe_models_benchmarks_amd_igpu/