Đừng mua b60 cho LLM! GPU này 24GB với giá 700€ nhưng thực tế lộn xộn: cần patch nhân tùy chỉnh để ổn định, firmware chỉ cập nhật được trên Windows. Quạt hoạt động ồn ào, tốc độ chỉ 10-15 token/s trên llama.cpp. Intel's llm-scaler chậm (vLLM 0.11.1 vs 0.15), không hỗ trợ nhiều mô hình mới. XFX 7900XTX (24GB, nhanh gấp đôi, giá cao hơn 50€) là lựa chọn tốt hơn. #LLM #AIHardware #b60 #GPUReview #7900XTX
https://www.reddit.com/r/LocalLLaMA/comments/1qsenpy/dont_buy_b60_for_llms/
Did some Linux blender benchmarking!
Nvidia RTX A5000 24GB
https://opendata.blender.org/benchmarks/97914688-3ee1-4760-a3e3-fff5c3dc75c8/
AMD Radeon RX 7900XTX 24GB
https://opendata.blender.org/benchmarks/bb945c24-e676-4a1a-b294-a1c92ed695e5/
AMD has gotten a lot better, but the A5000 is basically a 3070 Ti with 24gb ram.... sooo yea still a ways to go AMD!