Hóa đơn điện tháng 3: $847 sau khi khám phá "chạy thử mọi mô hình AI mới" 🤯
Từ $120 lên $145 rồi vọt thẳng lên $847 chỉ vì tò mò thử Llama 3.5 70B với vài thiết lập quantization...
3h sáng: "Chỉ thêm một lần thử nữa thôi!"
VGA thì gào như máy bay, ví tiền thì đã chết từ lâu 💀
Ít ra mình đang... hỗ trợ năng lượng tái tạo? Phải không?
#AIGPU #LocalLLM #HóaĐơnĐiện #AIvàTúiTiền #MachineLearning
#RenewableEnergy #LLM #ArtificialIntelligence
Xây dựng máy chủ AI cho thuê: RTX 5090 (32GB), Ryzen 9 9950X3D, tản nhiệt khí Noctua NH-D15 G2, 96GB RAM. Liệu có khả thi với điều hòa 24/7? Độ ổn định RAM và nhu cầu thuê GPU RTX 5090 đơn?
#AI #Server #RTX5090 #Ryzen #TảnNhiệtKhí #MayChu #DeepLearning #AIGPU
https://www.reddit.com/r/LocalLLaMA/comments/1pcqvo3/hardware_build_1x_rtx_5090_32gb_9950x3d_for/
Người dùng than phiền VRAM Nvidia dùng nhiều hơn AMD khi chạy mô hình ngôn ngữ lớn (LLM). Trước với 40GB VRAM AMD chạy model 37GB tốt. Nay nâng lên 48GB VRAM Nvidia (5090 + 5060 Ti) lại không đủ cho model 37GB, model 19GB dùng tới 28GB VRAM. Bạn có gặp tình trạng này?
#Nvidia #VRAM #LLM #KoboldCpp #AI #AMD #GPU #ThẻĐồHoạ #TríTuệNhânTạo #BộNhớĐồHoạ #GraphicsCard #AIGPU
https://www.reddit.com/r/LocalLLaMA/comments/1pb5ljp/nvidia_cards_using_too_much_vram/
Nvidia DGX Spark có giống Asustek Ascent GX10 (phiên bản OEM) không? Người dùng đang tìm hệ thống GPU CUDA cho huấn luyện AI, nhưng khó tìm DGX Spark ở Canada nên cân nhắc mua phiên bản OEM này. Cả hai có cấu hình giống nhau, nhưng vẫn chưa rõ về khả năng tản nhiệt, độ ồn và chất lượng xây dựng. Bạn đã sử dụng Ascent GX10 hoặc phiên bản OEM DGX Spark chưa?
#NvidiaDGXSpark #AsusAscentGX10 #AIGPU #CUDA #OEM #AIĐàoTạo #GPUHàngĐầu
https://www.reddit.com/r/LocalLLaMA/comments/1oimxtp/is_the_nvidia
Intel, 2026'da gelecek yeni AI GPU'su Crescent Island ile veri merkezi performansını zirveye taşıyor. Xe3P mimarisi ve 160 GB LPDDR5X bellek ile yapay zeka çağının yeni yıldızı!
🚩 #Intel #AIGPU #YapayZeka #Teknoloji #VeriMerkezi #İnovasyon