NVIDIA công bố đột phá nén mô hình từ 16-bit xuống 4-bit với độ chính xác giữ nguyên tới 99.4% – gần như không mất dữ liệu. Công nghệ này hứa hẹn thu nhỏ kích thước AI, tăng tốc độ xử lý và tiết kiệm năng lượng, mở đường cho AI nhỏ gọn, hiệu suất cao trên thiết bị di động và biên. #NVIDIA #AI #MachineLearning #AICompression #4bit #AIHiệuSuấtCao #TríTuệNhânTạo #NénMôHình

https://www.reddit.com/r/singularity/comments/1qr152m/nvidia_just_dropped_a_banger_paper_on_how_they/

🎉 Behold: yet another attempt to stuff the bloated ego of AI into a Diet AI can, courtesy of SeedLM! 🤖🍏 But don't worry, this magical bean compression won't help your wallet escape the crushing weight of #jargon and buzzwords.
https://machinelearning.apple.com/research/seedlm-compressing #DietAI #SeedLM #AIcompression #TechBuzz #HackerNews #ngated
SeedLM: Compressing LLM Weights into Seeds of Pseudo-Random Generators

Large Language Models (LLMs) have transformed natural language processing, but face significant challenges in widespread deployment due to…

Apple Machine Learning Research