Apple should’ve continued to ignored the #LLM AI hype

Remained focused on #HomeAutomation

Continue #NeuralAccelerator hardware & #MLX software development, enable running useful LLM locally

Partner with Steam, make running #Games on macOS & porting to iOS trivially easy

Embrace a “local first, intermittent connections, eventually consistent” view of the future

Be an alternative to the “cloud first, always on, always connected” future everyone else in trying to sell

#UnpopularOpinion

AISatoshi (@AiXsatoshi)

M5 Max는 메모리 대역폭이 614GB/s로 강화되었고, GPU 각 코어 내의 Neural Accelerator가 LLM 프롬프트 처리 속도를 향상시킨다고 보고되었습니다. 비교용으로 DGX Spark의 메모리 대역폭은 273GB/s로 언급되어 M5 Max의 대역폭 우위와 LLM 처리 가속이 강조됩니다.

https://x.com/AiXsatoshi/status/2028893401505251754

#m5max #memorybandwidth #neuralaccelerator #llm #gpu

Scott (@scottstts)

M5 GPU 신경 가속기에서 PyTorch 사용 가능성에 대한 질문입니다. 작성자는 최신 Mac용 PyTorch(맥 토치)가 M5 가속기의 matmul 등 연산을 가속할 수 있는지 여부를 묻고 있으며, mlx는 최적화된 것으로 보이지만 PyTorch의 지원 상태는 확실하지 않다고 언급합니다.

https://x.com/scottstts/status/2003946228527276153

#pytorch #m5 #mac #neuralaccelerator

**MacOS 26.2 sẽ bổ sung hỗ trợ đầy đủ 'Neural Accelerator' cho bộ xử lý M5**
Phiên bản macOS mới này nâng cao khả năng AI với công nghệ Neural Accelerator, loại bỏ yêu cầu vá MLX tùy chỉnh. Tốc độ kết hợp cụm máy lên đến 80Gb/s qua Tb5.

#macOS #M5 #AI #NeuralAccelerator #MacTech #CôngNghệMới #TốiƯuDữLiệu #MachineLearning #Supercomputer #TốcĐộCao #macOSTahoe #ViễnThông #TríTuệNângCao #TechNews

https://www.reddit.com/r/LocalLLaMA/comments/1p1coup/macos_262_to_add_full_neural_accelerator_supp