LLM 추론 비용 58% 절감: Apple의 ARTER가 보여준 적응형 라우팅 전략

Apple이 개발한 ARTER 시스템이 적응형 라우팅으로 LLM 추론 비용을 58% 절감하면서도 Entity Linking 정확도를 향상시킨 방법을 상세히 분석합니다.

https://aisparkup.com/posts/6043

🚨 BREAKING: Apple's Machine Learning team finally realizes that #CUDA isn't just a trendy baby name. 😂 GitHub's #AI is now tasked with convincing silicon to play nice with NVIDIA's ancient wizardry. 🧙‍♂️ Meanwhile, developers everywhere eagerly await the next groundbreaking feature: support for VHS tapes. 📼
https://github.com/ml-explore/mlx/pull/1983 #AppleMachineLearning #NVIDIA #GitHub #VHSsupport #TechNews #HackerNews #ngated
[WIP] CUDA backend by zcbenz · Pull Request #1983 · ml-explore/mlx

This PR is an ongoing effort to add a CUDA backend to MLX, very little things work now but you can run the tutorial example already. To build and test: $ cmake . -Bbuild -DMLX_BUILD_CUDA=ON -DMLX_B...

GitHub

Apple prezentuje Matrix3D — model AI generujący sceny 3D z zaledwie trzech zdjęć

Zespół Apple Machine Learning, we współpracy z Uniwersytetem w Nankinie i Uniwersytetem Nauki i Technologii w Hongkongu, zaprezentował Matrix3D — zaawansowany model AI, który potrafi odtworzyć sceny i obiekty 3D na podstawie jedynie trzech zdjęć 2D.

Matrix3D to tzw. Large Photogrammetry Model, który upraszcza tradycyjny proces fotogrametrii — czyli tworzenia modeli 3D na podstawie zdjęć — poprzez zastosowanie jednej, zunifikowanej architektury. Zamiast wielu etapów (jak estymacja pozycji czy głębi), Matrix3D wykonuje wszystko w jednym kroku, co zwiększa dokładność i efektywność.

Model został wytrenowany z wykorzystaniem strategii maskowania danych wejściowych, znanej z pierwszych wersji modeli Transformer, takich jak ChatGPT. Dzięki temu Matrix3D potrafi generować dokładne rekonstrukcje 3D nawet przy ograniczonych danych.

Efekty są imponujące — model potrafi wygenerować szczegółowe obiekty i środowiska 3D z trzech zdjęć, co otwiera ogromne możliwości np. dla Apple Vision Pro i innych urządzeń XR.

Kod źródłowy Matrix3D jest dostępny na GitHubie, a pełna publikacja trafiła na arXiv. Na stronie projektu można obejrzeć przykładowe filmy oraz interaktywne chmury punktów.

#AI3DZ2DZdjęć #AppleAI3D #AppleAR #AppleMachineLearning #AppleMatrix3D #AppleVisionPro #fotogrametriaAI #immersyjneTechnologieApple #Matrix3DGitHub #modelFotogrametrycznyApple #rekonstrukcja3D #technologiaApple2025

Matrix3D: Large Photogrammetry Model All-in-One

We present Matrix3D, a unified model that performs several photogrammetry subtasks, including pose estimation, depth prediction, and novel…

Apple Machine Learning Research