RT @Bassmaster187: Ich habe mich doch entschlossen, die Intel Arc Pro B70 32GB zurückzugeben und für ein paar Euro mehr die AMD R9700 zu nehmen. An vielen Stellen ist die Intel abgestürzt und bei komplexen Kontexten extrem langsam geworden. Die R9700 ist teilweise beim Prompt-Processing und der Token-Generierung 10-mal schneller und vor allem scheint sie extrem stabil zu sein. Die speziellen HIP (ROCm)-Treiber scheinen nicht schneller zu sein als die Standard-Vulkan-Treiber, sodass ich sogar noch Hoffnung habe, dass sich das in Zukunft noch verbessert. Laut Logfiles habe ich letzten Monat ca. 150 € als Sonnet-4.6-Äquivalent gespart, sodass sich die Investition recht schnell auszahlt. Vielleicht werde ich unvernünftig und kaufe noch eine zweite... Bei Standard-Aufgaben geht Qwen3.6 35B mit Q5-Quantisierung teilweise schneller und besser als Sonnet 4.6. Schade, die Intel wäre echt cool gewesen, aber die Treiber und Software sind sehr schlecht.
mehr auf Arint.info
#AIInference #AMDRyzen #GPUHardware #HardwareComparison #IntelArc #TechReview #arint_info
https://x.com/Bassmaster187/status/2062955535775715641#m