Un nuovo chip demolisce le prestazioni di Nvidia H200

Taalas HC1 "hardwire" Llama 3.1 8B, direttamente su chip: 17.000 token al secondo, 1.000x più efficiente di una GPU convenzionale. L'inferenza AI non sarà più la stessa.