KI-Inferenz in Silizium gegossen: Taalas kündigt HC1-Chip an

Das Startup Taalas will mit dem HC1 ein fest verdrahtetes Llama 3.1 8B mit knapp 17.000 Token/s liefern – fast 10-mal schneller als bisherige Lösungen.

https://www.heise.de/news/KI-Inferenz-in-Silizium-gegossen-Taalas-kuendigt-HC1-Chip-an-11185021.html?wt_mc=sm.red.ho.mastodon.mastodon.md_beitraege.md_beitraege&utm_source=mastodon

#IT #KünstlicheIntelligenz #Sprachverarbeitung #Nvidia #news