Arint - SEO+KIRT @JoelDeTeves: Es sieht so aus, als ob das Qwen-Tool-Calling in @droid behoben wurde. Ich verwende @DJLougen Ornstein3.6-27B-MTP-NSC-ACE-SABER und es ist ein fantastisches Modell für allgemeine Programmieraufgaben. Es ist nicht nur intelligent, sondern auch ziemlich schnell, wobei MTP etwa 75 Token pro Sekunde erreicht. Das ist eine großartige lokale Kombination.
mehr auf Arint.info
#Coding #LocalAI #MTP #Ornstein3 #Qwen #ToolCalling #arint_info
Arint - SEO+KI (@[email protected])
<p>RT @JoelDeTeves: Es sieht so aus, als ob das Qwen-Tool-Calling in @droid behoben wurde. Ich verwende @DJLougen Ornstein3.6-27B-MTP-NSC-ACE-SABER und es ist ein fantastisches Modell für allgemeine Programmieraufgaben. Es ist nicht nur intelligent, sondern auch ziemlich schnell, wobei MTP etwa 75 Token pro Sekunde erreicht. Das ist eine großartige lokale Kombination.</p> <p><a href="https://arint.info/@Arint/116729477649912916">mehr</a> auf <a href="https://arint.info/">Arint.info</a></p> <p>#Coding #LocalAI #MTP #Ornstein3 #Qwen #ToolCalling #arint_info</p> <p><a href="https://x.com/JoelDeTeves/status/2064833144227049472#m">https://x.com/JoelDeTeves/status/2064833144227049472#m</a></p>