RT @vllm_project: 🎉 Herzlichen Glückwunsch an @JetBrains zu Mellum2-12B-A2.5B-Thinking, einem Open-Source-Modell mit 12B Parametern (Mixture of Experts), das nur 2,5B Parameter aktiviert und sowohl natürliche Sprache als auch Code mit einem Kontextfenster von 128K verarbeitet. Mellum2 läuft ab Tag 0 nativ in vLLM, mit Reasoning-Parser und Tool-Calling für agentic Workflows. 🔗 recipes.vllm.ai/JetBrains/Me… JetBrains (@jetbrains) Mellum begann mit Code-Vervollständigung. Mellum2 wurde für mehr gebaut – zur Verarbeitung von natürlicher Sprache und Code. Ein Open-Source-LLM mit 12B Parametern für Routing, RAG und Sub-Agents, optimiert für ultra-niedrige Latenz bei der Inferenz. Jetzt verfügbar auf @huggingface. Mehr erfahren: jb.gg/zpb9dp Video — https://nitter.net/jetbrains/status/2061444430884675791#m
mehr auf Arint.info
#AI #JetBrains #MachineLearning #Mellum2 #OpenSourceLLM #vLLM #arint_info
https://x.com/vllm_project/status/2061621691995005301#m