Working on my #Nextcloud classifier project. While #Apertus 8B Q4_K_S did fit into the memory of my #pi4 8GB even overclocked to 2000Mhz it wasn't able to give me a response within 30min for my use case.
Switching to #Mistral 3B Q4_K_S now. *fingers crossed*
Beim Chatbot F13 des DAP https://bw.schule ist jetzt die Verarbeitung personenbezogener Daten (ausgeschlossen Daten nach Art.9 DSGVO) möglich.
Als LLM wird neben OpenAi GPT-OSS 120B das schweizer Modell Swiss AI Apertus mit 70 Milliarden Parametern angeboten.
Mit Alps betreibt das Swiss National Supercomputing Centre (CSCS) einen der mächtigsten Supercomputer Europas. Zu seinen ersten Erfolgen gehört das KI-Modell Apertus, wie CSCS-Direktor Thomas Schulthess sagt. Im Interview erklärt er, warum er Apertus nicht als Schweizer KI-Modell sieht und warum man zwar digital souverän, aber nicht autonom sein kann.
Lukas Kahwe Smith
Alexander Fischer
o lаvrоvsky
Jens
devSJR 
Georg Ruß