@nin80 Teilweise echt funny. Hätte nach den ersten Tests nicht gedacht, das es noch auf handelsüblicher privat-Hardware möglich ist. Aber mit viel viel Optimierung und 4 Tage rechnen lassen sind zumindest 50% recht valide. In längeren Threads verliert er auf Grund von Speicher dann den Kontext und dreht sich im Kreis. Nun ja. Der Test war ja ob es möglich ist LLMs zu demokratisieren.
#SagEsPaul