Mastodawn

1/ Das Schlimme an diesen mit #KI erzeugten Arbeiten ist, dass ich diesen Schwachsinn lesen muss und dann noch erklären muss, warum das grober Unfug ist und warum kein Lebewesen, nicht mal ein Schimpanse oder eine Schnecke, jemals solchen Schwachsinn schreiben würde. Die würden alle ordentlich zitieren oder einfach wegkriechen.

Ich arbeite jetzt 30 Jahre mit Lernenden, aber es macht mir zum ersten Mal ernsthaft keinen Spaß mehr.

<sarkasm>Jemand meinte, wir sollten doch #ChatGPT die Hausarbeiten lesen und bewerten lassen. </sarkasm>

2/ So. Das hat mich den Tag gekostet und mir den Tag versaut. Diese Menschen sind nicht nur Betrüger, sie sind auch Diebe! Sie stehlen mir die Zeit.

Ich habe jetzt für das Prüfungsbüro eine Dokumentation der relevanten Passagen angefertigt.

Die betreffenden Personen sollten sofort exmatrikuliert werden, aber dafür sind die Ordnungen noch nicht angepasst.

#KI #ChatGPT #Stuss .

3/ Habe jetzt das Dokument mit den Anforderungen an Hausarbeiten aktualisiert. Es gibt jetzt definierten Abzug für Dinge, die Betrüger*innen normalerweise tun: Keine Seitenzahlen, keinen Referenzmanager usw. usf.

https://hpsg.hu-berlin.de/~stefan/Lehre/hausarbeiten.html

Hausarbeiten und Qualifikationsarbeiten

4/ Hab das Vorlesungsmaterial jetzt mal aktualisiert mit Betrugsbeispielen und was wie schiefgeht. Unter anderem habe ich das reingemacht. Hat wohl auch #ChatGPT erzeugt.

Im @vagina_museum kann man lernen, was da alles schief gegangen ist:

https://masto.ai/@vagina_museum/115100134755954006

5/ Im Museum kann man interessante Dinge lernen. Im
@vagina_museum habe ich gelernt, dass es in der Tat Tiere gibt, bei denen auch die Weibchen einen Penis haben (also ähnlich genug, so dass auch Biolog*innen die Geschlechter nicht ohne Gentest auseinanderhalten können): die #Tüpfelhyäne.

https://de.wikipedia.org/wiki/T%C3%BCpfelhy%C3%A4ne

Ist halt bei der Geburt dann nicht so praktisch, aber hat wohl Vorteile bei Begrüßungsritualen.

Tüpfelhyäne – Wikipedia

6/ Super! Habe heute wieder einen Großteil meiner Arbeitszeit mit ner Betrüger*in zugebracht. Sie*er wollte mit mir zusammen arbeiten und wir haben ein Stipendium für sie*ihn beantragt. Erster Mail-Kontakt 2024. Insgesamt über 500 Emails. Abstimmung des Antrags. Organisation weiterer Gutachter*innen. Begutachtung. Expert*in stellt fest: Macht alles keinen Sinn.

Zusage zurückgezogen. Förder informiert. Uni informiert. Zeitschriften informiert. International mit Expert*innen abgestimmt.

Ich habe es nicht gemerkt, weil die Teile, die mit meiner Arbeit zu tun hatten, nicht betroffen waren. Aber diese Art Betrug fliegt irgendwann auf alle Fälle auf, denn um zu merken, dass KI Mist produziert, müsste man auf dem Level der Expert*innen sein. Da kommt man aber nie hin, weil man nicht richtig arbeitet.

Fazit: Liebe Betrüger*innen, wir kriegen Euch alle! Früher oder später. Dann ist Eure wissenschaftliche Karriere vorbei und Ihr könnt höchstens noch Regierende Bürgermeisterin von Berlin werden.

7/ #FrankZappa hat mal in einem Interview folgendes gesagt:

“Yea, I take a very cynical point of view.
I think being cynical is a positive value.
I think that nobody should trust anybody else.
I think that all people are assholes until proven diﬀerent.
I think if you take that point of view you will be disappointed less in live.
Don’t expect friends,
don’t expect a good live,
don’t expect anything.
Then if you get something it’s a bonus.”
Frank Zappa in an interview with Rudi Dolezal (Ohne Maulkorb, Vienna, 30.03.1978)

Ich war bis jetzt ein offener Mensch. Fröhlich und leicht zu begeistern. Ich möchte nicht davon ausgehen müssen, dass alle Student*innen und alle Bewerber*innen Betrüger*innen sind.

https://www.youtube.com/watch?v=J3qrWOOposQ

Zappa explains...

YouTube

8/ Das ganze ist im Prinzip die wissenschaftliche Variante von #LoveScam. Man freut sich auf einen Gast und überlegt, was man mit dem machen könnte, wie man das mit anderen Forschungen verbinden könnte und dann kommt irgendwann der Tag, wo man merkt: Upsi. Alles Betrug!

9/ Man müsste wohl bei der Submission von Zeitschriftenbeiträgen die Angabe der #ORCID verpflichtend machen. Betrüger*innen kriegen dann einen Eintrag in ihrem Record und Zeitschriften können dann die Begutachtung von weiteren Beiträgen ablehnen.

Technische Umsetzung ist vielleicht etwas schwierig, auch weil Dritte für andere Accounts anlegen könnten, um ihnen zu schaden. Usw. usf.

Es ist wie bei Email. Spamer machen unser Kommunikationssystem kaputt.

10/ Hier noch zu der Frage, wie man menschliche von nicht-menschlicher Intelligenz unterscheiden kann.

https://www.youtube.com/watch?v=LKozx-Au7lY

#ChatGPT kann man von Menschen unterscheiden, weil der nie sagt: Das weiß ich nicht.

Sein wir stolz darauf, dass wir #DasWeißIchNicht sagen können.

Louis de Funès - Völlig normal

YouTube

11/ Habe heute mit Student*innen über #KI gesprochen. Bis vor nem Jahr hatte ich ja so den Ansatz: Nur nicht drüber reden, sonst bringe ich noch jemanden auf Ideen. Jetzt habe ich gefragt, wer #ChatGPT kennt. Alle. Und wer es benutzt. Fast alle.

Eine Studentin kam hinterher zu mir und fragte, was sie denn machen solle. Sie habe Plagiatserkennungsportale benutzt und die hätten behauptet, die Arbeit sei mit KI erstellt worden. Sie habe dann große Angst gehabt, ob eine Dozent*in sie beschuldigen würde.

Ich meinte, dass das wahrscheinlich nicht passieren würde, weil man es ja sieht und nicht auf die Idee kommen würde, dass ihre Arbeit KI-generiert ist, wenn das nicht der Fall ist.

Sie hatte dann den Vorschlag, sich die ganze Zeit während der Erstellung der Arbeit zu filmen.

Das ist natürlich eine funktionierende Möglichkeit, aber irgendwie ist es auch schrecklich.

Es erinnert mich irgendwie an die DDR-Zeit, wo es nicht möglich war, zu beweisen, dass man nicht bei der Stasi war, denn jedes Verhalten, dass die Gegenüber dazu bringen könnte, zu glauben, dass man nicht bei der Stasi war, könnte ja Tarnung sein.

Heutzutage kann man sich selbst totalüberwachen und die Dokumentation dann den Prüfer*innen zur Verfügung stellen.

12/ OK. Ich habe mal ein bisschen gespielt. Erstens habe ich das #LLM der HU gefragt, woran man Hausarbeiten erkennt, die von #KI generiert wurden. Da hat es mir gesagt, dass die zu schön seien und keine Fehler enthielten. Dann habe ich das LLM gefragt, ob es mir einen kurzen Text mit Fehlern generieren könne. Drei Absätze. Es hat freundlich ja gesagt und mir diesen Text fabriziert. Super Text. Komplett fehlerfrei. Märchenautoren brauchen wir nun also wirklich nicht mehr (war nicht ernst, keine Angst).

Bitte lest den Text selbst. Er enthält keinen einzigen Fehler und das liebe LLM sagt zum Schluss: „Ich hoffe, dieser Text enthält genug Fehler für deine Zwecke!“

13/ Das beste ist allerdings die Fortsetzung. Nach meiner Nachfrage, was denn falsch gewesen sein sollte. Erklärt es mir, dass der V2-Relativsatz falsch gewesen ist. Dabei ist das ein sogenannter V2-Relativsatz und die sind bei Märchen ganz normal: „Es war einmal ein Mann, der hatte sieben Söhne, …“

Sehr schön ist, wie es weitergeht. Satz 2 wird als korrekt bezeichnet. Und das #LLM behauptet, es habe ihn nur zur Verwirrung eingefügt. =:-) Und dann geht es mit 3–11 weiter, die auch alle korrekt sind.

Irgendwie ist das richtig süß.

Und zum Schluss: „Ich hoffe, dieser Text enthält genug Fehler für deine Zwecke!“

14/ Ich habe dann schnell Bescheid gesagt, wie das mit den V2-Relativsätzen ist und auch den Literaturhinweis gegeben:

https://doi.org/10.1023/A:1011432819119

Dann habe ich explizit um Rechtschreibfehler gebeten. Leider hat es die dann in meine Anfrage eingebaut. =:-)

Von der allgemeinen Super-KI sind LLMs noch sehr weit entfernt …

15/ Mist, im Prompt war ein Fehler. Es hätte „Fehlern“ heißen müssen. Ich habe das Experiment also erneut gestartet.

In diesem Text kann ich nur einen Fehler erkennen.

16/ Bei der bitte um Grammatikfehler kommt einfach noch mal derselbe Text raus. Mit der Behauptung, es seien mehrere Grammatikfehler enthalten.

17/ Das Lustige ist nun aber, dass ich herausgefunden habe, wie man Humanoide enttarnen kann. Louis de Funes hatte das ja mit dem Klopftest versucht (10). Das passt auch sehr gut zu der Frage, wie man Hohlköpfe enttarnt. Als Erstes fiel mir damals aber dieser tschechische Kinderfilm ein. Der passt jetzt!

Und zwar hatte ich „meine #KI“ gebeten noch mehr Rechtschreibfehler einzubauen. Danach begann sie, denselben Fehler immer wieder auszugeben. Es war kein Ende abzusehen!

18/ Das ist der Film. Ich hoffe, dass im Rechenzentrum der HU jetzt nichts abgebrannt ist.

https://www.youtube.com/watch?v=tQmks3W9534&t=2877s

#Roboter #HumanoiderRoboter #KI #LLM

Roboter im Sternbild Kassiopeia

YouTube

19/ Wenn Ihr mir nicht glaubt, könnt Ihr Euch hier noch ne Stunde zwei #KI-Expert*innen anhören. Fazit: KI ist Stuss. Und obendrein noch sexistisch, weil es Frauennamen in Publikationen durch Männernamen austauscht. Tja, die Männer sind wohl wahrscheinlicher.

https://www.youtube.com/watch?v=p9w0FiHo1RU

September 12, 2025 — Safeguarding Science from AI: An Interview with Olivia Guest and Iris van Rooij

YouTube

Piraten Erfurt Oct 24

@stefanmuelller Es ist ein "Sprach-Modell".

Du bekommst also einfach eine Antwort, wo jemand anderes mal geschrieben hat: "Da ist ein Fehler drin."

DerJoshDer Oct 24

@stefanmuelller

DerJoshDer Oct 24

@stefanmuelller
Ich
Bitte erstelle einen Text zum Thema "Prompts für eine KI erstellen". Schreibe ihn so, wie ein 11jähriger ihn schreiben würde. Baue auch typische Fehler ein, falsche Rechtschreibung und Grammatikfehler die typisch für Kinder sind. Gib den Text mit Fehlern aus. Gib zusätzlich auch die korrigierte Fassung aus.

GPT-OSS:
**Text mit typischen Fehlern (wie ein 11-jähriger schreiben könnte)**

...

DerJoshDer Oct 24

@stefanmuelller

...
Hi! Ich will euch zeigen, wie man Prompts für KI machen kann. Das ist voll wichtig, weil dann kann die KI ganz viel machen und uns hilft bei Hausaufgaben oder beim Basteln. Aber du musst genau wissen, was du der KI sagst, sonst mach sie was du nich willst.
...

DerJoshDer Oct 24

@stefanmuelller
...

Zuerst: Schreibe klar und einfach. Sag nicht „Hey KI“, sag stattdessen „Hey ChatGPT, ich brauche Hilfe bei der Matheaufgabe“. Und wenn du willst, dass die KI ein Bild malt, sag „Male mir ein Bild von einem Drachen mit roten Flügeln“. Wenn du nur „male drache“ sagst, weißt du nicht mehr, was die KI macht.
...

DerJoshDer Oct 24

@stefanmuelller
...
Dann kommt das nächste Ding. Verwende kurze Sätze. Langweile die KI nicht, das ist nicht gut. Und achte auf die Groß- und Kleinschreibung, sonst sieht es komisch aus. Und keine Wortschleifen!
...

Ein Beispiel:
„Hallo KI, bitte schreibe mir einen kurzen Text über Dinosaurier, die in der Zukunft leben, und erkläre mir warum sie groß sind.“
Das ist gut, weil es viele Infos hat und klar sagt, was du willst.

...

Nicole Wolf Oct 24

@DerJoshDer Maschinen haben keine Langeweile

@stefanmuelller

DerJoshDer Oct 24

@stefanmuelller
...
Vermeide also Wörter wie „wie, warum“ und „so wie“. Und wenn du willst, dass die KI in einem bestimmten Stil schreibt, sag es. zB: „Schreibe in kindlichem Stil, wie ein 11 jährige Person“.

Viel Erfolg beim Prompt machen! Wenn du noch Fragen hast, schreib mir.

P.S. Habt Spaß und denkt daran: Je klarer dein Prompt, desto besser die Antwort.
---
Also, meine KI (GPT-OSS) tut sich auch schwer mit Fehlern, aber sie macht welche!

DerJoshDer Oct 24

@stefanmuelller

Das Beispiel war jetzt nicht so ideal (verwirrend), aber ich musste das auch mal probieren. Hatte das Problem nämlich so ähnlich auch schon mal.

Ich finde, stylistisch ist es ganz gut gelungen. Würde ich jetzt erstmal nicht meinen, dass eine KI das geschrieben hat.

DerJoshDer Oct 24

@stefanmuelller
Nach langem Hin und Her:
**Fehlerhafte Version**
Ich glaube das die Aufgabe ist überhaupt keine gute Idee weil wir sollen lernen das wir selber denken müssen, aber wenn wir die KI erledigen lassen dann passiert das nicht. Ich hab Chatgpt gefragt das die Lösung für die Matheaufgabe hat und die KI hat mir die ganze Rechnung zurückgeschickt. Das hat mir aber nicht helfen, weil ich nicht verstehe das wie das funktioniert.

DerJoshDer Oct 24

@stefanmuelller ...
Beim Deutschunterricht hab ich die KI gebeten das einen Aufsatz zu schreiben und die KI hat mir einen Text zurückgeschickt das wiederholt alles. Ich hab das Gefühl das meine Wortwahl nicht mehr verbessert wird, weil die KI immer das gleiche sagt. Ich denke das die KI kann uns zwar helfen die Infos zu finden aber sie kann uns nicht beibringen das wir selbst Probleme lösen. Also sollten wir die KI nur als Hilfsmittel benutzen, nicht aber die ganze Hausaufgabe schreiben lassen.

DerJoshDer Oct 24

@stefanmuelller
Nun ja. Wie eine Schülerantwort klingt es auf Deutsch noch nicht. Da habe ich auf Englisch schon besseres gesehen. Aber, man kann die Maschine in Fehler hineinquatschen. Vielleicht sollten wir sie mal mit dem trainieren, was man uns so vorsetzt... 🙄😉.

Moss (the τεχie) <(fsm)>{{Oct 23

@stefanmuelller
Stochastische Markovkettengeneratoren sind von jeder Art von Intelligenz sehr weit entfernt. Hört auf, diese Dinger „KI“ oder „AI“ zu nennen, das ist nur Marketing.

@Moss_the_TeXie Genau. Musste mal bei meinem englischen Account gucken: @[email protected] hat dazu gepostet. @StefanMuelller

hallunke23 🇺🇦

V2-Relativsätze sind jetzt aber auch ein Grammatikkonstrukt, was ich irgendwie nicht auf dem Schirm hatte. Deutsche Variantengrammatik halt...

@stefanmuelller

DerJoshDer Oct 24

@stefanmuelller
Du hattest nach einem Text mit Fehler gefragt, nicht nach einem Text mit Fehlern! 🤷‍♂️🤦‍♂️
Frage mal nach einer Antwort auf dem Niveau und im Stil eines Teenagers mit Verstößen gegen grammatikalisch Regeln und Rechtschreibregeln.

@DerJoshDer Oh, Mist! Das zeigt, dass ich echt bin.

Ich habe das Experiment gleich noch einmal gestartet und weiß jetzt, wie man die KI besiegen kann! Kommt gleich bei 15. Danke für den Hinweis!

@stefanmuelller Indikativ statt Konjunktiv I im vorletzten Satz?

Thorsten Rochelmeyer Oct 23

@stefanmuelller Ich weiß nicht, was Du willst.

Jungs interessieren sich nicht für Bücher (Fehler 1). Wenn sie etwas Interessantes im Wald finden, zeigen sie es garantiert nicht ihren Eltern (Fehler 2) und Bücher leuchten und vibrieren nicht (Fehler 3) weil es Bücher sind, keine Handys.

@thorsten4future In Geschichten darf man alles, nur keine ungrammatischen Phrasen. =:-)

Dr. h.c.* Grober Unfug Oct 24

@stefanmuelller dabei kann sie das video einfach von eine videogenerator erzeugen lassen.😬
Du darfst dich dann durch mehrere Stunden AI slop Video durcharbeiten.

Paul Balduf Oct 20

@stefanmuelller Ja, man müsste auf jeden Fall irgendwie verhindern, dass derselbe Text von denselben Autoren unverändert an 20 Zeitschriften geschickt wird, bis irgendwann mal jemand nicht aufpasst und es durchwinkt.
Aber irgendwie sehe ich KI auch nur als Spitze des Eisbergs.
Das unterliegende Problem ist meiner Meinung nach, dass die Menge an Kommunikation von wissenschaftlichen Ergebnissen gleichzeitig das einzige/wichtigste Kriterium ist, nach dem Personen in der Wissenschaft bewertet werden, sofern man sich nicht persönlich kennt. Da gibt es Professor*innen, die schon als Annahmekriterium für eine Promotion verlangen, dass die Masterstudierenden mehrere Artikel veröffentlicht haben und sowas. Das KI Thema bei Publikationen (nicht bei Hausaufgaben natürlich) würde sich sehr entschärfen, wenn man mit zusätzlichen Publikationen nichts gewinnen würde.
Ich bin mir nicht sicher, ob man das irgendwie mit vertretbarem Aufwand lösen kann. Vielleicht müsste man Gutachten explizit dahingehend machen, ob das Manuskript ein wichtiges Resultat ist, und nicht nur ob es korrekt aussieht, und diese Bewertung dann veröffentlichen (so etwas wie Sterne für eine Publikation vergeben, selbst wenn man sie nicht zitiert, weil man selbst an etwas anderem forscht). Aber das ist natürlich extrem schwer objektiv zu beurteilen. Und etwas Unsinniges/Gefälschtes dann wirklich als 0-Sterne Manuskript auf Orcid anzeigen.

@stefanmuelller Ich lese daraus, dass sich die wissenschaftliche Arbeit vom Forschen hin zum Bekämpfen von AI-Slop verschiebt ...

Ja. Leider. Deshalb bin ich für Hände abhacken. Erst die linke, bei Wiederholung die rechte. Na, wahrscheinlich hilft auch das nicht, weil es ja Diktiersysteme gibt.

Mir ist gerade aufgefallen, dass das nächste dann der Kopf wäre. Das hülfe auch bei dem Problem mit den Diktiersystemen.

Wo bin ich nur hingeraten? Ich bin doch eigentlich gegen Gewalt.

@stefanmuelller

Es scheint, dass du etwas aufgewühlt bist: Der Kopf wäre nicht nur symbolisch eher schlecht gewählt, weil der Vorwurf doch gerade ist, dass der *eigene* Kopf nicht genutzt wurde (bzw. nicht ausreichend, intensiv genug). Von der Problematik der Verhältnismäßigkeit mal ganz zu schweigen. Gegen (mündliches) Diktieren müssten eigentlich auch die überlieferten Strafen gegen Lügen ausreichen (sog. Erforderlichkeit). Die sich daraus ergebende Konsequenz formuliere ich bewusst nicht aus.

Und schon deine Reihenfolge des Händeabhackens wäre eine strukturelle Diskriminierung von Linkshändern, aber vermutlich nur ungewollt von dir übers Ziel hinausgeschossen.

Ein Kollateralschaden der "Müllerschen Lösung" wäre auch, wenn sich diese durchsetzen würde, dass Wissenschaftler, denen Arme fehlen, sich nun auch noch mit Plagiatsvermutungen auf Grund ihres Äußeren auseinandersetzen müssten.

Die blöde KI hat als Praxis-Beispiel für die Relevanz dieses Einwands nur Prof. Dr. Theresia Degener ausgespuckt, aber auf die KI ist ja bekanntlich kein Verlass.

"Ich möchte nicht davon ausgehen müssen, dass alle Student*innen und alle Bewerber*innen Betrüger*innen sind."

Musst du doch auch gar nicht. Es reicht, wenn du im Hinterkopf hast, dass unter allen 1 sein *könnte*.
(Dass das trotzdem nicht schön ist, geschenkt.)

Ja, das stimmt, das war etwas voreilig. Es muss ja nicht der ganze Kopf sein. Es würde ja reichen, den betreffenden Personen die Zunge auszureißen.

Reden wir hier bei Händeabhacken ernsthaft über die Benachteiligung von Linkshändern? Ich dachte, meine Vorschläge seien absurd genug gewesen, dass man sie nicht ernsthaft diskutieren muss.

Die Übertreibung bedeutet: Man muss da was machen, damit diese neue Form von Betrug ernsthaft verhindert wird.

"Ich möchte nicht davon ausgehen müssen, dass alle Student*innen und alle Bewerber*innen Betrüger*innen sind."

Das bezog sich auf das #Zappa-Zitat:

„I think that all people are assholes until proven different.“

Es wäre ein Generalverdacht. Das Gegenteil von dem, was man normalerweise macht. Die Möglichkeit, dass jemand kein Betrüger ist, gibt es ja genauso. Also die Frage ist: Was sollte man als den Normalfall ansehen, damit man nicht enttäuscht wird?

Und es ist auch eine ganz andere Art, Anträge und Aufsätze zu lesen. Wenn man von Betrug ausgeht, ist die Prüfung viel tiefer und aufwendiger. Wenn nicht, kommen die Leute halt bis zu einem gewissen Grad durch.

(1) wäre meins und (2) wäre Deins:

(1) Vx stud(x) -> möglich(betrüger(x))
(2) möglich(Ex stud(x) ^ betrüger(x))

Die haben, glaube ich, dieselben Wahrheitsbedingungen, wenn ich nicht irgendwas übersehe.

Wenn man ein Diskursuniversum mit 10 Student*innen hat, dann ist (1) wahr, wenn für alle stud gilt, dass sie möglicherweise betrügen.

(2) sagt, dass es möglich ist, dass es einen stud gibt, der*die betrügt. Der Existenzquantor bedeutet „mindestens einen“, also können es auch zwei oder drei oder 10 sein.

Müsste man mal eine hauptamtliche Semantiker*in dazu befragen.

Knud Jahnke Oct 19

@peer @stefanmuelller @stephan324ppm

Als Strafe noch was viel schlimmeres: Internet-Zugang abhacken!

Stümpt! Das ich darauf nicht gekommen bin! Dit zeckt!

@peer @stephan324ppm

MeerderWörter Oct 17

@stefanmuelller @vagina_museum Ah spannend, ja man lernt nie aus.

Viktoria D. Richards/Uddelhexe Oct 18

@stefanmuelller @vagina_museum

This Bot reads too much ABO Fan-/fiction 😂

(For those not knowing the reference ABO: search for Alpha-Omegaverse Fiction )

Simon Meier-Vieracker Oct 20

@stefanmuelller "Abzug ganze Note bei Nichtbeachtung". I love it!