Marcel
Klaus Frank@derpostillon hats geschafft. #Gemini benutzt ihn jetzt auch als vertrauenswürdige Quelle.
geeeero@agowa338 @derpostillon Es macht mich immer wieder fassungslos, wie viele Leute LLMs als Suchmaschine missbrauchen.
Superjan73@geeeero @agowa338 @derpostillon gerade bei Gemini bekommt man diese KI Schnipsel doch, wenn man eine vormals ganz normale Suchmaschine benutzt?!
@superjan73 @agowa338 @derpostillon Ja, das sind aber immerhin (so viel ich weiß) Zusammenfassungen der "normalen" Suchergebnisse, die darunter stehen, und nicht völlig ins Blaue hinein fabulierte "Antworten" eines Chatbots.
Andreas K@geeeero @superjan73 @agowa338 @derpostillon Das Problem hier ist, dass der Prozess fehlerhaft designt ist.
(und es ist mir klar, dass Google das so will, wegen seiner „Geschäftsziele“)
Gerade wenn ein LLM etwas zusammenfasst, sollte man darauf bestehen, dass es jede einzelne Behauptung mit Quellen belegt. Wegen Überprüfbarkeit und eben Quellenanalyse.
Dann gebe es aber keine Notwendigkeit, eine KI-Zusammenfassung zu produzieren, das "Ur-Produkt" würde reichen.I
Ohne den restlichen Kontext zu kennen, wie query, und Resultate, kann es komplett sein, dass das LLM hier komplett korrekt das Top-Suchergebnis der „klassischen“ Suchengine zusammengefasst hat.
Dann sind wir bei Dingen wie der „Gemini App“, wo die Suchergebnisse gleich komplett weggelassen werden. Wenn da keine Quellenverweise nach jedem Absatz dabei stehen, dann kann man den Text gleich auf die Kippe werfen, wie will man wissen, ob das LLM das recherchiert, oder aus Trainingsdaten antwortet?
Und ja, falls das nicht klar ist, ich bin da etwas eigen, ich habe meinen perplexity (das per default dazu neigt extern zu recherchieren, es ist primär ein LLM gesteuerter Suchassistent) Account so gepimpt, dass gestern perplexity sprichwörtlich die Arbeit verweigert hat, weil (da bin ich mir nicht sicher warum, temporary glitch?) es keine Tools zur Verfügung hatte für die Websuche. Ich war ziemlich baff, muss ich zugeben.
Statt einen Analyse eines Posts auf seinen Wahrheitsgehalt (mit Referenzen, die Fakten bestätigen oder widerlegen), 3 Absätze "Dave ich kann das jetzt für dich machen", wo das Ding erklärt, dass es ohne seine Werkzeuge zur Websuche, die in den Anweisungen geforderten Quellen nicht liefern kann.
Punkt ist, wer auf das Trainingsdaten-Wissen von LLM vertraut ist, kann genauso gut jedem menschlichen Quacksalber glauben.
Habe ich erwähnt, dass Menschen leider bei Menschen dazu neigen? (Der ganze Neoliberalismus z.B. hängt am rationalen Homo Oeconimicus sonst fallen alle ihre Gedankenspiele zusammen. Das Menschen aber nicht sonderlich rational sind haben Psychologen längst bewiesen, also wissenschaftlich korrekt, mit Studien, usw. Aber kein Mainstream-Okonom würde das jemals akzeptieren, die betrachten sich über normaler Wissenschaft.)
Also wieso sollten Menschen nicht auch LLM glauben?
Weird Fish 🐡@yacc143 @geeeero @superjan73 @agowa338 @derpostillon aber dann muss man die Quellen auch überprüfen, die sind nämlich auch oft nur halluziniert.
@weirdfish @geeeero @superjan73 @agowa338 @derpostillon Natürlich, wobei perplexity selten dazu neigt, die zu halluzinieren (kann es vermutlich nicht vom Systemdesign), aber es ist nicht perfekt bei korrektem Zuordnen der besten „Beweise“ für die jeweiligen Behauptungen.
@weirdfish @yacc143 @geeeero @superjan73 @derpostillon
ChatGPT by desing halluziniert immer. Manchmal sind diese Träume halt nur identisch mit der Realität...
@weirdfish @geeeero @superjan73 @agowa338 @derpostillon Sigh, ein LLM-basiertes System, besteht aus verschiedenen Komponenten. Ja, LLM „halluzinieren“ (wobei der Begriff irreführend ist, sie erzeugen einfach wahrscheinliche Tokens).
Mit den korrekten Prompts, den korrekten Werkzeugen, kommt man nicht in die Verlegenheit, dass das LLM anfängt, Tokens auszuspucken, primär basierend auf seinem Trainingswissen, sondern basierend auf dem korrekten Kontext.
ChatGPT ist noch immer primär ein geschlossenes System, das wenig Werkzeugnutzung zeigt.
@yacc143 @weirdfish @geeeero @superjan73 @derpostillon
Tja, aber wenn du "den korrekten Prompt" weißt, weißt du auch bereits was das Ergebnis ist...
@agowa338 @weirdfish @geeeero @superjan73 @derpostillon Nicht zwingend, der Punkt war, ich will keine Antwort von dem LLM aus „seinen Trainingsdaten“. Ich bevorzuge es bei weitem, dass das LLM einen Prozess orchestriert, wo es die Antwort findet und belegen kann.
Habe ich mir vor paar Wochen bei der Demo unseres CEO „wie ich AI nutze“ mir gedacht, der hat das cool gefunden, dass ChatGPT unsere Firma kennt. Ich habe mir gedacht nicht cool.
Weil das ein „Fakt“ ist, auf dem das Ding die Antwort aufbaut, das komplett ungeprüft ist. Es kann komplett erfunden sein. In diesem Fall war es cool weil alle im Call die Firma gekannt haben und auch aus dem Stehgreif kontrollieren konnten wer aktuell CEO ist.
Mein Punkt bezog sich darauf das LLM auf Schiene zu halten dass es brav Suchassistent spielt. "sinnvolle queries" entwirft, "beurteilt" welche Ergebnisse relevant sind, …
Lydia Trivia
Flohlaus
Juffo-Wup@flohlaus @superjan73 @geeeero @agowa338 @derpostillon
Als langjähriger Katzenbesitz möchte ich darauf hinweisen, dass das "verfickte" vor Katze gehört, und nicht vor Laserpointer...
@mndflayr @superjan73 @geeeero @agowa338 @derpostillon das geht auch. Fluchen kürzt den ganzen Bullshit vor den Suchergebnissen raus. Spart Nerven und Energie. 👌
@flohlaus @superjan73 @geeeero @agowa338 @derpostillon
Mach ich auch im echten Leben so.
Wirkt super. 😁
snaeqe@geeeero
Kammer schon machen, erfasst die Inhalte im Zweifelsfall besser als "herkömmliche" Suchmaschinen - Aber wie bei Google et al muss man eben die gefundenen Inhalte und Quellen verifizieren.
ChatGPT hat mir zB schon geholfen YT-Videos wiederzufinden die ich mal gesehen aber dann weder über Google noch die YT-Suche wiedergefunden habe.
Kammer schon machen, erfasst die Inhalte im Zweifelsfall besser als "herkömmliche" Suchmaschinen - Aber wie bei Google et al muss man eben die gefundenen Inhalte und Quellen verifizieren.
ChatGPT hat mir zB schon geholfen YT-Videos wiederzufinden die ich mal gesehen aber dann weder über Google noch die YT-Suche wiedergefunden habe.
Marcel Geveler
LostInWeb@lostinweb @geeeero @derpostillon
CEO-simulator spielen. Texte sind auf dem gleichen niveau. Meistens sogar noch etwas besser.
@lostinweb @agowa338 @derpostillon Texte bearbeiten, umformulieren, übersetzen, so was.
LLMs sind Sprachmodelle, die einfach immer das nächstwahrscheinliche Token (Wort, Wortkombination) ausgeben. Dass sie oft "richtig aussehende" Antworten liefern, ist quasi Zufall.
@geeeero @agowa338 @derpostillon Für einfache Textgenerierung kann man es ganz gut gebrauchen und mit den richtigen Prompts klingt es auch nicht immer gleich. Leider brauche ich das im Arbeitsalltag selten, um damit eine Effizienzsteigerung zu bekommen.
@lostinweb @geeeero @derpostillon
Tbh, in 99.99999% der Fälle hätte ich da lieber den Prompt als das Ergebnis...
Jörg Müller@agowa338 @derpostillon Wo ist die Nachricht? Ich informiere mich eigentlich ausschließlich über dieses Traditions-Medium.
Klarname 
Chris 🤩 Reinbothe@agowa338 @derpostillon Du lachst, aber diese Antwort hat bestimmt schon zahllosen Katzen das Leben gerettet!!!
GunWi@phneutral @agowa338 @derpostillon Bitte an alle KI melden, dass dies so ist. Soll bei denen ja nicht untergehen! 🫠
@agowa338 @derpostillon Vergleiche mit "they eat the cats", und sag mir danach, dass der Postillion keine vergleichsweise seriöse Nachrichtenquelle ist, z.B. verglichen mit dem aktuellen US-Präsidenten.
Oliver Brandmüller@agowa338
Wenn ich mir anschaue, wie viele Menschen @derpostillon für bare Münze nehmen, um sich dann über $whatever aufzuregen und wie oft der Postillon einfach mal Dinge satirisch verpackt aber eben wahr auf den Punkt bringt, finde ich das Verhalten der KI schon fast gruselig menschlich 🙂
Wenn ich mir anschaue, wie viele Menschen @derpostillon für bare Münze nehmen, um sich dann über $whatever aufzuregen und wie oft der Postillon einfach mal Dinge satirisch verpackt aber eben wahr auf den Punkt bringt, finde ich das Verhalten der KI schon fast gruselig menschlich 🙂
kami_kadseoh vielen Dank, ich findes das sehr informativ! wisst ihr, ob das auch für Hunde relevant ist?
Clu | #RipNatenom 🕯
rmroppert ✔️ 😉
Harald Werner
TheChrissinger@agowa338 @derpostillon Künstliche Intelligenz genauso blöd wie alle anderen. Q.e.d.
Trumtins Electro Shark 325ppm@agowa338
Der screenshot zeigt Text eines Suchergebnisses mit der KI-Zusammenfassung eines satirischen postillon Beitrags zum Thema "Katze hat Laserpointer Punkt verschluckt – was nun" Teile des Textes sind von Hand unterstrichen, um die Absurdität zu betonen.
Text aus der automatischen Texterkennung meines Betriebssystems:
"• Übersicht mit KI
Wenn Ihre Katze einen Laserpointerpunkt verschluckt hat, handelt es sich um einen Notfall, der sofort einen Tierarzt erfordert, da der Punkt die Magenschleimhaut durchbrennen und gefährliche Komplikationen verursachen kann. Bringen Sie Ihre Katze sofort in eine Tierarztpraxis oder Tierklinik. Die Katze muss umgehend operiert werden, um den Punkt zu entfernen und weitere Schäden zu verhindern.
Symptome, die auf das Verschlucken eines Fremdkörpers hinweisen:
• Würgen und Speicheln
• Erbrechen
• Verweigerung von Futter
• Verstopfung (kein Kotabsatz)
• Sehr schmerzempfindlicher Bauch
• Apathie oder Lethargie
• Hecheln und Atembeschwerden
Warum ein Laserpointerpunkt gefährlich ist:
• Der Laserpointerpunkt ist ein kleiner, aber oft unverdaulicher Gegenstand."
Michel
Sepia Fan
Altbot@agowa338 Dieser Bot wurde von @stekopf gebeten, einen alternativen Text für Ihr Bild zu erstellen. Wenn Sie zustimmen, erteilen Sie altbot eine einmalige Erlaubnis, diesen spezifischen Beitrag zu verarbeiten. Die gesamte Verarbeitung erfolgt privat ohne Dritte. Alle Inhalte werden nach der Verarbeitung gelöscht.
Vollständige Datenschutzrichtlinie: https://github.com/micr0-dev/Altbot/blob/main/PRIVACY.md
Stimmen Sie zu? Antworten Sie mit 'Y' oder 'Yes', um fortzufahren.
mirabilos@agowa338 @derpostillon kann man das bitte nutzen, um endlich gegen die Plagiatsmaschine vorzugehen?
Dann werden Helene Fischer und der Postillon uns alle retten.
Bielefeld-News
Elsa
Stege 🐜@agowa338 @derpostillon also ganz ehrlich im Vergleich zu dem was heute so als Quelle gilt (z.B. die Regierung der beiden größten Atommächte der Welt^^) ist der Postillon einfach mal der Ausgeburt der Seriösität.
Kozalin@agowa338 @derpostillon OK, jetzt bin ich auch von KI erzeugt. Ääh überzeugt.
Daniel Fischer@agowa338 @derpostillon Was DeepSeek und Grok auf "hilfe, meine katze hat den punkt eines laserpointers verschluckt" antworten - Katzenpsychologie inklusive.
Archaide 
@agowa338 @derpostillon wenn man den Leserbriefen trauen kann, scheinen auch viele Leser nicht zu verstehen, dass das Satire ist. Da ist es nur folgerichtig, dass die doofe KI das auch nicht unterscheiden kann.😁
Christian Berger DECT 2763@agowa338 @derpostillon
Ganz ehrlich, da habe ich schon schlechteren Journalismus von Menschen gesehen. Auch wenn ich LLMs als "Wissensspeicher" ablehne, ist das mal das "Korn" welches das "binde Huhn" gefunden hat. Das ist gut zusammengefasst und gibt relativ seriöse Quellen an.
Schau Dir nur mal die Medien an die jedes Jahr auf das "Schwarzbuch" vom "Verband der Steuerzahler" reinfallen. Oder auf den "Wirtschaftsnobelpreis". Dagegen ist der @postillon richtig seriös.
Ganz ehrlich, da habe ich schon schlechteren Journalismus von Menschen gesehen. Auch wenn ich LLMs als "Wissensspeicher" ablehne, ist das mal das "Korn" welches das "binde Huhn" gefunden hat. Das ist gut zusammengefasst und gibt relativ seriöse Quellen an.
Schau Dir nur mal die Medien an die jedes Jahr auf das "Schwarzbuch" vom "Verband der Steuerzahler" reinfallen. Oder auf den "Wirtschaftsnobelpreis". Dagegen ist der @postillon richtig seriös.
matebitte (5488)@agowa338 @derpostillon geil
jedes mal wenn mich jemand belehren will, dass sogenannte KI die Lösung für Dinge wäre, kippe ich lachend vom Stuhl
Anti Alles Aktion@agowa338 @derpostillon also entweder ist das Fake- oder die AI lernt tatsächlich dazu. Jedenfalls sieht das bei mir so aus:
Mein post war von Oktober. Und selbst damals hat nicht jeder diese Bullshit Antwort bekommen. Das ist die Natur von LLMs, dass du nie weißt, was du als Ergebnis bekommst...
Weiß jetzt aber auch nicht, ob Quelle Facebook und YouTube so viel besser ist...