Kuketz-Blog 🛡KI macht das Leben leichter – und das Denken seltener. Ein kritischer Blick auf die schleichende Entwöhnung vom eigenen Verstand. 👇
Wer KI mit einer Google-Suche gleichsetzt, verkennt die Tragweite. Die Google-Suche zeigt dir Links. Du musst auswählen, filtern, lesen, vergleichen, bewerten. Sie vermittelt Wissen – sie denkt nicht für dich. Eine KI wie ChatGPT oder Gemini hingegen formuliert das Ergebnis gleich mit. Sie ersetzt das Nachdenken über Quellen durch eine glatte, fertige Antwort. Du bekommst das Resultat – nicht den Weg dorthin. Der kognitive Prozess wird damit nicht nur unterstützt, sondern umgangen.
Johannes Leutenegger 🤔@kuketzblog Google bewertet die Links ja auch, Reihenfolge und so weiter. Plus noch dazu Werbung. Das gibt es bei KI (noch?) nicht.
Ch M[ae][iy]e?r 🇪🇺 🤍 🇬🇱Ich würde sagen:
Eine "KI" liefert zwar eine "eine glatte, fertige Antwort", aber auch eine KI "denkt nicht für dich" (weil sie das nämlich gar nicht tun KANN). ...
Es ist lediglich das (gelogene) Werbeversprechen, und auch die allgemeine öffentliche Wahrnehmung (vor allem in Politik und Medien).
Daher teile ich die Schlussfolgerung von @kuketzblog auch vollständig.
Unser Job wird es sein, diese prinzipielle "Denkunfähigkeit" von "KI" (ja, und natürlich auch "Google" & Co.) zur allgemeinen Wissensbasis zu machen.
Immerhin gibt es auf #InfSchule jetzt auch eine schöne Lernstrecke dazu:
https://inf-schule.de/ki/menueansicht/ki_erkunden/papagei/lernstrecke
Andreas K@chbmeyer @johleut @kuketzblog Wobei ich persönlich perplexity in deep search mode mittlerweile ganz gerne als Suchmaschinen Ersatz verwende: Es liefert die "Quellen" (aka Links), und eine Zusammenfassung, die in > 90 % der Fälle sogar plausibel ist.
(Und ich sehe die doofen LLM in diesem Kontext einfach als geniale "Natural Text processing algorithms", wer mal klassische NLP gemacht hat, weiß zu schätzen, und das liefert bei weitem auch nicht immer richtige Resultate)
Aufpassen muss man halt, dass wirklich alles was in der Zusammenfassung steht, auch wirklich durch die Quellen belegt ist. Perplexity in Deep Search mode kann durch den iterativen Ansatz nämlich sehr wohl zu offensichtlichen Schlussfolgerungen kommen, wie "a" ist ein Beispiel für Klasse "A", selbst wenn es in den Quellen nur sehr indirekt erwähnt wird.
Ich gestehe ich habe mir es noch nicht angeschaut im Detail wie Perplexity Deep Search implementiert (aber es ist klarerweise nicht einfach ein LLM, sondern ein Algorithmus der auch LLM verwendet).
Und da ich es noch nicht weiß, wie gesagt, verwende ich das Ding momentan als Suchassistenten, das macht er überraschend gut.
Selbst wenn es manchmal auffällt, dass er nicht rechnen kann, oder das Ding sich am Wahlabend im Wahlergebnis vergreift. (Da hilft es wenn man weiß das die FDP rausgeflogen ist, wenn der Blechtrottel dann mögliche Koa mit FDP auflistet, dann stimmt was nicht.) 🤷
Apropos: Ich denke, die Sache mit der Werbung bei KI läft gerade so langsam an.
IIRC hat Perplexity das schon (teilweise?) integriert.
@chbmeyer Ah ja, hast du ein Beispiel?
@johleut
ich bin bei "KI" sehr sparsam mit der Nutzung. Aber es gab da mal einen @netzpolitik_feed Artikel zu Schaltung von Werbung:
https://netzpolitik.org/2024/ki-sucht-geschaeftsmodell-perplexity-will-geld-mit-werbung-verdienen/
und wenn ich jetzt suche, dann finde ich auch etwas von @heiseonline
https://www.heise.de/news/KI-Suche-Perplexity-integriert-native-Anzeigen-9673736.html,
und auch von #Perplexity selbst:
https://www.perplexity.ai/de/hub/blog/why-we-re-experimenting-with-advertising
Ein neues Kapitel tut sich dann mit dem Sammeln persönlicher Daten auf, womit "KI" dann auch in der Liga des Usertrackings mitspielt:
https://www.derstandard.at/story/3000000267219/ki-start-up-perplexity-will-browser-um-mehr-daten-von-usern-zu-sammeln
KI sucht Geschäftsmodell: Perplexity will Geld mit Werbung verdienen
Die auf Machine Learning basierende Suchmaschine Perplexity führt Werbung ein, um im Wettbewerb der KI-Unternehmen mitzuhalten. Von dem Schritt sollen auch Verlagspartner wie Der Spiegel profitieren. Andere Verlage hatten Perplexity wegen Urheberrechtsverstößen verklagt.
Michael Gisiger 
Abkürzungen, also „glatte, fertige Antworten“ existieren seit eh und je, angefangen bei den (islamischen) Aristoteles-Kommentaren, Handbüchern, später dann Lexika, Google-Suchresultate, die Wikipedia etc.
Das Problem sind nicht die Werkzeuge, die uns ein Resultat liefern, denn sie ermöglichen uns, selbständig die angegebenen Quellen zu konsultieren – sogar die schlechten Google-KI-Zusammenfassungen in der Suche geben Quellen an, die ich anklicken kann.
Auch die Resultate und fertigen Antworten sind nicht per se das Problem. Im Gegenteil, ohne sie würden viele Heuristiken nicht zum Ziel führen.
Ursache des wahrgenommenen Problems ist die „Denkfaulheit“, die Bequemlichkeit von uns allen. Aber daran sind weder Google noch KI „schuld“.
Was ich kritisiere, ist, dass der Topos der angeblichen „medialen Verdummung“ regelmässig mit dem Erscheinen eines neuen Mediums in der abendländischen Diskussion auftaucht und entsprechend bewirtschaftet wird.
1/2
Natürlich verändert sich mit dem Aufkommen neuer (Medien-)Technologien immer auch das Verhältnis zu Information und Wissen. Das ist der „wahre Kern“ des Topos. Aber dieser birgt eben auch die grosse Gefahr, in einen (digitalen) Analphabetismus zu führen. Darum muss er beständig hinterfragt werden, damit die entsprechenden neuen Kompetenzen und Fähigkeiten sinnvoll aufgebaut werden können.
Verteufeln hilft hier wenig – ausser der eigenen Reichweite und bei manchen auch dem eigenen Portemonnaie.
2/2
@gisiger Wie meinst du das mit dem "dem eigenen Portemonnaie"? @kuketzblog
Na, bei manchen ist Reichweite = Geld. Jeff Jarvis nennt diese Menschen gerne „moral entrepreneurs“, die auf der Welle einer „moral panic“ reiten und davon profitieren. Haidt oder Spitzer z.B.
Nachtrag, weil ich es vorhin vergessen habe: Was ich ebenfalls kritisiere, ist die der Funktionsweise des medialen Diskurses geschuldete Überbetonung der Extrempositionen (hier die Bros, dort die Ludditen). Darauf hat bereits Hans Blumenberg (wenn ich es richtig im Kopf habe, müsste zuerst noch nachschauen; jedenfalls war es ein deutscher Technikphilosoph) hingewiesen.
Moderate Stimmen und Positionen werden ausgeblendet, zuweilen aktiv unterdrückt. Auch hier im Fediverse.
@gisiger Ich erlebe die Debatte, an unserer Schule und auch sonst, nicht so schwarz weiss. @kuketzblog
Giliell@kuketzblog Früher haben wir in der Schule gesagt: Wikipedia ist keine Quelle.
Heute bin ich froh, wenn sie den Weg dorthin überhaupt finden.
Dennoch gibt es sehr sinnvolle Einsätze von KI. Eine einfache Frage stellen ist es nicht.
Heute bin ich froh, wenn sie den Weg dorthin überhaupt finden.
Dennoch gibt es sehr sinnvolle Einsätze von KI. Eine einfache Frage stellen ist es nicht.
Flexi Bell 
@kuketzblog Und oft genug ist diese fertige Antwort noch dazu schlicht flacsh.
pixelschubsi@flexi @kuketzblog Hatte letztens diese Frage zur Mülltrennung und mich total darüber aufgeregt, dass Google jetzt auch AI bullshit in ihre Suchergebnisse packt.
Interessant aber auch der Satzbau in der ersten Antwort, bin ja kein Grammatik-Experte, aber es klingt irgendwie falsch.
@pixelschubsi @kuketzblog Ach, diese Schmerzen.
plumps@kuketzblog Naja, Bälle flach halten. @johleut hat Recht, außerdem ist man da genauso Produkt, solange man mit seinen Daten zahlt. Medienkompetenz ist hier genau der gleiche richtige Ansatz um damit um zu gehen, wie mit einer (KI) Suchmaschine.
komaspieler@kuketzblog genau die Diskussion hatte ich gestern auch. Unterm Strich: die hatten wir schonmal, als plötzlich alle anfingen, "Wikipedia" als Quellenangabe zu verwenden.
Mit dem Unterschied, dass KI den Inhalt nun automatisiert aufbereitet und noch weniger Faktenbasis anbietet als ein lektorierter Wikipedia-Artikel.
"KI-Suchmaschinen" sind ein echter Rückschritt in Sachen Medienkompetenz.
elbast@kuketzblog
Und deshalb mein #Dilemma:
Mein erster Gedanke als äußerst datenschutzbewusster Mensch:
Pass auf, dass deine Daten nicht in einer KI landen. #DontFeedTheAi
Aber, wenn sich alle kritischen, schlauen, datenschutzbewussten Menschen zurückhalten, wer füttert denn dann die KI und prägt deren Ausrichtung, welche wiederum besonderen Einfluss auf viele Menschen hat.. .. eine Abwärtsspirale ....
#WhoFeedsTheAI
Jörg Iffländer@elbast @kuketzblog die Quelle Internet ist wegen Fake-Inhalt das Problem. Wer füttert die KI? M.E. kann eine KI nur mit veröffentlichen Wissen gefüttert werden, das einer Mindest-Kontrolle unterworfen ist. Das sind Bücher (print und E) und journalistische Inhalte. Blöd nur (für die Modell Trainierenden), dass das Geld kostet. Dann doch lieber Internet mit einem vorhandenen Müllfaktor. Nicht die Technik hinter einem Modell ist das Problem, sondern die Fütterer.
Stew@elbast
Deshalb bin ich auch ein Verfechter davon, dass wir die KI Modelle lieber in der EU regulieren sollten, anstelle den Weg der USA zu gehen und Big Tech einfach ohne wenn und aber ihre Modelle trainieren zu lassen.
Bigfood@kuketzblog
Habe vorgestern das erste Mal eine "KI" (Gemini) genutzt, weil mir die Suchergebnisse nicht weiter geholfen haben.
Im Nachhinein hätte ich das auch selber lösen können, wenn die Lokalisierung von audacity night so schlecht wäre. Hätte ich gleich auf Englisch gestellt, hätte ich kein Problem gehabt.
Habe vorgestern das erste Mal eine "KI" (Gemini) genutzt, weil mir die Suchergebnisse nicht weiter geholfen haben.
Im Nachhinein hätte ich das auch selber lösen können, wenn die Lokalisierung von audacity night so schlecht wäre. Hätte ich gleich auf Englisch gestellt, hätte ich kein Problem gehabt.
ThomasDie Entropie der Intelligenz!
Der Anreiz den Denkkasten zu benutzen bestimmt zugleich die Größe des Verstandes. Kein Anreiz, die Entropie schlägt zu, der geringste energetische Zustand wird angestrebt, wir verblöden…
Helix 
@kuketzblog
Bei vielen Leuten sind die Ergebnisse von LLMs aber deutlich besser als alles was sie selbst erdenken könnten.
Bei vielen Leuten sind die Ergebnisse von LLMs aber deutlich besser als alles was sie selbst erdenken könnten.
Hiker@kuketzblog Es läuft ja schon eine ganze Weile so: Eine ständig vortschreitende Entmündigung und Verdummung (auch Abzockerei) wird uns immer als noch mehr "Bequemlichkeit" und "Sicherheit" verkauft.
Hans"Verlernen wir das Denken?"
Wer kann noch - manuell und ohne IT-Technik - in einer gut sortierten öffentlichen Bibliothek zu einem beliebigen Thema recherchieren?
Wie macht man das?
@Hans
🤔 *so viele Bücher*, *wo soll man da bloß anfangen*, ...
(wo eine $google-Suche doch nur Bruchteile einer Sekunde dauert. ...)
@chbmeyer @kuketzblog
Was für "Google" eine Datenbank ist, ist für eine Bibliothek gut sortierte Karteikästen...
* Wichtig: In vielen Sachbüchern befindet sich hinten im Anhang Stichwortverzeichnisse und Quellenempfehlungen...
* Ja: Das macht Mühe.
Aber: Man lernt unheimlich gut!
* Das schöne: Es funktioniert sogar auch ohne Elektrizität (zumindest tagsüber...).
* Spaßfaktor: Unbedingt!
"'#KI" reiht sich da wunderbar in die Liste der menschlichen Bequemlichkeits-Erfindungen ein. Nur, dass es da jetzt eben ums Denken selbst geht. ...
Weben - autom. Webstuhl mit prekären Arbeitsverhältnissen
Laufen / reiten - Auto fahren mit versiegelten Flächen und Smog
Kochen - Convenience-Food mit Giften
Jedenfalls ein ideales Machtinstrument für das digitale Mittelalter (IMO ist es tatsächlich noch weitreichender als "digitaler Kolonialismus")
Das Thema wurde doch sicher auch bei #BlackMirror verarbeitet.
Erinnert an die Diskussion um Navigationssysteme. Als die ersten TomTom dem Fahrer das selbstständige navigieren abgenommen haben, war der Aufschrei genauso groß. Tatsache bildet sich der Gehirnbereich zur räumlichen Orientierung weniger stark aus, außer beim londoner Taxifahrer.
Wäre spannend, was die #Forschung rausfindet, welche Hirnregionen in Zukunft zurück bilden werden.
Gedächtnisforschung: Wieso Londons Taxifahrer mehr graue Zellen haben
Navigationssysteme - darüber lachen Londoner Taxifahrer. Sie haben den Stadtplan im Kopf. Durch das jahrelange Lernen von Straßennamen wächst sogar ihr Gedächtniszentrum, zeigen britische Forscher. Aber gleichzeitig verlieren die öffentlichen Chauffeure auch eine Fähigkeit.
Frank 🛰️🛩️🪂⛵🛵🎿🔭@kuketzblog Habe den Artikel gelesen. Man könnte in der Argumentation 1:1 "KI" mit "Freunde" ersetzen.
"Wer also gleich Freunde fragt, der bekommt direkt das Ergebnis, ohne den Weg dahin, verlernt das Denken und verblödet."
Ich bin nicht überzeugt. 🤖
Grey_is_beautiful 
"KI-Lifehacks« hingegen bieten nicht Bildung, sondern Funktionalität. Sie lösen Probleme, bevor man sich überhaupt mit ihnen beschäftigt hat. Sie liefern Resultate – aber nicht den Prozess, der notwendig wäre, um selbstständig denken zu lernen. Das ist nicht nur eine Verarmung der Erfahrung, sondern eine Umcodierung dessen, was als »Kompetenz« gilt."
Exakt DAS werde ich nicht müde, jedem zu sagen, der mir dieses Thema aufdrückt - mein Hauptkritikpunkt an KI ist, was sie zwangsläufig mit unseren kognitiven Fähigkeiten anstellen wird.
Danke für diesen Blogeintrag, ich kann nur zustimmen.
Jimi Lend@kuketzblog
Ich hab den Reiz der Zombieserienwelle nie verstanden aber die #Zombiefication scheint genau so abzulaufen.
Ich hab den Reiz der Zombieserienwelle nie verstanden aber die #Zombiefication scheint genau so abzulaufen.