Mike Kuketz 🛡KI macht das Leben leichter – und das Denken seltener. Ein kritischer Blick auf die schleichende Entwöhnung vom eigenen Verstand. 👇
Wer KI mit einer Google-Suche gleichsetzt, verkennt die Tragweite. Die Google-Suche zeigt dir Links. Du musst auswählen, filtern, lesen, vergleichen, bewerten. Sie vermittelt Wissen – sie denkt nicht für dich. Eine KI wie ChatGPT oder Gemini hingegen formuliert das Ergebnis gleich mit. Sie ersetzt das Nachdenken über Quellen durch eine glatte, fertige Antwort. Du bekommst das Resultat – nicht den Weg dorthin. Der kognitive Prozess wird damit nicht nur unterstützt, sondern umgangen.
Johannes Leutenegger 🤔@kuketzblog Google bewertet die Links ja auch, Reihenfolge und so weiter. Plus noch dazu Werbung. Das gibt es bei KI (noch?) nicht.
Ch M[ae][iy]e?r 🇪🇺 🖤 🤍Ich würde sagen:
Eine "KI" liefert zwar eine "eine glatte, fertige Antwort", aber auch eine KI "denkt nicht für dich" (weil sie das nämlich gar nicht tun KANN). ...
Es ist lediglich das (gelogene) Werbeversprechen, und auch die allgemeine öffentliche Wahrnehmung (vor allem in Politik und Medien).
Daher teile ich die Schlussfolgerung von @kuketzblog auch vollständig.
Unser Job wird es sein, diese prinzipielle "Denkunfähigkeit" von "KI" (ja, und natürlich auch "Google" & Co.) zur allgemeinen Wissensbasis zu machen.
Immerhin gibt es auf #InfSchule jetzt auch eine schöne Lernstrecke dazu:
https://inf-schule.de/ki/menueansicht/ki_erkunden/papagei/lernstrecke
Andreas K@chbmeyer @johleut @kuketzblog Wobei ich persönlich perplexity in deep search mode mittlerweile ganz gerne als Suchmaschinen Ersatz verwende: Es liefert die "Quellen" (aka Links), und eine Zusammenfassung, die in > 90 % der Fälle sogar plausibel ist.
(Und ich sehe die doofen LLM in diesem Kontext einfach als geniale "Natural Text processing algorithms", wer mal klassische NLP gemacht hat, weiß zu schätzen, und das liefert bei weitem auch nicht immer richtige Resultate)
Aufpassen muss man halt, dass wirklich alles was in der Zusammenfassung steht, auch wirklich durch die Quellen belegt ist. Perplexity in Deep Search mode kann durch den iterativen Ansatz nämlich sehr wohl zu offensichtlichen Schlussfolgerungen kommen, wie "a" ist ein Beispiel für Klasse "A", selbst wenn es in den Quellen nur sehr indirekt erwähnt wird.
Ich gestehe ich habe mir es noch nicht angeschaut im Detail wie Perplexity Deep Search implementiert (aber es ist klarerweise nicht einfach ein LLM, sondern ein Algorithmus der auch LLM verwendet).
Und da ich es noch nicht weiß, wie gesagt, verwende ich das Ding momentan als Suchassistenten, das macht er überraschend gut.
Apropos: Ich denke, die Sache mit der Werbung bei KI läft gerade so langsam an.
IIRC hat Perplexity das schon (teilweise?) integriert.
@chbmeyer Ah ja, hast du ein Beispiel?
@johleut
ich bin bei "KI" sehr sparsam mit der Nutzung. Aber es gab da mal einen @netzpolitik_feed Artikel zu Schaltung von Werbung:
https://netzpolitik.org/2024/ki-sucht-geschaeftsmodell-perplexity-will-geld-mit-werbung-verdienen/
und wenn ich jetzt suche, dann finde ich auch etwas von @heiseonline
https://www.heise.de/news/KI-Suche-Perplexity-integriert-native-Anzeigen-9673736.html,
und auch von #Perplexity selbst:
https://www.perplexity.ai/de/hub/blog/why-we-re-experimenting-with-advertising
Ein neues Kapitel tut sich dann mit dem Sammeln persönlicher Daten auf, womit "KI" dann auch in der Liga des Usertrackings mitspielt:
https://www.derstandard.at/story/3000000267219/ki-start-up-perplexity-will-browser-um-mehr-daten-von-usern-zu-sammeln
KI sucht Geschäftsmodell: Perplexity will Geld mit Werbung verdienen
Die auf Machine Learning basierende Suchmaschine Perplexity führt Werbung ein, um im Wettbewerb der KI-Unternehmen mitzuhalten. Von dem Schritt sollen auch Verlagspartner wie Der Spiegel profitieren. Andere Verlage hatten Perplexity wegen Urheberrechtsverstößen verklagt.
Michael Gisiger 
Abkürzungen, also „glatte, fertige Antworten“ existieren seit eh und je, angefangen bei den (islamischen) Aristoteles-Kommentaren, Handbüchern, später dann Lexika, Google-Suchresultate, die Wikipedia etc.
Das Problem sind nicht die Werkzeuge, die uns ein Resultat liefern, denn sie ermöglichen uns, selbständig die angegebenen Quellen zu konsultieren – sogar die schlechten Google-KI-Zusammenfassungen in der Suche geben Quellen an, die ich anklicken kann.
Auch die Resultate und fertigen Antworten sind nicht per se das Problem. Im Gegenteil, ohne sie würden viele Heuristiken nicht zum Ziel führen.
Ursache des wahrgenommenen Problems ist die „Denkfaulheit“, die Bequemlichkeit von uns allen. Aber daran sind weder Google noch KI „schuld“.
Was ich kritisiere, ist, dass der Topos der angeblichen „medialen Verdummung“ regelmässig mit dem Erscheinen eines neuen Mediums in der abendländischen Diskussion auftaucht und entsprechend bewirtschaftet wird.
1/2
Natürlich verändert sich mit dem Aufkommen neuer (Medien-)Technologien immer auch das Verhältnis zu Information und Wissen. Das ist der „wahre Kern“ des Topos. Aber dieser birgt eben auch die grosse Gefahr, in einen (digitalen) Analphabetismus zu führen. Darum muss er beständig hinterfragt werden, damit die entsprechenden neuen Kompetenzen und Fähigkeiten sinnvoll aufgebaut werden können.
Verteufeln hilft hier wenig – ausser der eigenen Reichweite und bei manchen auch dem eigenen Portemonnaie.
2/2
@gisiger Wie meinst du das mit dem "dem eigenen Portemonnaie"? @kuketzblog
Na, bei manchen ist Reichweite = Geld. Jeff Jarvis nennt diese Menschen gerne „moral entrepreneurs“, die auf der Welle einer „moral panic“ reiten und davon profitieren. Haidt oder Spitzer z.B.
Nachtrag, weil ich es vorhin vergessen habe: Was ich ebenfalls kritisiere, ist die der Funktionsweise des medialen Diskurses geschuldete Überbetonung der Extrempositionen (hier die Bros, dort die Ludditen). Darauf hat bereits Hans Blumenberg (wenn ich es richtig im Kopf habe, müsste zuerst noch nachschauen; jedenfalls war es ein deutscher Technikphilosoph) hingewiesen.
Moderate Stimmen und Positionen werden ausgeblendet, zuweilen aktiv unterdrückt. Auch hier im Fediverse.
@gisiger Ich erlebe die Debatte, an unserer Schule und auch sonst, nicht so schwarz weiss. @kuketzblog
Giliell@kuketzblog Früher haben wir in der Schule gesagt: Wikipedia ist keine Quelle.
Heute bin ich froh, wenn sie den Weg dorthin überhaupt finden.
Dennoch gibt es sehr sinnvolle Einsätze von KI. Eine einfache Frage stellen ist es nicht.
Heute bin ich froh, wenn sie den Weg dorthin überhaupt finden.
Dennoch gibt es sehr sinnvolle Einsätze von KI. Eine einfache Frage stellen ist es nicht.
Flexi Bell 
@kuketzblog Und oft genug ist diese fertige Antwort noch dazu schlicht flacsh.
pixelschubsi@flexi @kuketzblog Hatte letztens diese Frage zur Mülltrennung und mich total darüber aufgeregt, dass Google jetzt auch AI bullshit in ihre Suchergebnisse packt.
Interessant aber auch der Satzbau in der ersten Antwort, bin ja kein Grammatik-Experte, aber es klingt irgendwie falsch.
@pixelschubsi @kuketzblog Ach, diese Schmerzen.
plumps@kuketzblog Naja, Bälle flach halten. @johleut hat Recht, außerdem ist man da genauso Produkt, solange man mit seinen Daten zahlt. Medienkompetenz ist hier genau der gleiche richtige Ansatz um damit um zu gehen, wie mit einer (KI) Suchmaschine.
@kuketzblog Wenn ChatGTP sich aus dem speist, was im Netz steht, wo auch die "Die Erde ist eine Scheibe"- Fraktion, Klimaleugner*innen, AKW-Fans, Weidels etc unterwegs sind, dann aber mal gute Nacht.
Und angesichts der Wasserprobleme weltweit: Koennen wir uns so etwas ueberhaupt leisten? Ki fuer Medizin etc. : ja, aber einfach nur fuer "bequem"??
Und angesichts der Wasserprobleme weltweit: Koennen wir uns so etwas ueberhaupt leisten? Ki fuer Medizin etc. : ja, aber einfach nur fuer "bequem"??
@IreneMoews @kuketzblog Die Welt IST eine Scheibe! (Deshalb heißt sie ja #Scheibenwelt .) Sie liegt auf den Rücken von 4 Elefanten, die auf dem Rücken der Schildkröte Groß-A’Tuin stehen. #TerryPratchett
@Cronopio @kuketzblog 😂 👍 Das mit den Elefanten und Schildkröten dürfte denen neu sein. Sieh mal zu, dass die das auch mitbekommen. Dh. wenn die überhaupt wissen, was Elefanten und Schildkröten sind. 😜 🙈
Peter 
🦕@kuketzblog Mir ist bei verschiedenen Sprachmodellen aufgefallen, dass sie im Falle eines Einwands nie auf ihrer Darstellung beharren (bis auf einmal, als nach dem letzten Konklave insistiert wurde, Franziskus sei noch Papst). Statt dessen schwenken sie ein und schleimen. Z.B. "Tiefsinnig" für Offensichtliches und dergl.
Als selten genutztes Spielzeug und zur Übersicht, ob eins selbst etwas Naheliegendes übersehen hat, ganz nett. Erfüllt meine Erwartungen an eine Intelligenz noch lange nicht.
Als selten genutztes Spielzeug und zur Übersicht, ob eins selbst etwas Naheliegendes übersehen hat, ganz nett. Erfüllt meine Erwartungen an eine Intelligenz noch lange nicht.
komaspieler@kuketzblog genau die Diskussion hatte ich gestern auch. Unterm Strich: die hatten wir schonmal, als plötzlich alle anfingen, "Wikipedia" als Quellenangabe zu verwenden.
Mit dem Unterschied, dass KI den Inhalt nun automatisiert aufbereitet und noch weniger Faktenbasis anbietet als ein lektorierter Wikipedia-Artikel.
"KI-Suchmaschinen" sind ein echter Rückschritt in Sachen Medienkompetenz.
elbast@kuketzblog
Und deshalb mein #Dilemma:
Mein erster Gedanke als äußerst datenschutzbewusster Mensch:
Pass auf, dass deine Daten nicht in einer KI landen. #DontFeedTheAi
Aber, wenn sich alle kritischen, schlauen, datenschutzbewussten Menschen zurückhalten, wer füttert denn dann die KI und prägt deren Ausrichtung, welche wiederum besonderen Einfluss auf viele Menschen hat.. .. eine Abwärtsspirale ....
#WhoFeedsTheAI
Jörg Iffländer@elbast @kuketzblog die Quelle Internet ist wegen Fake-Inhalt das Problem. Wer füttert die KI? M.E. kann eine KI nur mit veröffentlichen Wissen gefüttert werden, das einer Mindest-Kontrolle unterworfen ist. Das sind Bücher (print und E) und journalistische Inhalte. Blöd nur (für die Modell Trainierenden), dass das Geld kostet. Dann doch lieber Internet mit einem vorhandenen Müllfaktor. Nicht die Technik hinter einem Modell ist das Problem, sondern die Fütterer.
Stew@elbast
Deshalb bin ich auch ein Verfechter davon, dass wir die KI Modelle lieber in der EU regulieren sollten, anstelle den Weg der USA zu gehen und Big Tech einfach ohne wenn und aber ihre Modelle trainieren zu lassen.
@kuketzblog
Habe vorgestern das erste Mal eine "KI" (Gemini) genutzt, weil mir die Suchergebnisse nicht weiter geholfen haben.
Im Nachhinein hätte ich das auch selber lösen können, wenn die Lokalisierung von audacity night so schlecht wäre. Hätte ich gleich auf Englisch gestellt, hätte ich kein Problem gehabt.
Habe vorgestern das erste Mal eine "KI" (Gemini) genutzt, weil mir die Suchergebnisse nicht weiter geholfen haben.
Im Nachhinein hätte ich das auch selber lösen können, wenn die Lokalisierung von audacity night so schlecht wäre. Hätte ich gleich auf Englisch gestellt, hätte ich kein Problem gehabt.
KachelkaiserDann vielleicht mithelfen die Übersetzung zu verbessern, damit anderen nicht genauso passiert?
https://support.audacityteam.org/community/contributing/translating
ThomasDie Entropie der Intelligenz!
Der Anreiz den Denkkasten zu benutzen bestimmt zugleich die Größe des Verstandes. Kein Anreiz, die Entropie schlägt zu, der geringste energetische Zustand wird angestrebt, wir verblöden…
Helix 
@kuketzblog
Bei vielen Leuten sind die Ergebnisse von LLMs aber deutlich besser als alles was sie selbst erdenken könnten.
Bei vielen Leuten sind die Ergebnisse von LLMs aber deutlich besser als alles was sie selbst erdenken könnten.
Boerps ☑️@kuketzblog
Und die Antwort muss nicht mal richtig sein. KI erfindet wild.
Und die Antwort muss nicht mal richtig sein. KI erfindet wild.
ip6li 🚴🏻 🐧 🇩🇪@kuketzblog Zum Kundenabwimmeln bei den Service-Hotlines eignet sich KI hervorragend.
AGF : poemproducer@ip6li @kuketzblog de-skilling
ja, vor allem ist das dann auch ein schöner gesellschaftlicher Trend. Man braucht nicht mehr 90 Minuten lang in der Warteschleife zu hängen, man kann sich den Anruf dann auch gleich sparen,weil man weiß, dass dank "KI" zwar alle rechtlichen Kundenservice-Vorgaben eingehalten werden, man als Kunde aber ohnehin nicht geholfen bekommt. ...
👍
@chbmeyer @kuketzblog Das wäre vielleicht noch eine Marktlücke: Ein KI Service-Hotline-Anrufagent, der folgende Funktionen wahrnimmt:
(1) Prompt für Aufnahme des Problems.
(2) Ruft bei der Hotline an, wartet geduldig in der Warteschleife bis jemand dran geht.
(3) Stellt das Problem der Call-Center KI dar.
(4) Eskaliert so lange, bis man zu einem richtigen Mitarbeiter durchgestellt wird.
(5) Informiert Kunden, dass jetzt ein Mitarbeiter dran ist und ein Gespräch zwischen Menschen stattfindet.
(1) Prompt für Aufnahme des Problems.
(2) Ruft bei der Hotline an, wartet geduldig in der Warteschleife bis jemand dran geht.
(3) Stellt das Problem der Call-Center KI dar.
(4) Eskaliert so lange, bis man zu einem richtigen Mitarbeiter durchgestellt wird.
(5) Informiert Kunden, dass jetzt ein Mitarbeiter dran ist und ein Gespräch zwischen Menschen stattfindet.
@ip6li @kuketzblog
Das könnte mir tatsächlich gefallen. 👍
Ich bin mir nur nicht sicher, ob dieses Vorgehen irgendwie schneller geht, als in klassischen Callcentern mit Wartemusik. 🙄
In Punkto Aufwand, Sinnfreiheit, Energie- und Wasserbedarf ist es jedenfalls eine neue Evolutionsstufe.
@chbmeyer @kuketzblog Schneller nicht, man muss aber nicht selbst die ganze Zeit am Telefon hängen.
Hiker@kuketzblog Es läuft ja schon eine ganze Weile so: Eine ständig vortschreitende Entmündigung und Verdummung (auch Abzockerei) wird uns immer als noch mehr "Bequemlichkeit" und "Sicherheit" verkauft.
Enrico "meldrian" Michaelis@kuketzblog bin jetzt nicht vom Fach aber der Schritt von "sich alles stumpf zusammengooglen" hin zu "sich alles von der KI durchbügeln lassen" scheint mir jetzt nicht übermäßig groß.
@meldrian Bei Google musstest du noch selber die Sätze formulieren, die KI macht auch da. @kuketzblog
@hiker
Egal was "neu" aufgetreten ist i.d. Vergangenheit, es gab immer Stimmen die meinten "dadurch geht x verloren!".
Ja.
Leute die viel mit dem Taschenrechner machen lernen weniger Kopfrechnen
Leute die viel mit Navi fahren können weniger gut selbst navigieren
Leute die viel Fertignahrung kaufen lernen nicht kochen
Leute die alles googlen verlieren die Fähigkeit sich Dinge zu merken
Leute die Filme sehen statt ein Buch zu lesen verlieren ihre Fantasie
Die Liste ist eine ganze Menschheitsgeschichte lang und das ist nur eine kurze Liste von (spontan in den Sinn gekommenen) Beispielen.
Und ja, jetzt ist da mit KI etwas, dass auf der anderen Seite ebenfalls Nachteile mit sich bringen wird.
Ist, wie aufgezeigt, nichts Neues.
Wir werden uns anpassen.
Sehe es halb so wild.
@kuketzblog
@meldrian
Ob wir nicht auch da irgend wann mal an Grenzen stossen oder bereits gestossen sind?
Aber ok, Dummheit kann man offenbar bis ins unendliche steigern... @kuketzblog
Ob wir nicht auch da irgend wann mal an Grenzen stossen oder bereits gestossen sind?
Aber ok, Dummheit kann man offenbar bis ins unendliche steigern... @kuketzblog
BSM (sw.s) 🇨🇭*ironieon*
Das Übel hat mit dem Buchdruck begonnen, so niemand mehr zuhören musste und deshalb die ganze Menschheit zugrunde ging.
*ironieoff*
Ԏєηυкι, 手抜き🚀🐧♏ 🔭 ⚫⚪@bsm @hiker @kuketzblog @meldrian wahrscheinlich noch früher. Mit Kalendartafeln aus Babylon oder der alten Maya (Weltuntergang nach Ablauf) . Oder Zahnräder der Antiquitera 200 v Chr , als die Planetenpositionen genauer abgebildet wurden. Priester verboten die ersten Rechentafeln mit den neuen arabischen Ziffern - Alles Teufelszeug.
@enigma
"Oh Nein! Die Leute haben angefangen Landwirtschaft zu betreiben und in Behausungen sesshaft zu werden!
Sie werden das Jagen und Sammeln verlernen!"
... so! 😅
Hätte auch noch irgendwas von wegen Felle und Pelze von Tieren als Kleidung tragen und dadurch die eigene wärmende Behaarung einbüßen, bin aber gerade zu faul das entsprechend zu formulieren.
@meldrian @bsm @hiker @kuketzblog mein Favorit ist die erste Personen-Eisenbahn im deutschen Bund ca 1830 ( Nürnberg- Fürth) Beschleunigungen ab 40 km/h würden Menschen auf Dauer innerlich und äußerlich zerreißen 😁
@hiker
das mit der Dummheit ahnte schon Einstein. Zumindest dichtet man ihm eine solche Aussage an.
@kuketzblog
das mit der Dummheit ahnte schon Einstein. Zumindest dichtet man ihm eine solche Aussage an.
@kuketzblog
AngryTux"Verlernen wir das Denken?"
Wer kann noch - manuell und ohne IT-Technik - in einer gut sortierten öffentlichen Bibliothek zu einem beliebigen Thema recherchieren?
Wie macht man das?
@Hans
🤔 *so viele Bücher*, *wo soll man da bloß anfangen*, ...
(wo eine $google-Suche doch nur Bruchteile einer Sekunde dauert. ...)
@chbmeyer @kuketzblog
Was für "Google" eine Datenbank ist, ist für eine Bibliothek gut sortierte Karteikästen...
* Wichtig: In vielen Sachbüchern befindet sich hinten im Anhang Stichwortverzeichnisse und Quellenempfehlungen...
* Ja: Das macht Mühe.
Aber: Man lernt unheimlich gut!
* Das schöne: Es funktioniert sogar auch ohne Elektrizität (zumindest tagsüber...).
* Spaßfaktor: Unbedingt!
Schimmelreiter@chbmeyer @Hans @kuketzblog Als ich früher noch im Buchlexikon was nachschlagen wollte bin ich dabei immer auch auf andere interessante Artikel gestoßen, die aber Nix mit der Recherche zu tun hatten. Haben aber meinen Horizont erweitert. Bei Wikipedia passiert das nicht.
@Schimmelreiter @chbmeyer @kuketzblog
Hauke Haien: Du hast vollkommen recht.
Pass gut auf die Deiche auf.
Dabei fällt mir ein: Muss mal wieder nach Gut Hanerau. Deinen geistigen Schöpfer auf der Parkbank besuchen:
https://commons.wikimedia.org/wiki/File:Hanerau-Hademarschen_Erinnerung_an_Theodor_Storm.jpg
Lasse Gismo - 🇮🇱🇺🇦🇸🇩"'#KI" reiht sich da wunderbar in die Liste der menschlichen Bequemlichkeits-Erfindungen ein. Nur, dass es da jetzt eben ums Denken selbst geht. ...
Weben - autom. Webstuhl mit prekären Arbeitsverhältnissen
Laufen / reiten - Auto fahren mit versiegelten Flächen und Smog
Kochen - Convenience-Food mit Giften
Jedenfalls ein ideales Machtinstrument für das digitale Mittelalter (IMO ist es tatsächlich noch weitreichender als "digitaler Kolonialismus")