Zwitschermond
wiaseBitte wiederholt alle zusammen mit mir jetzt: Generative KI ist keine Suchmaschine. KI-Modelle, die auf unkuratierten Datensätzen trainiert wurden, geben unkuratierte Antworten. Garbage in, garbage out. Wir nutzen ChatGPT und seine Freunde nicht als Recherchetool. Modelle, die trainiert wurden, natürliche Sprache zu simulieren, simulieren auch nur natürliche Sprache. ChatGPT und seine Freunde schlagen nichts irgendwo nach. ChatGPT und seine Freunde wissen nicht, was faktisch richtig oder falsch ist, weil sie weder dafür gebaut noch trainiert wurden. Generative KI ist keine Suchmaschine.
DasSanKI ist keine suchmaschine, sondern eine ausdenkmaschine. will nur irgendwie niemand wahrhaben
@[email protected] Ja naja, das Problem ist aber auch, daß zB ChatGPT zur Beantwortung von Fragen angepriesen wird und die Leute dann aber nicht bis zum Kapitel Limitationen weiterlesen. Ich weiß auch ehrlich nicht, warum man so unbedingt will, daß die Modelle alles gleichzeitig können.
Laberpferd@wiase @translatorbunny.bsky.social
1/2
Ich kann das schon etwas verstehen
"Normale" Menschen können die Funktion von einem LLM intuitiv gar nicht mehr nachvollziehen, für die fühlt sich das schon komplett so an wie ein Kollektiv von Fachleuten die jede Frage kompetent beantworten, weil die "Antworten" so wohlformuliert und (meistens) glaubwürdig klingen
Damit wird schleichend das Weltbild geformt, was für die Menschen für Real halten und als Wissen verinnerlichen
@wiase @translatorbunny.bsky.social
2/2
Passend dazu
https://sueden.social/@[email protected]cial/112488165445563736
https://www.spiegel.de/netzwelt/web/medienkooperation-chatgpt-und-rupert-murdochs-news-corp-schliessen-deal-a-384a52e5-f5fb-44d7-b493-ebb25e191e1b
"unsere" Elite hat sehr genau begriffen wie das läuft und geben den LLMs den passenden Zugriff für Trainingsdaten, daß das "Wissen" der LLMs genau das wiedergibt was die Superreichen und ihre Finanzmärkte gerne als Weltbild etablieren möchten
Btw: ist dieser Text über die Brücke auf Bluesky lesbar?
Marina Weisband (@[email protected])
Oh hey, nichts schlimmes kann daraus erwachsen, dass KI explizit auf Zeitungen trainiert wird, die dafür da sind, die Interessen von Reichen zu schützen.... https://www.spiegel.de/netzwelt/web/medienkooperation-chatgpt-und-rupert-murdochs-news-corp-schliessen-deal-a-384a52e5-f5fb-44d7-b493-ebb25e191e1b?sara_ref=re-xx-cp-sh Aber klar, lasst uns das Zeug in jeden Aspekt unseres Lebens weben.
Pterry@wiase und ist auch nicht "i"
@Pterry Das kommt drauf an, wie man Intelligenz definiert bzw den Begriff künstliche Intelligenz. Es hat sich ja schon mehr oder weniger durchgesetzt, alles was irgendwie etwas komplexere Software ist, KI zu nennen (weil Buzzword und gut, um Drittmittel abzugreifen) - was natürlich streitbar ist.
Magnus, Robot Fighter
Aglaia89 🏳️⚧️@wiase ChatGPT ist zumindest seit 4.0 bedeutend weiter als Sprache zu Simulieren.
Ich bin für die Hochschule gerade an einem Projekt, wo ich aktuell 16 Seiten an komplexen Berechnungen habe und ich ein Getriebe berechnen muss.
Und die KI bekommt das ganze ohne Probleme Berechnet. Selbst Involute bekommt die KI berechnet. Was nicht funktionieren würde, wenn es nur Sprache immitieren wäre.
@Aglaia89 Spannend! Und Du arbeitest da mit dem frei zugänglichen ChatGPT?
Cyb3rrunn3r 
⭐️@wiase Also ist das "I" in KI eine dreiste Mogelpackung. 🙂
einfachnurRoland@Cyb3rrunn3r @wiase Ich denke eher das "K". Oder glaubst du noch an eine "NI"?
danimo 🏳️🌈@wiase stimme zu; wobei explizite tasks, wie "durchsuche das Web nach Kram" (an meinerstatt) je nach prozessoptimierung schon ganz gut klappen.
@danimo Ja, wenn man dann das Ergebnis noch mal sehr kritisch betrachtet. Nach meinem Dafürhalten bin ich da immer noch schneller, wenn ich klassisch die Quellen selbst durchsuche und beurteile, als wenn ich die Zusammenfassung der Quellen factchecken muß.
AURonline 🏡@wiase als erster Ausgangspunkt taugt es aber in der Regel schon, insbesondere wenn man Probleme hat, die man nicht einfach in drei Suchbegriffe packen kann. Und mit Web-Grounding, d.h. Zugriff auf Suchergebnisse, bekommt man auch Quellen, wenn man das angibt. Das ist dann aber teilweise KI generierter Müll (also das gleiche Problem wie bei normalen Webseiten). Gefühlt ist das Problem der Halluzinationen, zumindest bei GPT-4-Modellen, auch stärker zurückgegangen.
@AUROnline Naja, oder man bekommt halt Quellen, die ganz klare Satire sind oder ein Redditshitpost, wie man jetzt in den rumgehenden Beispielen bei der GoogleAI sieht. Also, ich sage nicht mal, daß die Modelle nix taugen - im Gegenteil, ich sehe da durchaus Potenzial, aber halt eher in klar abgesteckten Aufgaben, für die sie ordentlich mit gut kuratierten Trainingsdaten trainiert wurden und eben nicht als eierlegende Wollmilchsau, die sie jetzt sein sollen.
@wiase Defintiv. Ich persönlich sehe durchaus viele Chancen bei LLMs (und nutze sie auch aktiv), allerdings ist das auch nicht mein erster Hype-Zyklus und sehe da noch einen mächtigen Absturz kommen, bevor es realistisch eingesetzt wird.
Google fällt mit den Beispielen auch sehr negativ auf - solche Ausfälle habe ich bei meinen Interaktionen mit GPT-4 basierten Chabots bisher nicht gesehen (ich nutze ChatGPT Plus, den kostenpflichtigen MS Copilot und GitHub Copilot).
Google fällt mit den Beispielen auch sehr negativ auf - solche Ausfälle habe ich bei meinen Interaktionen mit GPT-4 basierten Chabots bisher nicht gesehen (ich nutze ChatGPT Plus, den kostenpflichtigen MS Copilot und GitHub Copilot).
rAIner Agentic Quantum Rehak@wiase Lesetipp oder zum Weiterleiten:
Rehak, Rainer (2023) Zwischen Macht und Mythos. Eine kritische Einordnung aktueller KI-Narrative. In: Dossier „In Sachen KI. Zur Diskussion um eine schillernde Technologie“. Soziopolis: Gesellschaft beobachten. Hamburger Institut für Sozialforschung. https://www.soziopolis.de/zwischen-macht-und-mythos.html 😁
chukk_beslowair@wiase Richtige Anmerkung, ja.
Was Suchmaschinen betrifft dürfte es ein klassisches Dilemma geben: eine kommerzielle SM hat immer auch kommerzielle Interessen, die nicht zwangsläufig mit denen der Nutzer konform sind.
Eine nicht-kommerzielle SM hat das große Problem woher Geld und Datenbasis kommen sollen.
Durch die zunehmende KI-Kontamination wird es wahrscheinlich noch exponentiell teurer SM zu betreiben.
Wie kann da eine Lösung aussehen?
Was Suchmaschinen betrifft dürfte es ein klassisches Dilemma geben: eine kommerzielle SM hat immer auch kommerzielle Interessen, die nicht zwangsläufig mit denen der Nutzer konform sind.
Eine nicht-kommerzielle SM hat das große Problem woher Geld und Datenbasis kommen sollen.
Durch die zunehmende KI-Kontamination wird es wahrscheinlich noch exponentiell teurer SM zu betreiben.
Wie kann da eine Lösung aussehen?
@chukk_beslowair Na, wennick das wüßte...
@wiase Naja, irgendeine Richtung oder so... Ohne zumindest eine Vision weiss ja niemand wohin.
@wiase Eines dürfte bestimmt klar sein: das wird wohl ein weltweites Jahrhundertprojekt, denn das Problem der Verschlechterung der Suchmöglichkeit wird jeden Tag ohne Lösung etwas größer.
Dagegen war Herkules Arbeit in den Ställen des Augias eine Kaffeefahrt.
Dagegen war Herkules Arbeit in den Ställen des Augias eine Kaffeefahrt.
@wiase Eine Vision könnte eine Adaption von der Technologie der künstlichen DNA sein, womit die Bahn versucht Kupferdiebe zu ermitteln.
Damit also immer klar ist wenn irgendwo KI-Arbeit dabei ist und welche KI es war.
Die Frage ist wie man das zwangsmäßig implementiert und ob es überhaupt möglich ist.
Damit also immer klar ist wenn irgendwo KI-Arbeit dabei ist und welche KI es war.
Die Frage ist wie man das zwangsmäßig implementiert und ob es überhaupt möglich ist.
Sunny2 | 🖤🕯#Natenom🚴🏻🐘@wiase
Oder einfach ausgedrückt: Wer im Müll wühlt, findet Müll.
Der kann brauchbar oder unbrauchbar sein ...
#KI #ChatGPT #KITraining
Oder einfach ausgedrückt: Wer im Müll wühlt, findet Müll.
Der kann brauchbar oder unbrauchbar sein ...
#KI #ChatGPT #KITraining