Michael Blume
Bericht in der Schwäbischen Zeitung vom Panel beim #BBF in #Friedrichshafen : „Harmlose Helferlein oder Brandbeschleuniger: Chancen und Risiken von KI“ #KI #Medienethik #Demokratie #Verschwörungsmythen #Dialog https://www.schwaebische.de/politik/harmlose-helferlein-oder-brandbeschleuniger-chancen-und-risiken-von-ki-3990616
Harmlose Helferlein oder Brandbeschleuniger: Chancen und Risiken von KI

Die Entwicklung von KI geht in einem rasanten Tempo voran. Welche Chancen und Risiken damit verbunden sind? Darüber haben Experten beim achten Bodensee Business Forum gesprochen.

Oct 11, 2025 at 9:42amWeb
Show threadRyek DarkenerOct 11, 2025

@BlumeEvolution

Meine 5 Cent:
Die Nutzung sogenannter Künstlicher Intelligenz wird ein wichtiges Standard-Werkzeug werden bei dem digital kompetenten Teil der Bevölkerung. Und ein Erfolgsfaktor. Nicht im Sinne von "denk du mal für mich", sondern "mach du den Teil der Arbeit für mich, den du effizienter kannst und schaffe mir Zeit für die kreative Erstellung qualitativ hochwertiger Ergebnisse".

Show threadMichael BlumeOct 11, 2025

@_RyekDarkener_

Genau so. 👍🤖

Wenn wir im Alltag 20 kleine, spezialisierte #OpenSource - KIen anwenden, dann behalten wir ja auch die Kontrolle.

Geben wir jedoch (wie bisher) unsere #Daten & unser #Denken an wenige oder gar 1 Super - #KonzernKI , dann werden wir kontrolliert.

Auch deswegen trete ich so stark für #FOSS & das #Fediversum ein. Jenseits der #Konzernmedien ist weniger #Neurohacking & mehr #Freiheit. Erkennt inzwischen auch der #Papst ! https://taz.de/Papst-und-Pressefreiheit/!6118951/

Papst und Pressefreiheit: Vatikan warnt vor KI und Faschismus

Leo XIV. sorgt sich um die Information. Er warnt mit Hannah Arendt vor einer totalitären Gesellschaft, die Fakt und Fiktion nicht unterscheiden kann.

TAZ Verlags- und Vertriebs GmbH
Show threadJustbeepOct 11, 2025

@BlumeEvolution
@_RyekDarkener_
KI wird maßlos überbewertet.

( Selbst wenn man #KonzernKI ignoriert.)

Für einige Nischen ist ein teuer erkaufter Nutzen vorhanden.

Ich sehe immer wieder die Ergebnisse von mach-das-für-mich-das-du-besser-kannst mit Leuten, die es besser wissen müssen und auf GenAI-Fehler hereinfallen.

Und sich dann hinterher mit Händen und Füßen dagegen wehren, ihre eigene Verantwortung dabei zu übernehmen.
("Aber #ChatGPT hat mir gesagt <...>" ... ja, dann MUSS das stimmen! Auch, wenn es das eben nicht tut! ).

Ja, es ist nicht zu stoppen, weil immer mehr Firmen ihre Mitarbeiter zum Einsatz zwingen, um mittelmäßige Ergebnisse mit weniger Personal zu bekommen ( und die höheren KI Kosten nicht einrechnen ).

Äquivalenz: 'billiger' Atomstrom.

Show threadKarstenOct 11, 2025
@Justbeep
ChatGPT ist eine KI die auf ALLES eine Antwort geben können soll.
Was übersehen wird sind die hochspezialisieren KIs, die nur mit einem konkreten Themenbereich gefüttert werden, z.B. Gesetzestexte, Medizin Forschung
Diese KIs haben weitaus bessere Antworten als ChatGPT und sogar Doktoranden. Bei Bedarf kann man sie auch so konfigurieren das sie bei z.b. „nur“ 80% Sicherheit ein „weiß nicht“ lieber ausgeben.
@BlumeEvolution @_RyekDarkener_
Show threadPflanzenrechtler:inOct 11, 2025

@alchemist @Justbeep @BlumeEvolution @_RyekDarkener_

Nun ist in emiprischen Wissenschaften eine 80%ige Sicherheit ein ziemlich flaues Ergebnis. Stelle mir gerade vor, ein Arzt würde mir sagen: mit 80% Sicherheit haben Sie ein Rezidiv Ihrer Leukämie. Vor dem Arzt flüchte ich lieber.
Vielleicht reicht das ja für Einser-Juristen, die einfach mal was ausprobieren, um zu sehen, ob sie damit bei Gericht durchkommen. Das ist kein Argument für AI.

Show threadKarstenOct 11, 2025
@freistern @Justbeep
Ja so geht es natürlich bei Lebenskritischen Dingen allen. In genau diesen Bereichen konfiguriert man die KI dann mit einer mindest Sicherheit. Ist die nicht erfüllt sagt die KI „weiß nicht“.
Aber denk mal drüber nach, der Arzt hat veraltetes Wissen aus seiner Ausbildungszeit. Die Annahme er weiß es besser als eine KI, die auf dem aktuellsten Stand der Forschungsdaten ist, ist auch wunschdenken.
@BlumeEvolution @_RyekDarkener_
Show threadRyek DarkenerOct 11, 2025

@alchemist @freistern @Justbeep @BlumeEvolution

Ich gehe davon aus, dass ein Arzt, der LLM benutzt, auch die Möglichkeit hat, seine eigenen Ergebnisse sowie aktuelles Wissen "nachzuerfassen".
Das wäre btw auch ein interessanter Businesscase für externe Provider. (Solange die nicht gematik heißen).

Show threadKarstenOct 11, 2025
@_RyekDarkener_
Du willst glaube nicht das ein Homöopathie Arzt sein „Wissen“ in KIs einpflegt die sonst auf wissenschaftlicher Forschung basieren. 😬
Das KI Startup (name leider entfallen 😕) von dem ich mal einen Talk zu so einer KI hörte schloss solche „Korruption“ konsequent aus. Nur echte Forschungsergebnisse sollen einfließen. Die KI wird stattdessen zentral ständig mit aktueller Forschung updatet.
@freistern @Justbeep @BlumeEvolution
Show threadRyek DarkenerOct 11, 2025

@alchemist @freistern @Justbeep @BlumeEvolution

Es geht nicht darum, was ich will. Sondern darum, was technisch möglich ist. Auch Schwurbler werden LLMs einsetzen.
Die Verantwortung für die Handlung liegt immer bei der Person und nicht bei einem Softwareprodukt.
Ich finde es erstaunlich, dass dass überhaupt ernsthaft zu diskutieren versucht wird.

Show threadPflanzenrechtler:inOct 11, 2025

@_RyekDarkener_
Schöne Rechnung, aber wie beurteile ich denn, was die Automatik besser kann, und welche Ansprüche müssen wir erfüllen, um die Vorgaben der AI zu kontrollieren?
Es muss eine Anforderung an die AI sein, dass sie uns auf mögliche Fehlerquellen hinweist, also exakte Quellenangaben macht. Allem Anschein nach kann sie das nicht. Es kommt also darauf an, dass ich kontrollieren kann, womit sie gefüttert ist.

@BlumeEvolution

Show threadBugsprietOct 11, 2025
@freistern @_RyekDarkener_ @BlumeEvolution Was ich im Moment mit Erschrecken beobachte: Menschen verwenden LLMs, um fehlende Fachkompetenz wettzumachen; können aber nicht erkennen, wo die KI Fehler macht.
"Guck mal, ich habe mir eine Exportkontrolle Compliance-Anleitung fürs Unternehmen über ChatGPT geschrieben, und damit 1300 Euro für die Beratung von Experten gespart."
Solche Sätze sind gruselig. Aus Neugierde habe ich mal draufgeguckt. Als Schulaufsatz hätte ich da vermerkt "Thema verfehlt. Knapp aber immer noch dran vorbei".
Show threadTripTilt /// ttOct 11, 2025
@_RyekDarkener_ @BlumeEvolution
Na hoffentlich. Aber da die modelle lieber irgendwas ausgeben als zu sagen "das weiß ich nicht" muss man ja doch nochmal alles checken um sicher zu gehen, gewinnt man da so viel an Effizenz? Oder eben man vertraut und verliert qualität wenn man die ausgaben ungeprüft übernimmt.