Aktion Freiheit statt AngstJun 24
Erpresserische KI
"Roboter sind auch nur Menschen"
Mehr dazu bei https://www.heise.de/news/Studie-Grosse-KI-Modelle-greifen-unter-Stress-auf-Erpressung-zurueck-10455051.html
a-fsa.de/d/3HN
Link zu dieser Seite: https://www.aktion-freiheitstattangst.org/de/articles/9195-20250624-erpresserische-ki.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/9195-20250624-erpresserische-ki.html
Tags: #Manipulation #Drohungen #Erpressung #Selbsterhaltung #KI #AI-Act #EU #Gefahren #Fehler #Hacker #Ethik #sensibleDaten #Studie #Sprachmodelle #Claude #Gemini #Grok #Zugriff #Hersteller #Datenpannen #Datenskandale #Transparenz #Informationsfreiheit
Dorothea Zwölfer (sie)Jun 13
KI Modell nicht sicher, kritische Sicherheitslücke bei MS Copilot, >>[...] Laut Gruss dürfte EchoLeak auch andere KI-Agenten betreffen, etwa Anthropics MCP (Model Context Protocol), das KI-Assistenten mit anderen Applikationen verknüpft, oder Agentforce von Salesforce. Auch diese Sprachmodelle könnten ähnlich manipuliert werden, um Angreifern Firmendaten zu liefern. Als Unternehmen, die jetzt KI-Agenten in ihre Systeme integrieren, wäre Gruss "beängstigt". Es handelt sich seiner Ansicht nach um ein grundlegendes Problem, vergleichbar mit den Software-Sicherheitslücken der 90er-Jahre, als Angreifer die Kontrolle über Laptops oder Handys zu erlangen versuchten.
Gruss verlangt deshalb, dass KI-Agenten komplett anders aufgebaut werden sollten. "Die Tatsache, dass Agenten vertrauenswürdige und nicht vertrauenswürdige Daten im selben 'Denkprozess' verwenden, ist der grundlegende Designfehler, der sie anfällig macht", sagte er. "Stellen Sie sich eine Person vor, die alles tut, was sie liest – sie wäre einfach zu manipulieren." KI-Agenten und Prozesse sollten mit einer klaren Trennung von vertrauenswürdigen Befehlen und [...]<< https://www.heise.de/news/Kritische-Sicherheitsluecke-in-Microsoft-365-Copilot-zeigt-Risiko-von-KI-Agenten-10441034.html
#KI #ambivalenz #Sicherheit #datenschutz #sensibledaten #itsecurity
@BlumeEvolution
@kenji
@HonkHase
Kritische Sicherheitslücke in Microsoft 365 Copilot zeigt Risiko von KI-Agenten

Der KI-Agent von M365 konnte per E-Mail und ohne Mausklick zur Freigabe sensibler Informationen verführt werden. Microsoft hat die Lücke jetzt geschlossen.

heise online
Aktion Freiheit statt AngstMay 26
KI schreibt Klageschriften
Die Wahrheit und nichts als die Wahrheit
Mehr bei https://t3n.de/news/ki-in-der-justiz-wie-sich-immer-bedenklichere-fehler-in-us-gerichte-schleichen-1688894/
a-fsa.de/d/3Hh
Link zu dieser Seite: https://www.aktion-freiheitstattangst.org/de/articles/9165-20250526-ki-schreibt-klageschriften.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/9165-20250526-ki-schreibt-klageschriften.html
Tags: #KI #AI-Act #Gefahren #Fehler #Halluzination #Klageschriften #Gutachten #Haftung #autonomesFahren #Urheberrecht #Copyright #sensibleDaten #Zugriff #Hersteller #Polizei #Verbraucherdatenschutz #Datenschutz #Datensicherheit #Datenpannen #Datenskandale #Transparenz #Informationsfreiheit
Aktion Freiheit statt AngstMay 25
Urteil: Open AI muss alles speichern
Nun wird auch Open AI immer dümmer ...
Mehr dazu bei https://steigerlegal.ch/2025/05/18/openai-nutzer-daten-nicht-mehr-loeschen/
a-fsa.de/d/3Hg
Link dieser Seite: https://www.aktion-freiheitstattangst.org/de/articles/9164-20250525-urteil-open-ai-muss-alles-speichern.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/9164-20250525-urteil-open-ai-muss-alles-speichern.html
Tags: #OpenAI #ElonMusk #KI #AI-Act #Gefahren #Fehler #NYT #Urteil #Haftung #autonomesFahren #Urheberrecht #Copyright #sensibleDaten #Zugriff #Hersteller #Polizei #Verbraucherdatenschutz #Datenschutz #Datensicherheit #Datenpannen #Datenskandale #Transparenz #Informationsfreiheit
eicker.TV ▹ TechnewsMay 11

Elon Musk baut gerade den Traum aller Hacker.

🚨 Die US-Behörde #DOGE zentralisiert #sensibleDaten aus verschiedenen Regierungsbehörden und schafft damit laut Experten ein massives #Sicherheitsrisiko.

💻 Unter der Leitung von #ElonMusk werden Sozialversicherungsnummern, Geburtsdaten und medizinische Informationen zusammengeführt, um staatliche Ausgaben zu reduzieren und Betrug aufzudecken. (1/2)

Show threadPaperLouseMay 3

@Mirabeaulacht
@ulrichkelber

"Das ist eine Debatte, die seit über einem Jahrzehnt stattfindet. Es ist ein Unding, dass hier nicht endlich die richtigen Maßnahmen ergriffen werden. Stattdessen werden immer neue Speziallösungen verwendet, die dann eben #Sicherheitslücken haben", sagte Kelber. So könne man einen Digitalisierungsprozess nicht betreiben.“

#ePA
#Gematik
#elektronischePatientenakte
#SensibleDaten
#Gesundheitsdaten

Aktion Freiheit statt AngstApr 22
Datenschutz in der EU
Verbessern oder verschlimmbessern?
Mehr dazu bei https://netzpolitik.org/2025/fuer-bessere-zusammenarbeit-gelingt-der-eu-das-nachjustieren-beim-datenschutz/
a-fsa.de/d/3GG
Link zu dieser Seite: https://www.aktion-freiheitstattangst.org/de/articles/9130-20250422-datenschutz-in-der-eu.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/9130-20250422-datenschutz-in-der-eu.html
Tags: #DSGVO #DSA #Renovierung #Verbesserung #Anpassung #USA #EU #Parlament #Irland #Big5 #Verbraucherdatenschutz #Datenschutzabkommen #SafeHarbor #PrivacyShield #DataPrivacyFramework #Datensicherheit #Piraten #MaxSchrems #Smartphone #Handy #sensibleDaten #Diskriminierung #Ungleichbehandlung
Für bessere Zusammenarbeit: Gelingt der EU das Nachjustieren beim Datenschutz?

Das große Datenschutz-Gesetz der EU soll praktikabler werden, besonders, wenn Fälle mehrere Staaten involvieren. Fast alle Beteiligten sind sich einig, dass das ein gutes Ziel ist. Die EU-Institutionen verhandeln gerade über einen Entwurf – aber der Aktivist Max Schrems ist vom aktuellem Stand entsetzt.

netzpolitik.org
ScripterApr 19
Diese 6 Dinge solltet ihr ChatGPT und anderen KI-Chatbots niemals verraten - t3n – digital pioneers t3n.de/news/6-dinge... #KI #Chatbots #ChatGPT #Gemini #Datenschutz #SensibleDaten

Diese 6 Dinge solltet ihr Chat...
Diese 6 Dinge solltet ihr ChatGPT und anderen KI-Chatbots niemals verraten - t3n – digital pioneers

Immer häufiger interagieren Menschen mit Chatbots wie ChatGPT. Dabei geben wir auch Daten und Fakten über uns preis, die die KI-Tools besser nicht wissen sollten. Welche Dinge ihr lieber geheim halten solltet. Egal, ob im Privatleben oder auf der Arbeit: KI-Tools wie ChatGPT versprechen User:innen Erleichterung bei all ihren Aufgaben. Allerdings zahlen wir dabei sogar […]

t3n Magazin
Scripter Apr 19
Diese 6 Dinge solltet ihr ChatGPT und anderen KI-Chatbots niemals verraten - t3n – digital pioneers
https://t3n.de/news/6-dinge-chatgpt-und-anderen-ki-chatbot-nie-verraten-1681948/ #KI #Chatbots #ChatGPT #Gemini #Datenschutz #SensibleDaten
Diese 6 Dinge solltet ihr ChatGPT und anderen KI-Chatbots niemals verraten - t3n – digital pioneers

Immer häufiger interagieren Menschen mit Chatbots wie ChatGPT. Dabei geben wir auch Daten und Fakten über uns preis, die die KI-Tools besser nicht wissen sollten. Welche Dinge ihr lieber geheim halten solltet. Egal, ob im Privatleben oder auf der Arbeit: KI-Tools wie ChatGPT versprechen User:innen Erleichterung bei all ihren Aufgaben. Allerdings zahlen wir dabei sogar […]

t3n Magazin
Aktion Freiheit statt AngstApr 10
Die Verwanzung Österreichs
5. Versuch für einen Bundestrojaner
Mehr dazu bei https://tkp.at/2025/04/09/bundestrojaner-datenschutzverein-warnt-vor-massengefaehrdung-und-autoritaerem-staat/
a-fsa.de/d/3Gu
Link zu dieser Seite: https://www.aktion-freiheitstattangst.org/de/articles/9118-20250410-die-verwanzung-oesterreichs.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/9118-20250410-die-verwanzung-oesterreichs.html
Tags: #Bundestrojaner #Österreich #Kickl #Urteil #VfGH #Lauschangriff #Überwachung #Datenskandale #Verbraucherdatenschutz #sensibleDaten #Persönlicheitsprofile #Ungleichbehandlung #Eingriffstiefe
Bundestrojaner: Datenschutzverein warnt vor Massengefährdung und autoritärem Staat

Die Stocker-Koalition unternimmt den insgesamt fünften Versuch einer österreichischen Regierung, einen Bundestrojaner und damit eine Massenüberwachung der Österreicher durchzusetzen.  Der österreichische Datenschutzverein epicenter.works kritisiert […]

tkp.at