Mastodawn

Das Eigenleben einer KI
KI auf Abwegen
Mehr dazu bei https://www.heise.de/news/KI-Agent-schuerft-heimlich-Kryptowaehrung-waehrend-des-Trainings-11204420.html
a-fsa.de/d/3Nu
Link zu dieser Seite: https://www.a-fsa.de/de/articles/9464-20260310-das-eigenleben-einer-ki.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/9464-20260310-das-eigenleben-einer-ki.html
Tags: #KI #AI-Act #Alibaba #China #Gefahren #Fehler #Eigenleben #ROME #Claw #Hacker #Ethik #sensibleDaten #Zugriff #Hersteller #Zukunft #OpenSource #CryptoMining #SSH #Verbraucherdatenschutz #Datenschutz #Datensicherheit #AIAgentIndex2025 #Datenpannen #Datenskandale #Energieverschwendung #Moltbook

Aktion Freiheit statt Angst Dec 24

Wie umgehen mit "künstlicher Intelligenz"?
Erste Ideen zu einem Allerweltsthema
Mehr https://www.aktion-freiheitstattangst.org/cgi-bin/searchartl.pl?suche=AI+KI&sel=meta
Stellungnahme https://www.a-fsa.de/images/docs/202511Ablehnung-KI-Artikel.pdf
a-fsa.de/d/3M6
Link zu dieser Seite: https://www.a-fsa.de/de/articles/9385-20251223-wie-umgehen-mit-kuenstlicher-intelligenz.html
Tags: #KI #AI-Act #EU #Gefahren #Fehler #Kritik #Ethik #sensibleDaten #Zugriff #Hersteller #Arbeitsbedingungen #Arbeitplatzvernichtung #Bilder #Texte #Zukunft #Big5 #GAFAM #Verbraucherdatenschutz #datenschütz #Datenpannen #Datenskandale #Transparenz #Informationsfreiheit #Stellungnahme

teufelswerk Nov 4

Es ist nicht neu, dass Doctolib in Sachen Datenschutz eine Katastrophe ist. Jetzt will das Unternehmen eine neue Praxissoftware mit KI-Unterstützung in Deutschland etablieren. Drei speziell entwickelte KI-Assistenten übernehmen dabei Routineaufgaben, z.B.: Ein Telefonassistent, der Anrufe rund um die Uhr entgegenimmt und Terminbuchungen direkt in das System von Doctolib schreibt. Ein KI‑Sprechstundenassistent, der Behandlungsgespräche mit Patienten in Echtzeit dokumentiert, Zusammenfassungen strukturiert und Notizen erstellt usw.
Einem Arzt oder einer Ärztin, der/die diese Software einsetzt, würde ich nicht einen Millimeter über den Weg trauen.

https://www.heise.de/news/Doctolib-startet-Praxissoftware-mit-KI-Unterstuetzung-11039058.html

#praxissoftware #doctolib #ki #ai #kiassistent #datenschutz #arzt #aerzte #sensibledaten #patienten

Doctolib startet Praxissoftware mit KI-Unterstützung

Doctolib will den Markt der Praxisverwaltungssysteme in Deutschland erobern. Helfen sollen drei KI-Assistenten.

heise online

sandermann™Oct 23

Generative KI ist nützlich. Aber natürlich möchte ich nicht Dokumente mit privaten Inhalten bei OpenAI oder Google wissen.
Um mir z. B. Dokumente von Ärzten oder Krankenhäusern zusammenfassen bzw. auswerten zu lassen benutze ich einfach Ollama im Flugmodus mit einem lokalen LLM. So verlassen sensible Daten nicht meinen Rechner.

#ollama #generativeai #befunde #krankenakte #sensibleDaten #privateDaten

Berliner.in 💞 Berlin Tech Oct 6

#Signal droht mit #Rückzug aus #Europa, falls die #EU die #Chatkontrolle einführt, die die #EndezuEnde-#Verschlüsselung untergraben. Die EU diskutiert ein Gesetz zur Bekämpfung von Kinderpornografie, das #Hintertüren in Messengern fordert. Signal-Chefin #MeredithWhittaker lehnt dies ab und warnt außerdem vor den Gefahren von #KIAgenten, die Zugriff auf #sensibleDaten benötigen. https://www.heise.de/news/Chefin-der-Signal-App-droht-mit-Rueckzug-aus-Europa-10688792.html?Berliner.in #Berlin #Tech #Technews

WhatsApp-Konkurrent Signal droht mit Rückzug aus Europa

Signal gilt als einer der sichersten Messenger. Die App könnte aber in Europa vom Markt verschwinden, falls sich die Chatkontrolle in der EU durchsetzt.

heise online

Aktion Freiheit statt Angst Aug 10, 2025

Was Standortdaten verraten
Das muss nicht Jede/r wissen
Mehr dazu bei https://netzpolitik.org/2025/databroker-files-outing-durch-standortdaten/
a-fsa.de/d/3JD
Link zu dieser Seite: https://www.aktion-freiheitstattangst.org/de/articles/9244-20250809-was-standortdaten-verraten.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/9244-20250809-was-standortdaten-verraten.html
Tags: #Standortdaten #Handy #Smartphone #Werbeindustrie #Verkauf #Handel #Bewegungsprofile #Gewohnheiten #sensibleDaten #Sexualität #Verbraucherdatenschutz #Datenschutz #Datensicherheit #Unschuldsvermutung #Verhaltensänderung #Persönlichkeitsrecht #Privatsphäre

Aktion Freiheit statt Angst Jun 24, 2025

Erpresserische KI
"Roboter sind auch nur Menschen"
Mehr dazu bei https://www.heise.de/news/Studie-Grosse-KI-Modelle-greifen-unter-Stress-auf-Erpressung-zurueck-10455051.html
a-fsa.de/d/3HN
Link zu dieser Seite: https://www.aktion-freiheitstattangst.org/de/articles/9195-20250624-erpresserische-ki.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/9195-20250624-erpresserische-ki.html
Tags: #Manipulation #Drohungen #Erpressung #Selbsterhaltung #KI #AI-Act #EU #Gefahren #Fehler #Hacker #Ethik #sensibleDaten #Studie #Sprachmodelle #Claude #Gemini #Grok #Zugriff #Hersteller #Datenpannen #Datenskandale #Transparenz #Informationsfreiheit

Dorothea Zwölfer (sie)Jun 13, 2025

KI Modell nicht sicher, kritische Sicherheitslücke bei MS Copilot, >>[...] Laut Gruss dürfte EchoLeak auch andere KI-Agenten betreffen, etwa Anthropics MCP (Model Context Protocol), das KI-Assistenten mit anderen Applikationen verknüpft, oder Agentforce von Salesforce. Auch diese Sprachmodelle könnten ähnlich manipuliert werden, um Angreifern Firmendaten zu liefern. Als Unternehmen, die jetzt KI-Agenten in ihre Systeme integrieren, wäre Gruss "beängstigt". Es handelt sich seiner Ansicht nach um ein grundlegendes Problem, vergleichbar mit den Software-Sicherheitslücken der 90er-Jahre, als Angreifer die Kontrolle über Laptops oder Handys zu erlangen versuchten.
Gruss verlangt deshalb, dass KI-Agenten komplett anders aufgebaut werden sollten. "Die Tatsache, dass Agenten vertrauenswürdige und nicht vertrauenswürdige Daten im selben 'Denkprozess' verwenden, ist der grundlegende Designfehler, der sie anfällig macht", sagte er. "Stellen Sie sich eine Person vor, die alles tut, was sie liest – sie wäre einfach zu manipulieren." KI-Agenten und Prozesse sollten mit einer klaren Trennung von vertrauenswürdigen Befehlen und [...]<< https://www.heise.de/news/Kritische-Sicherheitsluecke-in-Microsoft-365-Copilot-zeigt-Risiko-von-KI-Agenten-10441034.html
#KI #ambivalenz #Sicherheit #datenschutz #sensibledaten #itsecurity
@BlumeEvolution
@kenji
@HonkHase

Kritische Sicherheitslücke in Microsoft 365 Copilot zeigt Risiko von KI-Agenten

Der KI-Agent von M365 konnte per E-Mail und ohne Mausklick zur Freigabe sensibler Informationen verführt werden. Microsoft hat die Lücke jetzt geschlossen.

heise online

Aktion Freiheit statt Angst May 26, 2025