RE: https://mastodon.social/@AwetTesfaiesus/116340595836143259
Ein Mal das Gerechtigkeitsempfinden aller billig und gerecht denkenden Nerds getestet.
Ich denke, das empfinden steht nicht unbedingt im Einklang mit geltenden Recht. Ich würde auch sagen, die Büchse der Pandora ist sehr weit offen.
Die Frage ist: was folgt nun daraus?
(Bitte gern bevorzugt gewaltfrei aber radikale Ideen)
@brewbart @energisch_ @SebastianGallehr @AwetTesfaiesus
Das wird auch die Bereitschaft erhöhen, sozial verantwortlicher #Algoritmen zu entwickeln und die #KI #Bot #ChatBot selbst 'erwachsener', verantwortlicher zu gestalten, mit nicht weniger, sondern mehr #Daten
#Datenschutz war mal. regulieren, filtern, #demokratisieren kann man aber, indem die #LLM nicht nur Persönlichkeitsrechte, sondern auch #Persönlichkeit bekommt (Anführungszeichen), wir brauchen die GUTE KI
In-context knowledge editing (IKE) enables efficient modification of large language model (LLM) outputs without parameter changes and at zero-cost. However, it can be misused to manipulate responses opaquely, e.g., insert misinformation or offensive content. Such malicious interventions could be incorporated into high-level wrapped APIs where the final input prompt is not shown to end-users. To address this issue, we investigate the detection and reversal of IKE-edits. First, we demonstrate that IKE-edits can be detected with high accuracy (F1 > 80\%) using only the top-10 output probabilities of the next token, even in a black-box setting, e.g. proprietary LLMs with limited output information. Further, we introduce the novel task of reversing IKE-edits using specially tuned reversal tokens. We explore using both continuous and discrete reversal tokens, achieving over 80\% accuracy in recovering original, unedited outputs across multiple LLMs. Our continuous reversal tokens prove particularly effective, with minimal impact on unedited prompts. Through analysis of output distributions, attention patterns, and token rankings, we provide insights into IKE's effects on LLMs and how reversal tokens mitigate them. This work represents a significant step towards enhancing LLM resilience against potential misuse of in-context editing, improving their transparency and trustworthiness.
@AwetTesfaiesus Datenschutz ist wichtig, aber heutzutage auch extrem schwierig.
Das anerkennend dürfen wir ihn nicht aufgeben, aber wir müssen auch verstärkt die Folgen seiner Verletzung minimieren.
@AwetTesfaiesus Prinzipiell speichere ich möglichst gar keine Kontaktdaten was regelmäßig zu Erstaunen führt, wenn Personen mir Jahre später erneut ihre Adresse geben müssen.
Damit ist für mich auch die Frage beantwortet: ohne Einverständnis zur Datenverarbeitung darf ich keine persönlichen Daten weitergeben. An keine EDV und an keine andere Person.
@AwetTesfaiesus Die Begründung "ist öffentlich einsehbar" halte ich nicht für stichhaltig, denn damit würden auch Porno-Deepfakes mit im Netz auffindbaren Fotos legalisiert.
Die DSGVO gibt das vor: Datensparsamkeit und Nutzung nur mit Einwilligung zu bestimmten Zwecken sowie Löschung auf Verlangen.
@AwetTesfaiesus
Rückkehr zur Rechtsstaatlichkeit 😉.
Klar scheint mir, DSGVO deckt das ab (bringt moralisches Empfinden und Recht in Einklang), und zwar auf Seite von OpenAI. ChatGPT muss prüfen, ob das möglicherweise personenbezogene Daten sind (bei diesem Namen z.B. gar kein Problem) und die Verarbeitung verweigern ( "... um die geetzl. Grundlage zu prüfen, treten Sie bitte in Kontakt mit unserem legal support team" ). Das klingt nur deshalb absurd für manche Leute, weil sich schon alle daran gewöhnt haben, dass sich Techoligopole nicht in gleichem Maße wie wir an Gesetze halten müssen, wenn es das Businessmodell beeinträchtigen könnte.
@AwetTesfaiesus was ich mir wünsche, wäre eine strenge Interpretation der DSGVO, daß Trainingsdaten *gesichert* von persönlichen Information frei sein müssen. Wenn das nicht machbar ist, gibt's halt die Sprachmodelle nicht, Punkt. Es gibt kein Gottgegebenes Recht Auf Geschäftsmodell. Wenn eine solche Bereinigung behauptet aber nicht vollständig durchgeführt wird, persönliche Strafen für die Firmenleitung, bemessen an deren Vermögen, nicht Einkommen.
(Ja, ich habe allerlei gegen dieserlei "KI", bei dem Namen angefangen. Es wäre nicht schade drum, ganz im Gegenteil.)
(Und wo ich dabei bin, ja, auf jeden Fall diese DSGVO-Interpretation ausdehnen auf ein faktisches Verbot verhaltensbasierter Werbung, durch Wegfall von "berechtigtem Interesse". Schon als Selbstzweck, aber auch für den großen Bonus: Diese Werbungsmaschinerie ist der wichtigste Antrieb für die Radikalisierung der großen (dadurch anti-)sozialen Medien.)
Zählt Kapitalismus anzünden unter gewaltfrei?
Ich sehe nicht, daß wir rechtlich irgendwas sinnvoll tun können, vor allem auch da es großen Teilen der Politik erstaunlich egal ist, was international mit unseren Daten passiert – ob das jetzt der Umgang mit unseren Gesundheitsdaten¹ oder den Einsatz von Palantir² betrifft, Verträge mit Microsoft³ (Cloud) usw.
Da seh ich die Verarbeitung einzelner Adreßdaten durch einen Chatbot in der Priorität sehr weit unten.⁴ Wenn wir politisch was reißen wollen, dann ist das kein gutes Beispiel. Wir brauchen größere Erzählungen.
__
¹https://gi.de/meldung/epa-datenschutzrechtliche-bedenken
²https://netzpolitik.org/2025/baden-wuerttemberg-gruene-geben-polizeidaten-fuer-palantir-frei/
³https://owncloud.osb-alliance.de/apps/richdocuments/documents.php/public?fileId=&shareToken=hDU4sviaDZLzNCb
⁴wir könnten Chatbots auch gezielt mit falschen Addressdaten füttern, aber auch das heizt den Planeten weiter auf.
Der Arbeitskreis Datenschutz und Datensicherheit der Gesellschaft für Informatik e.V. sieht die aktuelle Umsetzung der elektronischen Patientenakte mit großer Sorge. Er hat klare Forderungen aufgestellt, um die informationelle Selbstbestimmung der Bürgerinnen und Bürger zu schützen.
Guy Bockamp
Awet Tesfaiesus, MdB
Sebastian Gallehr ☮️ ⁂
Brewbart
Mensch, Marina
Hans Kastell
Lars Marowsky-Brée 😷
Regine
Möhre67
Dmitri Ravinoff
Gabe
Klaus Stein