publictorstenDie politische Debatte um Social-Media-Verbote für Jugendlichen ist mir allzu flach. Ich habe mal aufgezählt, welche Probleme man lösen sollte, bevor man ein Gesetz verabschiedet. Punkt 1: Magische Techniken gibt es nicht, auch nicht mit KI.
Zwar werden KI-Dienste wie Yoti von staatlichen Jugendschützern hochgelobt, doch sie haben einen Haken: Man muss wie 23 aussehen, dass man als volljährig akzeptiert wird. Die KJM hat diesen Puffer von 5 Jahren zur Pflicht gemacht.
Doch die neuen Social-Media-Banns sollen nicht unter 18 Jahren einsetzen, sondern ein paar Jahre früher. Doch wer von euch könnte einen berechtigten 15-Jährigen ganz sicher von einem gesetzlich zu unreifen 14-Jährigen unterscheiden? Und das kann die KI natürlich auch nicht. Und dann? Wie sollen sich Jugendliche ausweisen? Dazu herrscht großes Schweigen.
MarkusWas auch gern vergessen wird: Jugendschutz betrifft Erwachsene. Die politische Stimmung dürfte sich deutlich drehen, wenn klar wird, dass sich jeder Erwachsene auf Facebook mit Ausweis oder Selfiekamera identifizieren müsste. Und das auf x verschiedenen Seiten. Vielleicht sogar bei Messengern? Denn da findet heute vieles statt, vor dem man ausgeblich Kinder schützen will.
Punkt 4: Es ist keine Frage, ob Daten leaken werden, sondern wann. Es geht hier nicht nur um die klassischen Leaks, wo Kundendatenbanken geknackt werden. Eine Altersüberprüfung klappt nur realistisch mit Accounts. Und Accounts kann man verknüpfen. Sowohl die Werbeindustrie tut das als auch staatliche Überwachung per Palantir.
Punkt 5: Wer Kinder von sozialen Medien ausschließt, senkt auch das Schutzniveau auf diesen Plattformen. Schon vor Jahren hat Google dem deutschen Gesetzgeber eine Nase gedreht und YouTube als ›ab 18‹ ausgewiesen. Damit blieb es an den Eltern hängen, entweder alle Videos freizugeben oder keins. https://www.youtube.com/age-de.xml?gl=DE
Dass man all diese Punkte als Realität akzeptiert, erachte ich als Miminum für eine informierte Debatte.
Die Bundesregierung will nun eine Expertenkommission einberufen. Ich bin gespannt, ob die Teilnehmer das auch so sehen.
Immerhin: Meine Kollegen hören mir zu.
Aber mal im Ernst: Wenn Politiker dutzendweise fundamentale Eingriffe in die Meinungsfreiheit von Millionen junger Menschen planen, sollten Journalisten sofort nachfragen, was nun eigentlich gemeint ist.
Gute Übersicht über die vielen unterschiedlichen und teilweise widerstreitenden Gesetze und Gesetzesvorstöße innerhalb und außerhalb der EU.
Die Analyse des wissenschaftlichen Dienstes lese ich nicht ganz so ablehnend wie Netzpolitik. Ja, es gibt Hürden, aber die EU-Kommission ist doch sehr offen dafür, den Mitgliedsstaaten darüber zu helfen.
https://netzpolitik.org/2025/viele-huerden-duestere-aussichten-fuer-deutsches-social-media-verbot/
lobingera@publictorsten den Giftmüll-Vergleich werde ich mal einrahmen
Marco@publictorsten Experten dafür wie man Userdaten monetisiert? 🤣
Im Ernst: Jedesmal wenn ich mir überlege wie man das ganze lösen könnte lande ich bei einer zentralen, digitalen ID. Es ist immer noch ein kleinen bisschen besser wenn eine Behörde meine kritischen Daten hat (haben sie ja eh schon), als irgendwo einen Perso hochzuladen... Oder?
@madeingermany Wir haben eine solche ID bisher aus guten Gründen nicht. Es gab zum Beispiel mal den Vorschlag, dass Eltern die Geburtsurkunden ihrer Kinder hochladen müssten. Klingt nicht toll.
@publictorsten ich stimme zu, dass es gute Gründe gegen eine digitale ID gibt, aber weiß von keiner besseren Alternative...
@madeingermany Zunächst bräuchte man dazu eine Debatte mit einem politischen Beschluss, dass man tatsächlich eine solche staatliche Datenbank will. Und dann bräuchte man eine Umsetzung, die das Ganze möglich macht.
@publictorsten Das wuerde ich so unterschreiben :)
Jürgen Wilhelm@madeingermany @publictorsten Wieso zentral? Es reicht doch der dezentrale digitale Perso als Bsp., der nur(!) bestätigt, dass du >18 bist. Damit setzt du ein Flag in den Account ohne jede weitere Identifikationsmerkmale bei der Platform. Und wenn du die Person echt überprüfen wolltest, kannst du eine dritte Stelle nutzen, die als Ergebnis aber nur dieses Flag setzt.
Das dass die Plattformen nicht wollen, klar. Dass ich zweifele, dass das sinnvoll ist, auch klar. Aber möglich wäre es für mich.
Das dass die Plattformen nicht wollen, klar. Dass ich zweifele, dass das sinnvoll ist, auch klar. Aber möglich wäre es für mich.
@Montrose @madeingermany Die Plattformen hätten wohl wenig dagegen, wenn der Staat den Alterscheck kostenfrei übernimmt. Aber derzeit werden solche Apps und Ausweise weiterhin ohne solche Altersgrenzen geplant und umgesetzt.
Zudem kann man Privacy-Techniken erklären bis zum Gehtnichtmehr, die Mehrheit interessiert es einfach nicht.
@Montrose der digitale Perso ist doch ziemlich zentral, oder?
@madeingermany @Montrose Das kommt auf den Standpunkt an. Natürlich: es ist ein staatliches Dokument. Mit deinem biometrischen Foto drauf. Und deswegen werden viele Leute ein gewisses Unwohlsein verspüren, sich damit bei Pornhub anzumelden. Andererseits: es gibt in Deutschland kein zentrales Bevölkerungsregister per se. All die Daten von Personalausweisen müssen von einer Vielzahl von Ämtern getrennt verwaltet werden.
@madeingermany @Montrose Man kann ein digitalen Ausweis so gestalten, dass er keiner Informationen über eine zentrale Staats-ID von sich gibt. Aber es gibt sehr laute Stimmen, die das verhindern wollen.
@madeingermany @Montrose Man kann im Prinzip eine Ausgabe von 1984 auf einer beliebigen Seite öffnen, mit dem Finger auf eine Textstelle zeigen und ein Vertreter der Gewerkschaft der deutschen Polizei wird es haben wollen.
Also z.B. koennte der Staat mit dem digitalen Perso ein API zur Verfuegung stellen das nach upload meiner mit meinem private key signierten public ID sagt "ja, ist gueltig und ueber 18"
@madeingermany @Montrose Quasi. Das Problem: Der alte digitale Perso ist quasi tot und die kommende Neuauflage ist… iffy.
@publictorsten @Montrose Ich weiss schon, dass ich hier in der Utopie schwelge, waehrend die andere Seite ihre Inspiration in der Dystopie sucht ... seufz.
@madeingermany @Montrose Es kann sich quasi nur um Stunden handeln, bis jemand dafür die Steuer-ID nutzen will.
@publictorsten @Montrose ich lebe in Amerika... Meine Steuernummer wurde bereits ungefähr 5 mal auf verschiedenen Finanzwebseiten gestohlen.
@madeingermany @publictorsten Das ist ja nochmal ein ganz anderes Thema. Was in D prinizipiell gehen würde, geht noch lange nicht in anderen Ländern. Und in D will das eh keiner - weil Palantir: Sicherheit baby! Und die Plattformen wollen natürlich die gesamten Infos habe: Werbung baby!
Und deswegen werden wir alle in der Dystopie der zentralen Systeme landen, in denen wir uns nackt machen müssen, um teilnehmen zu können. Ich bin da also sehr pessimistisch (und deshalb ablehnend).
Und deswegen werden wir alle in der Dystopie der zentralen Systeme landen, in denen wir uns nackt machen müssen, um teilnehmen zu können. Ich bin da also sehr pessimistisch (und deshalb ablehnend).
@madeingermany @Montrose Und wie erwähnt:‘über 18‘ ist nicht der aktuelle Anwendungsfall.
Sören@Montrose @madeingermany @publictorsten damit hat die Plattform einen Identifier von mir als Bürger. Yikes.
@chucker @madeingermany @publictorsten Nein. Das kann man prinzipiell so designen, dass die Plattform überhaupt keinen Zugang zu deinen Personendaten bekommt - außer dem Datum, dass du über 18 bist. Man muss das nur wollen.
@Montrose @madeingermany @publictorsten der Bund *könnte* Tokens ausstellen, die das Alter verifizieren, und dann kann man als Bürger:in beliebig viele solcher Tokens erzeugen, um Identifizierung zu vermeiden. Wenn das bereits möglich ist, hast du Recht.
Ansonsten sehe ich da viel Potenzial in Richtung Fingerprinting.
@chucker @Montrose @madeingermany Du beschreibst hier ein System, das vielleicht von 5 Prozent der Bevölkerung genutzt werden könnte.
@publictorsten @Montrose @madeingermany tue ich? Im Grunde wäre das ähnlich wie ein OAuth-Flow, nur dass halt nur das Alter als Information geboren wird (und der einzige Provider ist der Staat)
Selbst dann neige ich jedoch zu: Teenager:innen zu verweigern, das Internet zu entdecken und dabei auch Risiken einzugehen (aber auch Communities kennenzulernen), ist grundsätzlich falsch
@chucker @Montrose @madeingermany Wenn du es als "ähnlich wie ein OAuth-Flow" charakterisierst, sind fünf Prozent sogar sehr hoch gegriffen.
@publictorsten @Montrose @madeingermany du glaubst, weniger als fünf Prozent klicken auf “Sign In With (Apple|Facebook|Google|…)”-Buttons?
@chucker Gegenfrage: Wie viele App-Entwickler haben Facebook-SDKs und APIs so implementiert, dass persönliche Daten leaken?
@publictorsten hier geht es ja darum, dass der Staat außer des Alters gar keine Daten teilt.
@chucker Er muss dem Fragesteller immer noch mitteilen, für wen er Altersauskünfte erteilt. Und da beginnen die Kopfschmerzen erst.
@chucker Um es abzukürzen: Ja, es gibt Lösungen, die besser für die Privatsphäre sind. Aber zum einen müssen sie auch tatsächlich implementiert werden. Und zum anderen in einer Umgebung, die die staatliche Zurückhaltung nicht nivelliert.
@publictorsten wie gesagt, ich bin sowieso schon bei der These raus, es sei gut, Jugendliche davon abzuhalten, im Internet Freunde zu finden.
Ich war nur auf den anderen Poster eingegangen — ja, theoretisch könnte ein Provider mehrere nicht miteinander verknüpfbare Tokens zur selben Person ausgeben.
@chucker Ich bin ein wenig frustriert, wenn ich sehe, wie gut das bei ePA und Co funktioniert.
@chucker @madeingermany @publictorsten Wieso so kompliziert? Meine Vorstellung: Auf dem Perso ist verschlüsselt Deine Information. Du hast ein Lesegerät dafür, das angefragt werden kann, bestimmte Dinge auszulesen - die du aber freigibst. Die Plattform stellt also die Fragen: Ist echter Perso und Person ist älter als 18? Das Lesegerät gibt schlicht ja und ja zurück. Und das wars. Und wenn du Person überprüfen willst, dann halt analog Postident mit Dienstleister, der das Lesegerät betreibt.
@chucker @madeingermany @publictorsten Wobei die Zuordnung Person<->Perso natürlich über die Antwort-Freigabe erfolgen kann. PW oder Fingerprint (ist ja eh schon gespeichert dort - leider). Heißt: Du könntest so ein Lesegerät zu Hause haben (wie TAN-Generator) und du würdest im Prozess drei Infos weitergeben: Echter Perso, der einer echten Person gehört, die über 18 ist. Und mehr nicht.
@Montrose @madeingermany @publictorsten oh, das mit dem Lesegerät finde ich gut. Ein physisches Gerät zu brauchen, um sich bei einer Website oder App zu registrieren, ist so absurd umständlich, dass hoffentlich auch Boomer gegen das Gesetz protestieren.
@chucker @madeingermany @publictorsten Na ja. Wenn du lieber als techn. "Lösung" zentral generierte "Tokens" haben willst. Ok. Ich nicht.
Mal abgesehen davon, dass auch du sicherlich täglich mit Lesegräten hantierst, die pers. Information von Dir auslesen und damit ja offenbar eigentlich kein Problem hast. Aber ich habe das Gefühl, es ist hier müßig weiterzudiskutieren. Ich bin an der Stelle jetzt raus.
Mal abgesehen davon, dass auch du sicherlich täglich mit Lesegräten hantierst, die pers. Information von Dir auslesen und damit ja offenbar eigentlich kein Problem hast. Aber ich habe das Gefühl, es ist hier müßig weiterzudiskutieren. Ich bin an der Stelle jetzt raus.
@Montrose @madeingermany @publictorsten es ging mir nur darum, dass ich das Szenario etwas weltfremd finde
[Nachmittags, in einem Café, Student:innen treffen sich]
A: kennst du schon Dschingibus?
B: nee, wie installier ich das
C: zusätzlich zum Telefon brauchst du nur den Perso griffbereit—
B: äh—
A: und natürlich ein Lesegerät—
B: äh—
C: und ein Kabel; Bluetooth können die nicht
Das ist einfach nicht der Weg, es Leuten schmackhaft zu machen
Roland SommerDa bin ich skeptisch, denn den meisten sind solche Aspekte eh egal.