Maïtané 👣> le système utilisé par Discord pour cette vérification biométrique automatisée reposait sur Persona, une solution de vérification d’identité… financée par Peter Thiel. Ils ont surtout montré qu’une fois que les utilisateurs soumettent leur selfie et la copie de leur pièce d’identité, Persona ne vérifie pas seulement l’âge, mais lance d’innombrables vérifications.
> Outre ses services d’estimation d’âge, Persona compare vos selfies à des photos de personnes fichées grâce à la reconnaissance faciale, analyse vos informations d’identité en fonction de 14 catégories de contenus médiatiques à caractère négatif (mention de terrorisme, espionnage, etc.) et étiquette ces rapports avec des noms de code issus de programmes de renseignement actifs.
Note : Et on sait que la fiabilité de la reconnaissance de visages est bien plus mauvaise pour… les personnes racisées et notamment les personnes noires. Qu'est-ce qui pourrait mal tourner ?
> avec ces systèmes « vous rendez Internet moins sûr, et non plus sûr ». « Les utilisateurs lambda », affirment-ils, « ne pourront pas contourner ces systèmes », tandis que les personnes mal intentionnées « trouveront toujours des moyens de les exploiter ». Les informaticiens tirent la sonnette d’alarme depuis longtemps : une base de données centralisée contenant des milliers de pièces d’identité représente toujours une cible lucrative pour les pirates.
> Au mieux, Persona peut servir à créer des graphiques de surveillance complets des utilisateurs pour les entreprises clientes, affirment les chercheurs. Au pire, le logiciel pourrait transmettre des rapports automatisés directement au gouvernement.
> Même les grandes plateformes perçoivent ce changement de cap. Instagram privilégie désormais les messages privés, X met en avant les cercles réservés aux abonnés et TikTok expérimente les communautés privées. Derrière ces évolutions se cache la reconnaissance implicite que le défilement infini, saturé de bots et de contenus artificiels, atteint déjà ses limites de tolérance.
> « Les réseaux sociaux se sont construits sur l’attention, non seulement sur la promesse de capter la vôtre, mais aussi sur la possibilité de capter une part de celle des autres. Après deux décennies, le mécanisme s’est inversé, remplaçant la connexion par l’épuisement. (…) Le temps passé sur ces plateformes reste considérable : on y fait défiler les contenus non par plaisir, mais par incapacité à s’arrêter. »