Hacker Convoca.laA-K-M-E – Slurs come segnali linguistici
Piano Terra, viernes, 29 de mayo, 21:00 CEST
A-K-M-E – Slurs come segnali linguistici
29.05 – dalle ore 21:00
Tra NLP, modelli transformer e dinamiche algoritmiche
Nel contesto dei social network, gli slurs, ovvero gli insulti e i concetti discriminatori operano come feature linguistiche ad alta entropia, capaci di perturbare in modo significativo i modelli NLP basati su architetture transformer.
Analizziamo assieme cercando di comprendere il fenomeno da una prospettiva linguistica computazionale, osservando come i token tossici influenzino embeddings, attention patterns, loss surfaces e sistemi di ranking.
L’obiettivo è mostrare come la tossicità linguistica sia un effetto emergente dell’interazione tra strutture linguistiche, architetture transformer, dataset imperfetti e metriche di ottimizzazione.
– failure modes dei modelli di rilevazione tossicità: bias nei dataset, overfitting su pattern superficiali, misclassificazione in contesti ironici o citazionali
– analisi delle attention heads: heads specializzate nella rilevazione di segnali tossici, saturazione dell’attenzione e perdita di contesto pragmatico
– limitazioni delle context windows: difficoltà nel disambiguare uso descrittivo vs offensivo, soprattutto in sequenze brevi o rumorose
– propagation bias nei sistemi di raccomandazione: amplificazione dei token ad alta reattività, feedback loop tra engagement e ranking, distorsione delle distribuzioni linguistiche
– impatto sulle loss functions: penalizzazioni non uniformi, gradient explosion in presenza di token tossici, difficoltà nella calibratura dei modelli di moderazione
29 maggio a partire dalle 21:00
https://hacker.convoca.la/event/a-k-m-e-slurs-come-segnali-linguistici
Neural
DJ Comatose
Erica (Open Movement)
Lydia Conwell
Veri Sızıntısı Research
Dissent Doe 
s4møth
malte
Bernhard Anreiter