Hate speech, riconoscere e combattere il linguaggio dell’odio

Di Gerardo Di Lorenzo (III A)

Lo hatespeech, espressione spesso tradotta in italiano con la formula “incitamento all’odio”, è una categoria elaborata negli anni dalla giurisprudenza americana per indicare un genere di parole e discorsi che non hanno altra funzione che quella di esprimere odio e intolleranza verso una persona o un gruppo e che rischiano di provocare reazioni violente contro quel gruppo o da parte di quel gruppo. Nel linguaggio ordinario indica più ampiamente un genere di offesa fondata su una qualsiasi discriminazione (razziale, etnica, religiosa, di genere o di orientamento sessuale) ai danni di un gruppo. La condanna dello hatespeech, sia sul piano giuridico che nelle conversazioni al bar , sta in un equilibrio elastico, ma spesso problematico, con la libertà di parola, principio tutelato dal Primo emendamento della Costituzione degli Stati Uniti (e fondante, con le sue regole, di ogni democrazia).
Hatespeech online e offline: Le caratteristiche dei discorsi di odio e la loro relazione con l’offline sono spesso poco conosciute. Nei recenti dibattiti si tende alla criminalizzazione del mezzo (Internet), come se la sua velocità di diffusione fosse la causa scatenante dell’hatespeech, mettendo da parte, invece, le vere cause del problema.Seguendo questo ragionamento appare ovvio che la soluzione, l’unica prevista, sia la soppressione dei discorsi d’odio. Specialmente online la risposta richiesta ai social network è univoca, ma la cancellazione di un’ espressione d’odio non risolve il problema se alla base vi è un malcontento, una rabbia repressa, una discriminazione sociale. L’autore semplicemente trasferirà il suo malcontento altrove, nel mondo reale, casomai in famiglia. Si oscura un problema senza risolverlo per crearne un altro. L’impressione è che la politica si occupi del problema solo superficialmente, senza una reale comprensione non solo delle peculiarità del mezzo internet, ma anche delle cause che sono alla base del problema stesso,ad esempio che è pacifico che Internet alimenta la diffusione e la permanenza di messaggio d’odio, così come un’errata comprensione del funzionamento di Internet porta alcuni a considerare più difficile, se non impossibile, essere rintracciati. Di conseguenza le persone credono di essere protette da una sorta di anonimato.

Per questo alcuni governi hanno chiesto nuove politiche di eliminazione dell’anonimato in rete (realnamespolicies), ma iniziative del genere (Facebook per un certo periodo ha cercato di costringere gli utenti a usare i nomi reali, anche se probabilmente ciò era principalmente per motivi commerciali) hanno sempre trovato una forte opposizione da parte delle associazioni per i diritti civili, in quanto in contrasto con il diritto alla privacy e con la libertà di espressione. In realtà, l’anonimato o lo pseudo – anonimato consentono a molte persone di poter denunciare non solo reati, ma anche atti di discriminazione contro di loro, senza il timore di doverne subire delle ritorsioni quali licenziamenti, minacce, aggressioni. Altro aspetto che non va trascurato è che l’hatespeech, inteso come linguaggio provocatorio, tagliente, che tende a ridicolizzare, è spesso l’unico mezzo utilizzabile per raccogliere l’attenzione della platea online. Questa è una differenza di non poco conto con i media tradizionali.

Nei momenti critici (per esempio elezioni), infine, l’hatespeech può essere facilmente soggetto a manipolazioni, con accuse verso le opposizioni politiche di fomentare l’odio sociale e diventare strumentale alla soppressione della dissidenza. È evidente, dunque, che i provvedimenti di soppressione dei discordi d’odio possono non essere il mezzo migliore per contrastarli e possono portare anche ad abusi, senza in realtà risolvere nulla nel caso in cui vi sia un problema sociale di fondo. Paradossalmente le limitazioni alla libertà di espressione, giustificate da esigenze di repressione dell’odio  un’ etnia. Per l’identificazione dei contenuti offensivi il network si basa su un algoritmo, costruito partendo dall’analisi di contenuti di hatespeech valutati da essere umani. L’algoritmo non si ferma alla mera ricerca di parole chiave, ma procede all’analisi delle frasi per l’identificazione di discorsi d’odio. Il tasso di precisione è ritenuto del 90% circa. Yahoo punta anche a mettere a disposizione la sua banca dati, di modo che altri siti possano utilizzarla al fine di progettare il loro algoritmo contro l’hatespeech. Twitter, a seguito dell’elezione del Presidente Usa Donald Trump, quando il servizio è stato infestato da insulti nei confronti delle minoranze, ha introdotto il blocco degli utenti in modo da nascondere i contenuti offensivi nelle discussioni e la possibilità di impedire la re – iscrizione di utenti già bannati per condotte illecite. L’autonomia delle singole aziende nel fissare le proprie policy e le proprie definizioni, crea una situazione estremamente varia e non uniforme nel contrasto dell’hatespeech online.

Emerge chiaramente che l’attuazione di forme di contrasto dipende molto dalla sensibilità dei singoli, coloro che pongono le definizioni e che programmano gli algoritmi oppure gestiscono in prima persona le segnalazioni degli utenti. In passato abbiamo, purtroppo, potuto notare che l’utilizzo di algoritmi non porta sempre a scelte adeguate e che anche il controllo umano può determinare gravi errori (si veda la censura della foto simbolo della guerra in Vietnam imposta in un primo momento da Facebook e poi ripristinata dallo stesso social network).