Gogna web fuori controllo. I big della Rete nel mirino

Task force di sentinelle ma è boom di post violenti

Una persona al computer

Una persona al computer

Roma, 11 giugno 2017 - Buoni propositi. Tanti e troppi che spesso finiscono nel cassetto. Un anno fa Swg ha fatto un sondaggio sul cosiddetto «hate speech» sui social network, risultato? Il 70% degli utenti voleva che fossero eliminati i contenuti violenti. Quello stesso 70% che si dichiara stanco dell’ostilità sui social. Eppure un anno dopo, la situazione non è migliorata. Basta guardare alla gogna web contro i genitori della bambina dimenticata in auto e poi morta, per rendersi conto che l’odio è un carburante – tutt’altro che nobile – che alimenta il mondo virtuale. Virtuale però, fino a un certo punto. Perché offese e minacce non sono cose che si archiviano a cuor leggero. Anzi, spesso lasciano il segno. Quando ancora peggio non istigano a gesti perfino sconsiderati. E così se i social sono un terreno dove tutto si può, senza nessun tipo di limite, di etichetta, di etica, a essere chiamati in causa sono i cosiddetti controllori. I giganti del web.

Vip insultati sui social. Le minacce choc a Bebe Vio

The Guardian non molto tempo fa ha messo le mani sui cosiddetti «Facebook files», ovvero i documenti che dovrebbero servire per moderare fino a rimuovere i contenuti on line giudicati offensivi. Ma la scoperta non è stata delle più felici. Arrivano qualcosa come milioni di segnalazioni a settimana su contenuti da rimuovere e al lavoro ci sono 4.500 «content moderator», ingaggiati da Facebook, una truppa destinata a ingrossarsi ulteriormente. Eppure può capitare di vedere che venga rimossa una delle foto più icononiche della storia come quella che ritrae Kim Phuk, la ragazzina nuda che fugge dalle atrocità della guerra in Vietnam, e magari rimangono on line per giorni minacce di morte e offese. Questo perché le linee guida sulla cosiddetta violenza verbale in alcuni casi sono assai permissive. Perché frasi come «ti ammazzo» non vengono considerate da subito una vera e propria minaccia anche se sono scritte in calce in un commento sotto un post. E i numeri forniti, subito dopo la stretta dell’Unione Europea che ordinava di rimuovere i contenuti giudicati offensivi entro 24 ore, non sono certo rassicuranti. In sei mesi su 600 denunce i contenuti censurati sono stati solo 180.

Per gli psicologi questa scarica di odio, senza limiti e senza freni, può essere definita come l’effetto di «disibinizione del web» dove fattori come anonimato, invisibilità e comunicazione indiretta tirano fuori il peggio degli utenti. Da uno studio dell’università La Sapienza di Roma viene fuori che il principale bersaglio dell’odio via web sono le donne, vittime del 63% dei tweet negativi analizzati, seguite dagli omosessuali, 10,8%, dai migranti, 10%, e poi da diversamente abili (6,4%) ed ebrei (2,2%). E infatti l’odio non ha risparmiato nessuno. Anche i vip. Come il caso di Bebe Vio, offesa sui social, purtroppo dimostra. E così i giganti del web vengono chiamati ripetutamente in causa, soprattutto su fronte della mancata prevenzione nei confronti degli haters di professione.

Google ha sviluppato «Perspective», una tecnologia che sfrutta l’intelligenza artificiale per rimuovere in tempo reale i commenti offensivi e violenti. Twitter ha bloccato decine di migliaia di account e Facebook si è concentrato soprattutto sulle «Fake news» vero e proprio lubrificante dell’odio seriale e social. Ma è evidente che gli sforzi non sembrano bastare. Se la task force di controllo di Facebook (i moderatori, tanto per intendersi, non hanno più di 10 secondi per una segnalazione) e nemmeno le intelligenze artificiali riescono ad arginare l’odio sul web.