Contro i suicidi in diretta, i discorsi che incitano all'odio e i post pieni di violenza Facebook cerca delle contromisure, puntando non solo sull'intelligenza artificiale e dunque nuovi strumenti di controllo, ma anche con quella umana. 3mila nuove persone andranno a lavorare alla sezione denominata Community Operations. Si uniranno ai 4.500 revisori che già si occupano di controllare le segnalazioni che gli utenti di Facebook fanno in merito a contenuti che ritengono inopportuni.

Il post di Mark Zuckerberg

«Nelle ultime settimane, abbiamo visto su Facebook persone fare del male a se stessi e ad altri – sia Live che in video pubblicati successivamente. È straziante, e ho riflettuto a lungo su come possiamo fare meglio per la nostra comunità.

Se intendiamo costruire una comunità sicura, dobbiamo rispondere rapidamente. Stiamo lavorando per rendere questi video più semplici da segnalare in modo da poter prendere le giuste misure subito – sia che si tratti di rispondere velocemente quando qualcuno ha bisogno di assistenza o eliminare un post».

I casi tragici a cui fa riferimento Zuckerberg

L’ultimo caso a cui fa riferimento il fondatore del social network è quello di James M. Jeffrey, un 49enne dell’Alabama che la scorsa settimana ha documentato il proprio suicidio con un video diffuso in streaming live sul suo profilo. Alla fine di aprile, un padre thailandese aveva fatto lo stesso, dopo aver ucciso in diretta la figlia di 11 mesi. E sempre negli Stati Uniti, a metà aprile, Steve Stephens aveva diffuso il filmato dell’assassinio di un passante, a Cleveland, e la confessione di un’altra dozzina di omicidi, per poi darsi alla fuga. Si è suicidato qualche giorno dopo poco prima di essere arrestato.

Facebook: la nostra comunità più sicura

Nel post pubblicato su Facebook Zuckerberg ha aggiunto: «Questi revisori ci aiuteranno inoltre a migliorare il processo di rimozione dei contenuti che non consentiamo su Facebook come i discorsi d’odio e lo sfruttamento di minori. Continueremo a lavorare con le nostre comunità locali e le forze dell’ordine che si trovano nella posizione migliore per garantire aiuto a coloro che ne hanno bisogno – o perché sono in procinto di farsi del male, o perché si trovano in pericolo.
Oltre ad investire in ulteriori risorse umane, stiamo anche costruendo strumenti migliori per tenere la nostra comunità al sicuro. Faremo in modo che risulti più semplice segnalarci i problemi, che sia più facile per i nostri revisori determinare quali post violano i nostri standard e che sia più semplice per loro contattare le forze dell’ordine se qualcuno ha bisogno di aiuto. Quando questi strumenti saranno disponibili, contribuiranno a rendere la nostra comunità più sicura.
Questo è importante. Proprio la scorsa settimana, abbiamo ricevuto una segnalazione relativa ad una persona che su Live stava considerando l’ipotesi di suicidio. Abbiamo immediatamente contattato le forze dell’ordine che sono state in grado di impedire alla persona di farsi del male. In altri casi, non siamo stati così fortunati.
Nessuno dovrebbe trovarsi in questa situazione in primo luogo, ma se lo sono, allora dobbiamo costruire una comunità sicura che garantisca loro l’aiuto di cui hanno bisogno».

Facebook avrà più strumenti di controllo?

La rivista Wired aveva già messo in luce un limite relativo agli strumenti disposti da Facebook per prevenire casi di suicidio e segnalare post dai contenuti preoccupanti: essi funzionano solo negli Usa, e per i casi di violenza che accadono in Europa o in Italia?
Inoltre, sempre intervistati da Wired, alcuni professori americani, tra cui Joe Franklin della Florida State University, responsabile del Technology and Psychopathology Lab, hanno spiegato che la mossa è apprezzabile, certo, ma che non ci sono evidenze scientifiche che questi provvedimenti siano particolarmente d’aiuto.

Con questa presa di posizione di Mark Zuckerberg, Facebook sembra volersi fare carico di una posizione ancor più centrale di controllo su quelle che possono essere o trasformarsi in derive autolesionistiche, intenzioni criminali e più in generale sulle vite non solo virtuali delle persone.