Dal mese di gennaio al mese di marzo 2018, ovvero nel primo trimestre dell’anno, sono stati 583 milioni gli account fake disabilitati da Facebook che ha provveduto inoltre a rimuovere oltre 837 milioni di contenuti spam.

I dati provengono dal primo Report relativo all’applicazione degli Standard di sicurezza utilizzati dalla piattaforma e illustra il lavoro svolto da Facebook nel periodo tra Ottobre 2017 e Marzo 2018.

Sei sono le aree considerate: immagini violente, immagini o post a sfondo sessuale, propaganda terroristica, hate speech, spam e profili falsi. I numeri registrati mostrano: quanti contenuti visualizzati dagli utenti violano gli standard del social network, quanti contenuti sono stati rimossi e quanti sono stati individuati prima che gli utenti stessi potessero segnalarli.

Oltre a questo, Facebook sottolinea di aver provveduto a rimuovere circa 21 milioni di contenuti a sfondo sessuale, solo nel primo trimestre del 2018: il 96% di questi sono stati individuati e segnalati direttamente dalla tecnologia utilizzata dalla piattaforma. Nel complesso, si stima che 7 contenuti su 9 visualizzati su Facebook violino le norme di sicurezza adottate.

Per quanto riguarda i contenuti con immagini violente, sono stati rimossi o segnalati circa 3,5 milioni di post; mentre relativamente e cancellato due milioni e mezzo di contenuti che incitavano all’odio. Sono stati rimossi 1,9 milioni di contenuti legati alla propaganda terroristica dell’Isis.

essendo promettente, è ancora molto lontana dall’essere efficace per molti contenuti che violano i nostri Standard, come nel caso dell’identificazione dei contenuti d’odio dove il contesto è molto importante”.Come sottolineato da Alex Schultz, vice presidente Analytics di Facebook, “per prevenire gli abusi, il lavoro da fare è ancora tanto.

I parametri non sono perfetti e dobbiamo migliorare i nostri processi interni e la nostra tecnologia. Il lavoro è in continua evoluzione. In parte l’intelligenza artificiale, pur essendo promettente, è ancora molto lontana dall’essere efficace per molti contenuti che violano i nostri Standard, come nel caso dell’identificazione dei contenuti d’odio dove il contesto è molto importante.

Inoltre la tecnologia ha bisogno di lunghi periodi di training per essere davvero efficace nel riconoscimento dei pattern di significato. Spesso poi, in diverse aree, come spam, porno o account fake, si deve lottare contro avversari che cambiano continuamente tattiche per aggirare i controlli, il che significa, per la piattaforma, che è necessario un continuo adattamento alle novità. “Per questo dobbiamo investire di più sui nostri tecnici e su tecnologie migliori”.