L’algoritmo di Facebook identifica erroneamente neri e scimmie

L’algoritmo di raccomandazione di Facebook ha chiesto agli utenti se volevano vedere più “video chiave” all’interno di un video tabloid del Regno Unito che mostrava persone di colore

Un algoritmo di raccomandazione di Facebook che chiede agli utenti se vogliono guardare altri “video di primati” all’interno di un video nel deserto del Regno Unito che mostra persone di colore, ha rivelato venerdì il New York Times.

Il video del Daily Mail, che ha più di un anno, si intitola “White Man Calls Cops Against Black Men in the Marina”. Mostra solo persone, non scimmie.

Di seguito, la domanda “Vedi più video sui primati?” Le opzioni “Sì/Rifiuta” sono state mostrate sullo schermo di alcuni utenti, secondo uno screenshot pubblicato su Twitter da Darci Groves, ex designer del gigante dei social media.

E ha commentato questo dicendo: “È scandaloso”, invitando i suoi ex colleghi su Facebook a intensificare la questione.

“Questo è chiaramente un errore inaccettabile”, ha risposto un portavoce di Facebook, su richiesta di AFP. “Ci scusiamo con tutti coloro che hanno visto queste raccomandazioni offensive”, ha aggiunto.

Ha detto che il gruppo californiano ha disattivato lo strumento di raccomandazione su questo argomento “non appena abbiamo notato cosa stava succedendo al fine di indagare sulle cause del problema e prevenirne il ripetersi”.

Ha continuato: “Come abbiamo detto, anche se abbiamo migliorato i nostri sistemi di intelligenza artificiale, sappiamo che non è perfetto e che abbiamo dei progressi da fare”.

Il caso mette in evidenza i limiti delle tecnologie AI, che la piattaforma evidenzia regolarmente nei suoi sforzi per creare un feed personalizzato per ciascuno dei suoi 3 miliardi di utenti mensili.

È anche ampiamente utilizzato nella moderazione dei contenuti per identificare e bloccare messaggi e foto problematici prima ancora che vengano visti.

Ma Facebook, come i suoi concorrenti, è regolarmente accusato di non combattere il razzismo e altre forme di odio e discriminazione.

L’argomento solleva più tensione poiché diverse organizzazioni della società civile accusano i social network e i loro algoritmi di contribuire alla divisione della società americana, nel contesto delle manifestazioni del movimento Black Lives Matter. contare).