Twitter va anunciar els resultats del seu concurs obert per trobar biaixos en el seu sistema de retall de fotos.
El repte de les recompenses es va obrir al juliol després que els usuaris de Twitter demostressin que l'eina de retall automatitzat del lloc afavoria les cares de les persones amb complexió més clara sobre aquelles amb complexió més fosca. Va plantejar algunes preguntes sobre com el programari prioritzava el color de la pell i determinats factors per sobre d' altres.
El repte pretenia trobar quins altres errors i biaixos podria tenir el sistema de retall per solucionar els problemes.
El primer lloc va ser per a Bogdan Kulynych, la presentació del qual va mostrar com els filtres de bellesa podrien jugar amb el model de puntuació de l'algorisme, que, al seu torn, amplifica els estàndards de bellesa tradicionals. L'enviament va mostrar que l'algoritme preferia cares joves i primes amb un to de pell clar o càlid. Kulynych va guanyar 3.500 $.
El segon lloc va ser per a HALT AI, una startup tecnològica de Toronto, que va descobrir imatges de gent gran i discapacitats retallades de les fotos. L'equip va rebre 2.000 $ per haver quedat segon.
El tercer lloc, i 500 dòlars, va ser per a Roya Pakzad, fundadora de Taraaz Research, que va descobrir que l'algoritme afavoria retallar les escriptures llatines a les escriptures àrabs, cosa que podria perjudicar la diversitat lingüística.
Els resultats detallats van ser presentats a la DEF CON 29 per Rumman Chowdhury, el director de l'equip META de Twitter. L'equip de META estudia els problemes no intencionats dels algorismes i elimina qualsevol tipus de biaix racial i de gènere que aquests sistemes puguin tenir.
Les dades obtingudes d'aquest concurs s'utilitzaran per alleujar errors i biaixos en l'algorisme de retall i ajudar a garantir un entorn més inclusiu.
