Twitter a annoncé les résultats de son concours ouvert pour trouver les biais dans son système de recadrage de photos.
Le défi Bounty a été lancé en juillet après que les utilisateurs de Twitter ont montré que l'outil de recadrage automatisé du site favorisait les visages des personnes au teint plus clair par rapport à ceux au teint plus foncé. Cela a soulevé des questions sur la façon dont le logiciel a donné la priorité à la couleur de la peau et à certains facteurs par rapport à d'autres.
Le défi visait à trouver les autres bugs et biais que le système de recadrage peut avoir afin de résoudre les problèmes.
La première place est revenue à Bogdan Kulynych, dont la soumission a montré comment les filtres de beauté pouvaient jouer avec le modèle de notation de l'algorithme, qui, à son tour, amplifie les normes de beauté traditionnelles. La soumission a montré que l'algorithme préférait les visages jeunes et minces avec un teint clair ou chaud. Kulynych a gagné 3 500 $.
La deuxième place est revenue à HALT AI, une start-up technologique de Toronto, qui a découvert que des images de personnes âgées et de personnes handicapées avaient été recadrées sur des photos. L'équipe a reçu 2 000 $ pour sa deuxième place.
La troisième place, et 500 $, est allée à Roya Pakzad, fondatrice de Taraaz Research, qui a découvert que l'algorithme favorisait le recadrage des scripts latins par rapport aux scripts arabes, ce qui pouvait nuire à la diversité linguistique.
Les résultats détaillés ont été présentés à la DEF CON 29 par Rumman Chowdhury, le directeur de l'équipe META de Twitter. L'équipe META étudie les problèmes involontaires des algorithmes et élimine toute sorte de préjugés sexistes et raciaux que ces systèmes pourraient avoir.
Les données obtenues grâce à ce concours seront utilisées pour atténuer les bugs et les biais dans l'algorithme de recadrage et aider à garantir un environnement plus inclusif.
