Twitter anunció los resultados de su competencia abierta para encontrar sesgos en su sistema de recorte de fotografías.
El desafío de la recompensa se abrió en julio después de que los usuarios de Twitter mostraran que la herramienta de recorte automático del sitio favorecía los rostros de las personas con tez más clara que las de tez más oscura. Planteó algunas preguntas sobre cómo el software priorizaba el color de la piel y ciertos factores sobre otros.
El desafío buscaba encontrar qué otros errores y sesgos puede tener el sistema de recorte para solucionar los problemas.
El primer lugar fue para Bogdan Kulynych, cuya presentación mostró cómo los filtros de belleza pueden jugar con el modelo de puntuación del algoritmo, que, a su vez, amplifica los estándares de belleza tradicionales. La presentación mostró que el algoritmo prefería rostros jóvenes y delgados con un tono de piel claro o cálido. Kulynych ganó $3, 500.
El segundo lugar fue para HALT AI, una startup tecnológica de Toronto, que descubrió que las imágenes de personas mayores y discapacitadas estaban recortadas de las fotografías. El equipo recibió $2,000 por quedar en segundo lugar.
El tercer lugar, y $500, fue para Roya Pakzad, fundador de Taraaz Research, quien descubrió que el algoritmo favorecía el recorte de escrituras latinas sobre las escrituras árabes, lo que podría dañar la diversidad lingüística.
Los resultados detallados fueron presentados en DEF CON 29 por Rumman Chowdhury, director del equipo META de Twitter. El equipo de META estudia los problemas no intencionales en los algoritmos y elimina cualquier tipo de sesgo racial o de género que dichos sistemas puedan tener.
Los datos obtenidos de este concurso se utilizarán para aliviar errores y sesgos en el algoritmo de recorte y ayudar a garantizar un entorno más inclusivo.
