Twitter reconoce que el sesgo en sus algoritmos favorece la discriminación

Twitter dio a conocer los ganadores del concurso a través del cual invitó a los usuarios a demostrar cómo los algoritmos de la red social se "comportan distinto" según parámetros como el color de piel, la estética y el lenguaje, entre otros.

174

Hipertextual-Gabriel Erard

Desde hace mucho tiempo se habla sobre si los algoritmos de las redes sociales potencian el racismo y el sexismo, entre otros tipos de discriminación, y el caso de Twitter es uno de los que más ha dado que hablar. En las últimas horas la plataforma reconoció la existencia de un “sesgo algorítmico”, al dar a conocer los ganadores de su más reciente iniciativa para exponerlo.

A través de la cuenta Twitter Engineering, la red social reconoció que sus algoritmos se comportan distinto en situaciones en donde no deberían hacerlo. De esta manera, los usuarios ratificaron la existencia de deficiencias en la tecnología basada en aprendizaje automático que se encarga de recortar fotos o promover publicaciones, entre otras tareas.

El concurso de Twitter para demostrar el sesgo en sus algoritmos otorgó recompensas a cinco ganadores. El primer premio fue para Bogdan Kulynych (@hiddenmarkov), quien probó que al aplicar filtros de belleza en una foto es posible engañar el modelo de puntuación interna del algoritmo. “Esto muestra cómo los modelos algorítmicos amplifican los prejuicios del mundo real y las expectativas sociales de belleza”, explicó la red social.

El segundo premio fue para HALT AI (@HALT_AI), que evidenció que el algoritmo de prominencia de la red social perpetua la marginación. En este caso se demostró que ancianos y discapacitados son excluidos al ser recortados de las fotografías. Según Twitter, esta falencia “refuerza el sesgo de la mirada espacial”.

Exponiendo el sesgo en los algoritmos de Twitter

algoritmos de twitter
Photo by Claudio Schwarz on Unsplash

Otro dato singular es que los algoritmos de Twitter pueden dañar la diversidad linguística. Así lo demostró Roya Pakzad (@RoyaPak), quien se quedó con el tercer premio al experimentar con el algoritmo de relevancia. Para ello utilizó memes idénticos pero en distintos idiomas; con esta prueba comprobó que el recorte de imágenes favorece a las que incluyen texto en lenguas latinas, en perjuicio de las árabes.

Twitter entregó dos recompensas a usuarios que expusieron otros tipos de falencias en sus algoritmos. Vicenzo (@0xNaN) recibió el premio más innovador al demostrar un sesgo algorítmico relacionado con el uso de emojis. Según la red social, si se incluyen emoticones con tonos de piel claros es posible que una fotografía logre una mayor prominencia. Por último, un participante anónimo fue capaz de “alterar las preferencias del algoritmo” añadiendo píxeles casi invisibles a una imagen.

El código de cada experimento con los algoritmos de Twitter está disponible públicamente a través de GitHub, para quienes deseen conocer más al respecto.

Con estos hallazgos, Twitter espera incorporar mejoras a sus algoritmos para que se apliquen equitativamente. Vale recordar que, en abril pasado, la plataforma ya había anunciado su Iniciativa de Aprendizaje Automático Responsable, con el fin de atender las deficiencias denunciadas por los usuarios.