De acuerdo con un nuevo estudio realizado en el Instituto de Tecnología de Georgia, existe más probabilidad de que un vehículo autónomo arrolle a personas de piel oscura. Esto se debe a que los vehículos automatizados pueden ser mejores para detectar peatones con tonos de piel más claros.

Los autores del estudio comenzaron con una pregunta simple: ¿con qué precisión los modelos de detección de objetos de vanguardia, como los que utilizan los autos que conducen autos, detectan personas de diferentes grupos demográficos?

Para averiguarlo, observaron un gran conjunto de datos de imágenes que contienen peatones. Dividieron a las personas con la escala de Fitzpatrick, un sistema para clasificar los tonos de piel humana de claro a oscuro.

La detección fue cinco puntos porcentuales menos precisa, en promedio, para el grupo de piel oscura. Esa disparidad persistió incluso cuando los investigadores controlaron variables como la hora del día en imágenes o la vista ocasionalmente obstruida de los peatones.

El informe “Inequidad predictiva en la detección de objetos”, probó varios modelos utilizados por investigadores académicos, entrenados en conjuntos de datos disponibles públicamente.

Los investigadores tuvieron que hacerlo de esta manera porque las empresas no ponen a disposición sus datos para su escrutinio, un problema grave dado que esto es un asunto de interés público.

Los investigadores hallaron que una mayor ponderación de esa muestra en los datos de entrenamiento puede ayudar a corregir el sesgo. Así se puede incluir más ejemplos de piel oscura en primer lugar.

En cuanto al problema más amplio del sesgo algorítmico, hay un par de soluciones comúnmente propuestas.

Una es asegurarse de que los equipos que desarrollan nuevas tecnologías sean racialmente diversos. Si todos los miembros del equipo son blancos, hombres o ambos, puede que no se les ocurra verificar cómo su algoritmo maneja la imagen de una mujer negra.

Otra solución es exigir que las empresas prueben sus algoritmos en busca de sesgos y demuestren que cumplen con ciertos estándares de imparcialidad antes de que puedan implementarse.

LEAVE A REPLY

Please enter your comment!
Please enter your name here