Todavía falta un poco para conseguir que los sistemas de detección (de personas, obstáculos, etc) que integran algunos vehículos funcionen de forma totalmente perfecta, y según leemos en ABC, uno de los problemas es que estos sistemas tienen mucho más problema de precisión con las personas de color.
Un estudio desarrollado por Georgia Tech demuestra que las tecnologías de reconocimiento existentes en el mercado tienen más problemas para reconocer a las personas cuanto más oscura es su piel, con imprecisiones de hasta el 10 % en algunos casos.
Uno de los motivos, según el estudio, es que los sistemas empleados para entrenar a estos mecanismos de IA de detección hacen uso de un porcentaje mucho mayor de personas de piel blanca (hasta 3.5 veces más), lo que luego facilita la detección de éstas.
Por ese motivo, es fundamental que se evite ese sesgo en el entrenamiento de los sistemas de aprendizaje automático de detección de personas, para conseguir que no haya escenarios (en este caso, personas de color) donde funcione peor el sistema.