Usuarios Facebook
AFP
4 Sep 2021 05:17 PM

Facebook ofrece disculpas luego de que su IA identificara como “primates” a dos personas de color.

Mauricio
Gracia
@maogracia
Varios usuarios, luego de ver un video, recibieron un mensaje que preguntaba si querían “seguir viendo videos sobre primates“

Según informa el New York Times, varios usuarios de Facebook, luego de ver un video donde aparecían hombres de color, recibieron un mensaje que preguntaba si querían “seguir viendo videos sobre primates“

Tras este suceso, la compañía pidió disculpas por el “error inaceptable” en un comunicado que fue enviado al Daily Mail, quien publicó el video en cuestión, y deshabilitó la función de recomendación responsable del mensaje, además de prometer encontrar la causa del error para evitar que vuelvan a ocurrir este tipo de sucesos.

“Como hemos dicho, aunque hemos realizado mejoras en nuestra IA, sabemos que no es perfecta y tenemos más avances que hacer. Pedimos disculpas a todos los que hayan visto estas recomendaciones ofensivas, indicó en un comunicado Dani Lever, portavoz de la compañía

Sin embargo, éstas problemáticas no son las primeras en su tipo, pues se han presentado anteriormente casos donde la inteligencia artificial ha tenido inconvenientes de este tipo en plataformas diferentes a Facebook. Por ejemplo, las coincidencias de reconocimiento facial falsas llevaron al injusto arresto de dos hombres negros el año pasado en Detroit. En 2015, Google Photos etiquetó las fotos de personas afroamericanas como “gorilas” . Además, Wired descubrió años más tarde que la solución de la compañía fue censurar la palabra “gorila” de las búsquedas y las etiquetas de imágenes, en vez de perfeccionar su algoritmo.

Hace unos meses, Facebook compartió un conjunto de datos que creó con la comunidad de inteligencia artificial. Este trabajo contenía más de 40.000 videos de 3.000 actores pagos que la red social usó para enseñar a los sistemas de IA cómo lucen los diferentes tonos de piel de las personas en diferentes condiciones de iluminación. Claramente no fue suficiente para resolver por completo el sesgo de IA para Facebook, ya que sigue teniendo graves problemas de reconocimiento. Esto demuestra aún más que la comunidad de IA todavía tiene mucho trabajo por delante.

Fuente
Alerta Tolima