Es más probable que la IA identifique erróneamente las máscaras femeninas – Adweek
La inteligencia artificial que impulsa la visión por computadora es mucho más probable que etiquete incorrectamente las máscaras protectoras como cosas como cinta adhesiva, joyas y mordazas cuando las mujeres las usan que los hombres, según un nuevo experimento. de un científico de datos de Wunderman Thompson.
El experimento se desarrolló a partir de un proyecto paralelo que Barsan había explorado en el que clasificaría diferentes esquinas de las calles en función de la cantidad de personas alimentadas por cámaras de la calle medidas como con máscaras.
Si bien cada uno de los sistemas probados tiene sus propias peculiaridades en términos de los tipos de objetos que malinterpretan máscaras, la disparidad de género es constante.
La herramienta Cloud Vision de Google, por ejemplo, identificó el 28% de las máscaras de las mujeres como cinta adhesiva y solo el 19% como equipo de protección personal (EPP). Las máscaras para hombres tenían más probabilidades de confundirse con el vello facial (27%), pero el 36% se identificaron correctamente y solo el 15% se consideró cinta adhesiva.
Barsan confirma por qué esta disparidad representa más que un fallo inofensivo con una simple búsqueda de imágenes en Google: la consulta "hombre con cinta adhesiva" produce principalmente imágenes de hombres con cinta adhesiva por todo el cuerpo, mientras que la misma búsqueda de "mujer con cinta adhesiva" muestra principalmente mujeres con mordazas con cinta adhesiva.
"Las redes neuronales formadas sobre datos textuales sesgados en el mejor de los casos avergonzarán a sus creadores tarde o temprano, y en el peor de los casos perpetuarán estereotipos dañinos", escribe Barsan. “Lo mismo ocurre con las máquinas que aprenden a ver a través de lentes sesgados.
"Esa lente, por supuesto, es nuestra propia cultura, tanto en línea como fuera de línea, una cultura en la que la violencia contra las mujeres, ya sea ficticia o real, a menudo se normaliza y se explota", dijo. adicional.
Mientras tanto, el sistema Azure de Microsoft tenía más probabilidades de interpretar las máscaras femeninas como accesorios de moda (40%) o lápiz labial (14%), con solo un 5% correctamente identificado. Las máscaras para hombres se etiquetaron alternativamente como accesorios de moda (13%) y barbas (12%), y se identificaron correctamente como máscaras solo el 9% de las veces.
El sistema de IBM identificó incorrectamente las máscaras de las mujeres como "cadenas de restricción" o "mordazas" el 23% de las veces, y solo identificó correctamente el 5% de las máscaras. Las máscaras para hombres se identificaron correctamente a una tasa del 12% y las cadenas de sujeción o mordazas mal etiquetadas el 10% de las veces cada una.
Ha habido muchos ejemplos documentados de visión por computadora, reconocimiento facial y otros tipos de inteligencia artificial que reflejan los prejuicios y la discriminación humanos incorporados en los datos en los que están capacitados. El problema se complica aún más por el hecho de que muchos de estos sistemas son algoritmos de caja negra en los que es difícil identificar problemas específicos.
"Es fascinante, pero no sorprendente, darse cuenta de que para cada uno de los tres servicios probados, encontramos sesgos de género al intentar resolver lo que parecía ser un problema de aprendizaje automático bastante sencillo", escribió Barsan. “Que esto haya sucedido entre los tres competidores, a pesar de stacks y misiones tecnológicas muy diferentes, no es sorprendente precisamente porque el problema va más allá de una sola empresa o un solo modelo de visión por computadora. .
The post Es más probable que la IA identifique erróneamente las máscaras femeninas – Adweek appeared first on SEM Marketing Online.
from WordPress https://semmarketing.online/2020/08/07/es-mas-probable-que-la-ia-identifique-erroneamente-las-mascaras-femeninas-adweek/
Comentarios
Publicar un comentario