Estudio de Microsoft dice que la investigación de IA necesita abordar mejor el racismo – Adweek

A pesar de la creciente presión de la comunidad de inteligencia artificial para eliminar los prejuicios humanos contenidos en muchos algoritmos, un estudio reciente realizado por investigadores de Microsoft encontró que los esfuerzos para resolver estos problemas a menudo no han tenido en cuenta el verdadero naturaleza y alcance del racismo estructural.

Los autores analizaron 146 artículos recientes publicados sobre sesgos integrados en modelos de IA del procesamiento del lenguaje natural y descubrieron que a menudo no lograban definir suficientemente los sesgos o la relación entre el lenguaje y las jerarquías sociales. enraizado También declararon que la mayoría de las medidas cuantitativas propuestas para medir el sesgo en la IA no tienen en cuenta la investigación social existente fuera de los campos técnicos.

"Aunque estos artículos han sentado las bases esenciales al ilustrar algunas de las formas en que los sistemas (procesamiento del lenguaje natural) pueden ser perjudiciales, la mayoría de ellos no abordan críticamente lo que constituye un" sesgo "en primer lugar", escribieron los autores. "Los artículos sobre" sesgo "en los sistemas de PNL están repletos de suposiciones tácitas sobre los tipos de comportamiento del sistema que son perjudiciales, de qué maneras, a quién y por qué".

Los autores dividieron los artículos que revisaron en función de su propósito declarado, incluidas categorías como los estereotipos o la asignación de recursos, como un sistema más propenso a contratar a una persona. Una cierta raza. Pero casi la mitad del tiempo, descubrieron que las motivaciones para la investigación eran demasiado vagas y que las correlaciones que destacaban eran cuestionables.

"Estos ejemplos no dicen lo que podría significar para un sistema de PNL" discriminar ", qué constituye un" sesgo sistemático "o cómo los sistemas de PNL contribuyen a la" injusticia social "(en sí no definido) ", escribieron.

El estudio se produce después de que el grupo de investigación OpenAI, en el que Microsoft ha invertido $ 1 mil millones, publicó recientemente un documento sobre la última versión de su generación de lenguaje ultrapotente, GPT-3, que incluía una sección sobre las deficiencias del sistema con respecto a la discriminación racial y de género. Los investigadores han descubierto que la herramienta, formada en casi un billón de palabras rayadas en Internet, es más probable que incluya menciones de negros en sentimientos más negativos que otros grupos y usos raciales. identificadores masculinos más probables, especialmente en contextos profesionales.

Un creciente movimiento de académicos, tecnólogos y activistas ha hecho campaña durante mucho tiempo por un enfoque más interdisciplinario para el estudio de la IA que no solo identifique los prejuicios integrados en los sistemas, sino que también aproveche la investigación. en ciencias sociales y otros campos para entenderlos. Las mejores universidades como Stanford, MIT y la Universidad de Nueva York han establecido centros de investigación dedicados a un estudio multidisciplinario de IA.

Con respecto a la resolución de los problemas que describen, los investigadores recomiendan a quienes adoptan prejuicios "articular sus conceptualizaciones de" prejuicios "… y centrar el trabajo en las experiencias vividas por los miembros de la comunidad. afectados por los sistemas de PNL, mientras cuestionan y reinventan las relaciones de poder entre los tecnólogos y estas comunidades. "

The post Estudio de Microsoft dice que la investigación de IA necesita abordar mejor el racismo – Adweek appeared first on SEM Marketing Online.

from WordPress https://semmarketing.online/2020/06/05/estudio-de-microsoft-dice-que-la-investigacion-de-ia-necesita-abordar-mejor-el-racismo-adweek/