Home » Inteligencia Artificial que ‘desvía’ los algoritmos
INTELIGENCIA ARTIFICIAL

Inteligencia Artificial que ‘desvía’ los algoritmos

AI Reconocimiento Facial

Hemos aprendido en los últimos años que los sistemas de inteligencia artificial pueden ser injustos, lo que es peligroso, ya que se utilizan cada vez más para hacer todo, desde predecir delitos hasta determinar qué noticias consumimos. El estudio del año pasado que muestra el racismo de los algoritmos de reconocimiento facial demostró una verdad fundamental sobre la IA: si entrenas con datos sesgados, obtendrás resultados parciales.

El algoritmo puede aprender tanto una tarea específica como la detección de rostros, como la estructura subyacente de los datos de entrenamiento, lo que le permite identificar y minimizar cualquier sesgo oculto. En las pruebas, el algoritmo disminuyó el “sesgo categórico” en más del 60 por ciento en comparación con los modelos de detección facial más modernos, al tiempo que mantiene la precisión general de estos sistemas. El equipo evaluó el algoritmo en el mismo conjunto de datos de imágenes faciales que fue desarrollado el año pasado por investigadores del MIT Media Lab.

Muchos de los enfoques existentes en este campo requieren al menos algún nivel de participación humana en el sistema para definir los sesgos específicos que los investigadores desean que aprendan. En contraste, el algoritmo del equipo del MIT puede observar un  , aprender lo que está intrínsecamente oculto en su interior y volver a muestrearlo automáticamente para que sea más justo sin necesidad de que haya un programador en el circuito.

“La clasificación facial en particular es una tecnología que a menudo se ve como ‘resuelta’, incluso cuando está claro que los conjuntos de datos que se usan a menudo no se verifican adecuadamente”, dice Ph.D. el estudiante Alexander Amini, quien fue co-autor principal en un artículo relacionado que se presentó esta semana en la Conferencia sobre Inteligencia Artificial, Ética y Sociedad (AIES). “La corrección de estos problemas es especialmente importante ya que empezamos a ver este tipo de algoritmos que se utilizan en seguridad,  y otros dominios”.

Amini dice que el sistema del equipo sería particularmente relevante para conjuntos de datos más grandes que son demasiado grandes para examinarlos manualmente y también se extiende a otras aplicaciones de visión artificial más allá de la detección facial.

X