Home » Investigadores de Inteligencia Artificial reprenden a Amazon por vender a la policía tecnología de reconocimiento facial defectuosa
INTELIGENCIA ARTIFICIAL

Investigadores de Inteligencia Artificial reprenden a Amazon por vender a la policía tecnología de reconocimiento facial defectuosa

Reconocimiento Facial Amazon Policía

Investigadores han citicado a Amazon antes por Rekognition, la tecnología de reconocimiento facial que la compañía ha permitido usar a la policía y que ha generado preocupación porque la compañía está esencialmente apoyando el estado de vigilancia. La tecnología también ha estado bajo escrutinio en el pasado por una variedad de otras razones, como el hecho de que el sistema podría tener fallas de una manera que identifique erróneamente a las minorías, por ejemplo.

Ahora, los investigadores líderes en inteligencia artificial de todo el espectro académico y tecnológico, incluidos los de sus rivales de Amazon, como Google, Microsoft y Facebook, han publicado una carta abierta a través de Medium que reprende a Amazon por vender la tecnología a la policía. Y, por supuesto, la carta le pide a la empresa que se detenga.

Citando una declaración del vicepresidente de Amazon, Michael Punke, señalando que la compañía respalda la legislación que ayuda a garantizar que sus productos no se utilicen para infringir las libertades civiles, la carta continúa “pidiendo a Amazon que deje de vender Rekognition a la policía como tal legislación”. y las garantías no están en su lugar “.

La carta parece haber sido provocada en parte por la reacción de Amazon a la investigación de Joy Buolamwini, del Instituto de Tecnología de Massachusetts. Sus pruebas descubrieron que el software de compañías como Amazon, incluido el que se pone a disposición de la policía, daría índices de error más altos al tratar de detectar el género de las mujeres de piel oscura en comparación con los hombres de piel más clara. Según un informe de Associated Press , ella incluyó en su software de investigación de Microsoft e IBM, que buscaba solucionar los problemas que identificó.

Sin embargo, Amazon “respondió criticando sus métodos de investigación”. De la carta abierta de los investigadores de AI:

Actualmente no hay leyes vigentes para auditar el uso de Rekognition, Amazon no ha revelado quiénes son los clientes, ni cuáles son las tasas de error en diferentes características demográficas intersectoriales. ¿Cómo podemos entonces asegurarnos de que esta herramienta no se use de manera incorrecta como afirma (GM de Amazon Web Services para aprendizaje profundo y AI Matthew Wood)?

En lo que se puede confiar, continúa la carta, son auditorías realizadas por investigadores independientes como Buolamwini “con números concretos y experimentación claramente diseñada, explicada y presentada, que demuestra los tipos de sesgos que existen en estos productos. “Este trabajo crítico con razón levanta la alarma sobre el uso de tales tecnologías inmaduras en escenarios de alto riesgo sin un debate público y una legislación para garantizar que no se infrinjan los derechos civiles”.

X