Home » Problemas de Inteligencia Artificial de Hikvision son criticados por publicación china
INDUSTRIA INTELIGENCIA ARTIFICIAL

Problemas de Inteligencia Artificial de Hikvision son criticados por publicación china

Problemas, Problemas de Inteligencia Artificial de Hikvision son criticados por publicación china, SecureWeek

El reconocimiento facial de Hikvision funciona mal, causa retrasos y empeora el aprendizaje, según una nueva investigación realizada por una de las publicaciones más importantes de ChinaLas cámaras de Sixth Tone en la parte superior del aula ofrecen un análisis en profundidad del uso de la IA, incluido el reconocimiento facial, para administrar las escuelas.

El contexto de Inteligencia Artificial en la Escuelas Chinas

En julio de 2017, el máximo órgano gubernamental de China, el Consejo de Estado, lanzó una ambiciosa iniciativa política llamada Plan de Desarrollo de Inteligencia Artificial de la Próxima Generación (NGAIDP).

El plan de 20,000 palabras describe la estrategia de China para convertirse en el principal poder de AI en investigación y despliegue para 2030 mediante la construcción de una industria nacional de IA por un valor de casi $ 150 mil millones. Aboga por incorporar la IA en prácticamente todos los aspectos de la vida, incluida la medicina, el derecho, el transporte, la protección del medio ambiente y lo que se denomina “educación inteligente”.

Tras el lanzamiento del NGAIDP, las compañías tecnológicas chinas se apresuraron a obtener el apoyo del gobierno y la financiación de los inversores para varios proyectos de inteligencia artificial, varios de los cuales se están probando en escuelas chinas. Durante los últimos dos meses, entrevisté a una docena de estudiantes en escuelas que han instalado diferentes sistemas de “educación inteligente” y hablé con empresarios tecnológicos cuyas empresas están desarrollando los sistemas utilizados en esas escuelas.

Mientras los defensores afirman que el uso del reconocimiento facial para monitorear el comportamiento en clase de los estudiantes puede evaluar con precisión los niveles de atención y ayudarlos a aprender de manera más eficiente, la mayoría de los estudiantes con los que hablé tenían una opinión diferente. Mostraron preocupación porque la escuela nunca les pidió su consentimiento antes de recopilar sus datos faciales. Un estudiante expresó ansiedad ante la idea de que las ocasiones en que lo atraparan aflojándose en la clase eventualmente se utilizaría para determinar sus posibilidades de asistir a la universidad de sus sueños. Otros estudiantes desconectaron las cámaras en su escuela antes de los exámenes finales en protesta.

Que dice el reporte acerca de Hikvision

El reportero explica los problemas de Hikvision:

Todos con los que hablé en la Escuela Secundaria No. 11 de Hangzhou y en la Primera Escuela Secundaria Niulanshan expresaron su escepticismo acerca de la precisión y confiabilidad de la tecnología de reconocimiento facial . Como parte de su iniciativa de campus inteligente, Hangzhou No. 11 usa las cámaras de reconocimiento facial de Hikvision para registrar la tasa de asistencia de los estudiantes y para los pagos en el campus, pero no parece funcionar muy bien. Una estudiante me dijo que el sistema de Hikvision es particularmente inexacto para las niñas . “Una vez que cambiemos nuestros peinados o usemos gafas, la cámara ya no nos reconocerá [a nosotros]”, dice a través del texto. La diferente iluminación y los ángulos de sus caras también ralentizan el proceso de reconocimiento, haciendo que las líneas durante el almuerzo sean extremadamente largas.

Hangzhou No. 11 utiliza el “sistema de gestión de comportamiento inteligente en el aula” desarrollado por Hikvision, el mayor fabricante mundial de equipos de videovigilancia, con sede en Hangzhou. Al igual que CCS, la tecnología de reconocimiento facial de Hikvision también supervisa a los estudiantes utilizando cámaras instaladas sobre el pizarrón de cada aula. Además de los comportamientos en clase, que se dividen en seis categorías: leer, escribir, escuchar, levantarse, levantar las manos y acostarse en el escritorio, Hikvision también identifica siete expresiones faciales diferentes: neutral, feliz, triste, decepcionada, enojada , asustado, y sorprendido. Los datos se utilizan para generar el puntaje de un estudiante, que se muestra en una pantalla instalada en la pared de cada aula. El nivel de atención general de cada clase también se muestra en una pantalla gigante en el pasillo para que toda la escuela pueda comparar y clasificar.

El sistema de reconocimiento facial de Hangzhou No. 11 llegó a los titulares nacionales y extranjeros en mayo pasado. Como era de esperar, el programa fue recibido con críticas, pero el director de la escuela, Ni Ziyuan, dijo que creía que el sistema impulsaría los estándares educativos. “Es lo mismo que los maestros que tienen un asistente”, dijo en una entrevista. A diferencia de un asistente de enseñanza, las cámaras de reconocimiento facial no interrumpen la clase y capturan el estado más natural de los estudiantes, afirmó. El vicepresidente de la escuela, Zhang Guanchao, también dijo en entrevistas posteriores que el sistema ha tenido efectos positivos desde su implementación.

Sin embargo, los estudiantes se sienten diferente acerca del sistema. Una estudiante anónima de Hangzhou No. 11 que encontré en Internet me dice que se sintió sorprendida y asustada cuando el profesor demostró el sistema frente a toda la clase. “La cámara puede magnificar 25 veces lo que captura”, dice, y agrega: “No solo puede ver su cara, sino también los caracteres de su cuaderno. Después de todo, es de Hikvision. “Otro estudiante me dice que sus compañeros de clase fueron totalmente” aplastados “después de la instalación del sistema. Debido a que el sistema les da a los estudiantes una calificación pública, él y sus compañeros de clase no se atreven a dormir la siesta o incluso bostezan en clase por temor a ser penalizados, un incentivo que no necesariamente aumenta el enfoque en el aprendizaje. De hecho, los estudiantes dedican su tiempo a permanecer despiertos hasta que termine la clase. “Nadie sale del aula durante el descanso de la clase”, dice.

Si bien casi todos los fabricantes, incluido Hikvision, hacen afirmaciones acerca de su reconocimiento facial al trabajar con gafas, mascarillas, cambios de cabello, etc., lo que el reportero encontró no es sorprendente para aquellos que entienden cómo funciona la tecnología. A veces funciona, tal vez incluso la mayoría del tiempo, pero las excepciones causan problemas operativos importantes.

Actualizando las fotos de la cara regularmente

Curiosamente, uno de los rivales nacionales de Hikvision para el análisis en el aula, Hanvon / Hanwang (sin relación con el coreano Hanwha), admite en el informe la necesidad de actualizar regularmente las fotos para tratar los problemas de precisión:

Las escuelas normalmente capturan los datos faciales de los estudiantes al comienzo del semestre y los actualizan cada dos meses. “Estos adolescentes se ven diferentes cada dos meses. ¡La pubertad, ya sabes!

Sixth Tone descubrió que el sistema de Hikvision motivó a los estudiantes a mirar fijamente a la cámara:

Debido a que el sistema les da a los estudiantes una calificación pública, él y sus compañeros de clase no se atreven a dormir la siesta o incluso bostezan en clase por temor a ser penalizados, un incentivo que no necesariamente aumenta el enfoque en el aprendizaje . De hecho, los estudiantes dedican su tiempo a permanecer despiertos hasta que termine la clase. “Nadie sale del aula durante el descanso de la clase “, dice. ” Todos nos derrumbamos en los escritorios, durmiendo “. [Se agregó énfasis]

Si bien las siestas en clase pueden ser atípicas en las escuelas occidentales, en muchas escuelas chinas donde los estudiantes pueden pasar 12 horas o más al día, es un problema.

La escuela apaga la mayor parte del tiempo el sistema Hikvision

El informe continúa para encontrar que la escuela local de Hangzhou que utiliza Hikvision ha dejado de usar la mayor parte del sistema, limitándola a la simple detección de siestas:

Hangzhou No. 11 también parece darse cuenta de las deficiencias de la tecnología . Por teléfono, el subdirector Zhang Guanchao me dice que la escuela ha actualizado su sistema de reconocimiento facial y ya no evaluará las expresiones faciales . A los estudiantes ahora solo se les otorgará una puntuación negativa si son capturados en el escritorio .

Otro informe de noticias chino planteó el tema de la falta de una correlación entre los estudiantes “atentos” y el rendimiento:

Un estudiante de la clase piloto mencionó que desde la instalación, muchos estudiantes con buenas calificaciones fueron reconocidos como estado C por el sistema, y ​​los estudiantes también sintieron que “esto no es nada”.

Un programador en el centro de investigación de Hanwang Education muestra el "Sistema de cuidado de la clase" de la compañía en Beijing, el 2 de enero de 2019. Xue Yujie / Sixth Tone

Esto se extiende más allá de la precisión (o falta de ella) de los análisis a si las emociones o la capacidad de mirar una cámara se relacionan con el desempeño de los estudiantes en la escuela.

El sistema de aulas de Hikvision se ha convertido en una gran noticia dentro y fuera de China, dada la preocupación de muchos adultos por sus hijos, su privacidad y su éxito académico.

Y es potencialmente un gran negocio. Se estima que una sola escuela secundaria citada en el informe tiene un costo de ~ $ 200,000 USD si implementó tal sistema en toda la escuela (aunque del rival Hanvon de Hikvision). Si las escuelas se estandarizaran en dichos sistemas, fácilmente podría ser un mercado de varios cientos de millones de dólares anuales.

Desafío para HIkvision

En términos más generales, el desafío para Hikvision es si pueden tener éxito como AI o una empresa de big data, tal como lo han comercializado. De hecho, Hikvision ha atenuado su marketing de inteligencia artificial después de liderar con él en 2017 y 2018 como el presidente de Hikvision ha admitido los desafíos de inteligencia artificial .

Lo mejor de los esfuerzos de AI de Hikvision es su propietario, el gobierno chino, quien lo defiende. Sin embargo, en última instancia, para la mayoría de los compradores no obligados, la tecnología tendrá que funcionar bien y con un mínimo de interrupciones operativas, algo que este destacado caso de clase muestra aún es un desafío.

X