Inicio » Drones con Inteligencia Artificial podrán patrullar a Europa
INTELIGENCIA ARTIFICIAL

Drones con Inteligencia Artificial podrán patrullar a Europa

Roborder

La Unión Europea está financiando un proyecto para desarrollar drones controlados por inteligencia artificial y diseñados para patrullar de forma autónoma las fronteras de Europa. Los drones operarán en enjambres, coordinando y corroborando la información entre flotas de cuadricópteros, pequeños aviones de ala fija, vehículos terrestres, submarinos y barcos. Los desarrolladores del proyecto, conocido como Roborder, dicen que los robots podrán identificar a los humanos y decidir independientemente si representan una amenaza. Si determinan que puede haber cometido un delito, lo notificarán a la policía fronteriza.

El presidente Donald Trump ha utilizado el espectro de criminales que cruzan la frontera sur para estimular el sentimiento político nacionalista y energizar su base. En Europa, dos años después del apogeo de la crisis migratoria que trajo a más de un millón de personas al continente, principalmente de Medio Oriente y África, la inmigración sigue siendo un tema candente, incluso cuando el número de recién llegados ha disminuido. Los partidos políticos en toda la Unión Europea están ganando elecciones en plataformas anti-inmigrantes y promulgando políticas fronterizas cada vez más restrictivas . Los especialistas en ética y los defensores de la privacidad se preocupan de que Roborder y proyectos como este subcontraten demasiado el trabajo de aplicación de la ley a actores no humanos y puedan ser fácilmente armados contra personas en áreas fronterizas.

“El desarrollo de estos sistemas es un paso oscuro hacia un territorio moralmente peligroso”, dijo Noel Sharkey, profesor emérito de robótica e inteligencia artificial en la Universidad de Sheffield en el Reino Unido y uno de los fundadores del Comité Internacional para el Control de Armas Robot, una organización sin fines de lucro que Aboga contra el uso militar de la robótica. Sharkey enumera ejemplos de drones armados actualmente en el mercado: robots voladores equipados con Tasers, gas pimienta, balas de goma y otras armas. Advierte sobre las implicaciones de combinar esa tecnología con la toma de decisiones basada en AI y usarla en zonas fronterizas políticamente cargadas. “Es solo una cuestión de tiempo antes de que un drone pueda tomar medidas para detener a las personas”, dijo Sharkey a The Intercept.

Los desarrolladores de Roborder también pueden estar violando los términos de su financiamiento, según los documentos sobre el proyecto obtenidos a través de las regulaciones de transparencia de la Unión Europea. La iniciativa está financiada principalmente por una donación de investigación e innovación de 8 millones de euros de la UE diseñada para proyectos que son exclusivamente no militares, pero los desarrolladores de Roborder reconocen que partes de su sistema propuesto involucran tecnología militar o podrían convertirse fácilmente para uso militar.

Gran parte del desarrollo de Roborder está clasificado, pero The Intercept obtuvo informes internos relacionados con consideraciones éticas y preocupaciones sobre el programa. Esa documentación fue redactada incorrectamente y inadvertidamente liberada en su totalidad.

En uno de los informes, los desarrolladores de Roborder intentaron abordar los criterios éticos que están vinculados a su financiación de la UE. Los desarrolladores consideraron si su trabajo podría modificarse o mejorarse para dañar a los humanos y qué podría suceder si la tecnología o el conocimiento desarrollado en el proyecto “terminaron en las manos equivocadas”. Estos problemas éticos se plantean, escribieron los desarrolladores, cuando “la investigación hace uso de información clasificada, materiales o técnicas; “materiales peligrosos o restringidos [;] y si los resultados específicos de la investigación podrían representar un peligro para los participantes o para la sociedad en general”.

Los desarrolladores de Roborder argumentaron que estas preocupaciones éticas no se aplicaban a su trabajo, afirmando que su único objetivo era desarrollar y probar la nueva tecnología, y que no se vendería ni se transferiría fuera de la Unión Europea durante el ciclo de vida del proyecto. Pero en entrevistas con The Intercept, los desarrolladores del proyecto reconocieron que su tecnología podría ser reutilizada y vendida, incluso fuera de Europa, una vez que el ciclo del proyecto europeo haya finalizado, lo que se espera que ocurra el próximo año.

Más allá del proyecto Roborder, los informes de ética presentados ante la Comisión Europea sugieren una pregunta más amplia: cuando se trata de nuevas tecnologías con potencial para ser utilizadas contra personas vulnerables en lugares con poca protección de los derechos humanos, quién decide qué debemos y no debemos desarrollar. ?

ROBORDER GANÓ SU subvención de financiamiento en 2017 y se ha propuesto desarrollar un prototipo comercializable, “un enjambre de robótica para apoyar el monitoreo de fronteras”, para mediados de 2020. Sus desarrolladores esperan construir y equipar una colección de drones aéreos, marinos y terrestres que puedan combinarse y enviarse en misiones de patrulla fronteriza, buscando “amenazas” de forma autónoma basadas en información proporcionada por operadores humanos, dijo Stefanos Vrochidis, gerente de proyectos de Robordinger. .

Los drones emplearán cámaras ópticas, infrarrojas y térmicas; Radar; y sensores de radiofrecuencia para determinar amenazas a lo largo de la frontera. Las frecuencias de los teléfonos celulares se usarán para triangular la ubicación de las personas sospechosas de actividades delictivas, y las cámaras identificarán a los humanos, armas, vehículos y otros objetos. “El objetivo principal es tener tantos sensores en el campo como sea posible para ayudar al personal de patrulla”, dijo Kostas Ioannidis, gerente técnico de Roborder.

El producto final será probado por la policía fronteriza en varios países europeos, incluyendo Portugal, Hungría y Grecia, pero el proyecto también ha generado un interés considerable en el sector privado. “Eventualmente, tenemos compañías que sin duda querrían explotar esto comercialmente”, dijo Vrochidis a The Intercept. “Podrían explotar todo el resultado o parte del resultado, dependiendo. Pueden explotar esto en Europa pero también fuera de Europa “.

En su acuerdo de subvención, los desarrolladores de Roborder dijeron a la Comisión Europea que no previeron ninguna exportación de su tecnología fuera de la UE. Sin embargo, en las entrevistas, los desarrolladores dijeron a The Intercept que las compañías involucradas estarían dispuestas a vender su tecnología más allá de Europa. Según un portavoz del programa de subvenciones Roborder, Horizonte 2020 , no hay nada que puedan hacer los partidarios de Roborder de la UE para controlar dónde o cómo se utilizará finalmente la tecnología que financiaron.

Los documentos obtenidos por The Intercept muestran que Roborder responde a algunas inquietudes éticas sobre el proyecto, pero no sobre la tecnología en sí. En su solicitud de subvención, los desarrolladores de Roborder admitieron que su investigación “puede ser explotada por organizaciones criminales y criminales individuales cuando planean perpetrar actos de delitos graves o terrorismo”, pero escribieron que el consorcio de empresas públicas y privadas que desarrollan la tecnología trabajaría para mantener su datos seguros Ese grupo incluye compañías de fabricación de aviones no tripulados, varios departamentos de policía nacionales, dos guardias nacionales, un ministerio de defensa, una autoridad portuaria, una compañía de defensa cibernética, una compañía que se especializa en el desarrollo de equipos para la guerra electrónica y otra que proporciona “análisis predictivo” para la policía europea efectivo.

LEA TAMBIEN  Boeing presenta el avión militar de combate Loyal Wingman

En cuanto a la posible modificación de la tecnología para futuros clientes, las respuestas fueron menos claras. Los desarrolladores no harían comentarios sobre el potencial de ventas militares una vez que finalice el ciclo del proyecto. Los desarrolladores agregaron que su trabajo se retrasa porque uno de los socios clave del consorcio de Roborder, el fabricante portugués de drones Tekever, dejó el proyecto. Los portavoces de Roborder, Tekever y Horizon 2020 no explicaron los motivos de la partida de Tekever.

Horizon 2020 respalda muchos proyectos orientados a la seguridad, pero sostiene que “solo las investigaciones que tienen un enfoque exclusivo en aplicaciones civiles son elegibles para financiamiento”. El programa de subvenciones financiaba previamente un proyecto que utiliza inteligencia artificial para detectar si los viajeros mienten mientras pasan cruces fronterizos.

Sin embargo, los documentos obtenidos por The Intercept resaltan declaraciones inconsistentes sobre los posibles usos militares de Roborder. Según un informe, el proyecto no tiene potencial para el “uso dual”, ni para el despliegue militar y civil. Diez páginas más tarde, preguntaron si su trabajo involucraba elementos que podrían considerarse de doble uso según los estándares europeos, los desarrolladores de Roborder escribieron que sí.

Roborder contrató a un consultor, Reinhard Hutter, como asesor externo de ética para el proyecto, de acuerdo con otro documento del programa Horizonte 2020 que la Comisión Europea lanzó inadvertidamente en su totalidad. En su informe, Hutter escribió que “Roborder involucra tecnología con potencial militar”, y que “los resultados de este proyecto tienen el potencial de ser usados ​​nuevamente en el sector de la defensa”. La tecnología involucrada, escribió Hutter, tenía “algunos usos dobles”. potencial, pero no actividad de doble uso en el proyecto ”. En otras palabras, podría usarse con fines militares pero no se usaría de esa manera dentro del alcance de Roborder.

Hutter se negó a hablar con The Intercept.

Esta confusión de líneas entre el desarrollo militar y civil por parte del programa de financiación de la UE podría ser deliberada. En una guía de2014  sobre financiamiento europeo para proyectos de doble uso, la Comisión Europea señala que el reglamento que establece el horizonte 2020 establece que todos los proyectos financiados tienen “un enfoque exclusivo” en el desarrollo civil, pero el documento también dice que “partes sustanciales de la investigación financiado es relevante para la defensa y puede conducir a tecnologías que serán utilizadas por los actores de la defensa “.

Los autores de un  estudio de 2016  encargado por el subcomité de seguridad y defensa del Parlamento Europeo fueron más lejos y argumentaron que la cláusula de Horizon 2020 sobre el desarrollo civil exclusivo debe reinterpretarse para incluir la investigación de defensa. Para competir con el desarrollo tecnológico de los EE. UU., Los autores del estudio abogaron por la creación de un equivalente europeo de DARPA, la Agencia de Proyectos de Investigación Avanzada de la Defensa de los EE. UU., Cuyo trabajo contribuyó al desarrollo de Internet, el GPS y otras tecnologías. En un discurso de 2017, el presidente francés Emmanuel Macron se  hizo eco de que, al pedir, “una agencia europea para la innovación disruptiva en el mismo sentido que” DARPA.

El informe de 2016 no representa los puntos de vista del Parlamento Europeo o su subcomité de seguridad y defensa, y no se utilizó para desarrollar ninguna legislación específica, dijo un portavoz del Parlamento Europeo. Un portavoz de Horizonte 2020 rechazó la idea de que había alguna ambigüedad en qué tipo de proyectos financiaría la Unión Europea.

“La Comisión Europea no financia la investigación destinada para uso militar”, dijo.

LOS DRONES QUE ROBORDER planea desplegar son tecnología común. Lo que sería innovador para las compañías involucradas es un sistema funcional que permita que enjambres de drones operen de manera autónoma y al unísono para identificar objetivos de manera confiable. Según los investigadores de robótica, la detección de amenazas de la inteligencia artificial suele ser inexacta, por lo que cualquier sistema que pueda identificar de manera correcta y sistemática a personas, automóviles y armas, entre otras cosas, sería un avance sustancial y lucrativo.

Las cámaras con drones no usarán la tecnología de reconocimiento facial dentro del alcance del proyecto, explicó Ioannidis, el gerente técnico de Roborder, ni podrán determinar ninguna característica humana, como la altura, el peso, la edad, el color de la piel o el sexo percibido. “El sistema solo identificará que ‘este objeto es humano'”, agregó, “nada más”.

Aún así, Ioannidis admitió que agregar el reconocimiento facial al sistema Roborder más adelante sería “tecnológicamente posible”. ¿Qué hay de armar el sistema Roborder para actuar contra los humanos? “No”, dijo con firmeza. “Los robots no tienen ninguna autoridad para tomar medidas contra nadie. Es solo monitorear y dar alertas ”.

Pero Sharkey, el profesor de robótica del Reino Unido, argumenta que existe una línea delgada entre el uso de robots para monitorear un borde y su uso para imponer uno. Armar a un avión no tripulado es relativamente fácil, dijo, citando el caso de 2015 del adolescente de Connecticut que equipó un avión no tripulado con una pistola y un lanzallamas . Sharkey se preocupa por las implicaciones del desarrollo de sistemas autónomos para patrullar las fronteras, incluida la forma en que un país puede utilizar el sistema para hacer frente a una gran afluencia de personas.

“La pregunta es, ¿a dónde va esto?”, Preguntó Sharkey. “El proyecto actual no propone armar armas, pero sería demasiado tentador para los países si se produjera un punto de inflexión con la migración masiva”.

Hannah Couchman, investigadora de la organización británica de derechos humanos Liberty, está de acuerdo. “Hay preocupaciones profundas sobre los derechos humanos y la libertad civil con esta tecnología”, dijo a The Intercept. “Una vez que se desarrolla esta tecnología, se la ve como una solución, como una respuesta a la austeridad y una manera de hacer un trabajo de manera eficiente con un menor costo, todo esto implementado sin la debida consulta y el control legislativo”.

“No se trata solo de mitigar el riesgo de los derechos humanos”, dijo Couchman. “Se trata de si debemos usar la tecnología en primer lugar”.

X