Desmontando el uso de Big Data para deportar
El creciente uso de la tecnología digital y el tratamiento a gran escala de datos personales para el control de la inmigración sigue la tendencia a difuminar la línea entre el control de la inmigración y los objetivos de seguridad. El resultado es el aumento de la vigilancia y la discriminación de las personas de color y de las minorías religiosas y étnicas.
Como ha señalado el experto en derechos humanos de la ONU sobre el racismo, en la mayoría de los contextos nacionales es más difícil para los no ciudadanos protegerse de los abusos del Estado. Al mismo tiempo, los gobiernos ejercen su poder en la gestión de las fronteras y la aplicación de las leyes migratorias que no están sujetos a las garantías procesales habituales que se garantizan a los ciudadanos. El resultado es el desarrollo y el despliegue de tecnologías digitales para el control de la inmigración de forma "singularmente experimental, peligrosa y discriminatoria".
Por ejemplo, desde 2013, Frontex (la guardia fronteriza y costera de la UE) lleva a cabo la operación Eurosur, un marco de intercambio de información y cooperación entre los Estados miembros y Frontex para prevenir la migración irregular y la delincuencia transfronteriza mediante el uso de drones, buques, aviones tripulados y no tripulados, helicópteros y satélites con sistema de radar, cámaras térmicas y sensores de alta tecnología. Eurosur se inspira en el Sistema Integrado de Vigilancia Exterior (SIVE) de España, en funcionamiento desde el año 2000 para vigilar sus fronteras costeras meridionales mediante tecnología de radares, cámaras de alta tecnología, sistema de identificación automática de buques y guardias fronterizos en la frontera entre España y Marruecos y en las aguas territoriales españolas. En Hungría y Grecia, un proyecto piloto financiado por la UE introdujo detectores de mentiras con tecnología de IA en los puestos de control fronterizos de los aeropuertos, con el fin de observar los rostros de las personas en busca de signos de mentira y señalarlas para que sean examinadas por un agente humano. Y en Alemania, la Oficina Federal de Migración y Refugiados (BAMF) ha utilizado sistemas automatizados de reconocimiento de texto y voz en los procedimientos de asilo.
La tendencia a utilizar la tecnología digital y los macrodatos para la aplicación de las leyes migratorias de forma que se difumine la línea entre el control de la migración y los objetivos de seguridad se materializa aún más en la normativa de la UE sobre bases de datos de migración interoperables. Adoptados apenas un año después de la entrada en vigor del Reglamento General de Protección de Datos (RGPD) de la UE, estos dos reglamentos crean una base para interconectar múltiples bases de datos de migración (junto con los datos sobre antecedentes penales) para perseguir objetivos relacionados con el control de la inmigración y la lucha contra los delitos graves. El marco de interoperabilidad se centra exclusivamente en los nacionales de países no pertenecientes a la UE con fines que combinan la aplicación de las leyes migratorias y la persecución de "delitos graves" como el terrorismo, lo que implica un falso vínculo entre la delincuencia y la inmigración. Esto crea un sistema profundamente complejo con múltiples bases de datos interconectadas que aumenta la probabilidad de errores y hace extremadamente difícil informar a las personas sobre cómo se utilizan sus datos, cómo pueden rectificarlos y obtener soluciones efectivas cuando hay errores o abusos.
En abril de 2021, la Comisión Europea propuso un nuevo reglamento sobre inteligencia artificial que reconoceque ciertos usos de la IA en el contexto dela migración y el asilopresentan un "alto riesgo" para los derechos fundamentales y la seguridad. Sin embargo, propone respuestas limitadas, en su mayoría técnicas, a este riesgo, prestando poca atención al impacto de estas tecnologías en el bienestar y los derechos de las personas más afectadas. Preocupantemente, las bases de datos de migración interoperables están explícitamente exentas de las normas, incluso mínimas, establecidas por la Ley.
El tratamiento de los datos personales de las personas indocumentadas con fines de control migratorio también se produce dentro de las fronteras europeas. Los datos personales se comparten a menudo cuando las personas indocumentadas denuncian delitos o malos tratos a la policía, exponiéndolas a la detención y la deportación y disuadiéndolas de buscar ayuda. Los datos personales también se utilizan para "vigilar" a las personas indocumentadas que acceden a la asistencia sanitaria, los servicios sociales y la educación. Además de sus efectos nocivos para la salud y la seguridad de las personas, estas prácticas pueden dar lugar a la elaboración de perfiles raciales y a la discriminación. Para salvaguardar los derechos fundamentales, se necesitan "cortafuegos"para que la aplicación de las leyes migratorias se mantenga siempre separada del acceso a los servicios y ayudas fundamentales.
El uso de la tecnología puede empeorar las cosas, al aumentar el potencial de discriminación y daño de formas que a menudo son menos visibles. Al mismo tiempo, es importante no perder de vista que el problema fundamental es el despliegue de estas tecnologías para avanzar en una agenda ya dañina.
Nuestro informe:
Protección de datos, control de la inmigración y derechos fundamentales
Recomendaciones de PICUM
Para los funcionarios de la Unión Europea:
- Adoptar una Ley de Inteligencia Artificial (IA) que reconozca y aborde las implicaciones en materia de derechos fundamentales de algunos usos de la inteligencia artificial. Esto significa, entre otras cosas;
- Garantizar que la Ley de IA se aplique a los usos de la IA en el contexto de las bases de datos de migración de la UE;
- incluir en la Ley de IA mecanismos de actualización sólidos y coherentes para los sistemas de IA de riesgo "inaceptable" y "limitado", así como la obligación de que los operadores de IA de alto riesgo realicen una evaluación del impacto sobre los derechos fundamentales;
- La creación de derechos individuales en la Ley de AI como base para los recursos judiciales, así como el derecho a un recurso efectivo cuando se hayan infringido esos derechos y un mecanismo para que las organizaciones de interés público presenten una queja ante las autoridades nacionales de supervisión.
- Garantizar la supervisión democrática y los sistemas de rendición de cuentas de los usos de la tecnología digital y el tratamiento de datos personales a gran escala. Dadas las reconocidas asimetrías de información y de poder entre quienes desarrollan y despliegan la tecnología digital y quienes están sometidos a ella, la UE debe integrar mecanismos de supervisión y consulta genuinos, incluso con las organizaciones de la sociedad civil y las comunidades que más probablemente experimenten los efectos perjudiciales de estos sistemas. También deben existir sistemas accesibles de rendición de cuentas que permitan la reparación de las violaciones de derechos relacionadas con el uso de estos sistemas y tecnologías. Para ello, es necesario facultar a los organismos de igualdad, a las autoridades de protección de datos y a otros organismos públicos pertinentes para que rindan cuentas sobre las implicaciones de la tecnología digital y el procesamiento de datos para los derechos humanos y la discriminación.
- Cumplir con los compromisos del Plan de Acción contra el Racismo de la UE incorporando una perspectiva de igualdad racial en todos los ámbitos políticos, incluida la migración. La Comisión Europea debe garantizar que el Grupo de Trabajo sobre la Igualdad tome medidas significativas para identificar y abordar las dimensiones de la igualdad racial en las políticas migratorias de la UE, con una participación significativa de los defensores de la justicia racial y los derechos de los migrantes en el proceso.
Para los defensores que trabajan a nivel nacional/local:
- Conéctate con defensores de los derechos digitales y de la justicia racial en tu contexto nacional para explorar y comprender juntos las políticas y prácticas que afectan a las personas indocumentadas en tu país: en la frontera (por ejemplo, vigilancia remota, procedimientos de detección), en sus interacciones con las autoridades de inmigración en los procedimientos de asilo y visado, y en sus interacciones con la policía.
- Informa a las personas indocumentadas sobre cómo les afecta la tecnología digital y sobre cómo defender sus derechos. La falta de transparencia en torno al uso de la tecnología digital, y su complejidad, hacen que sea muy difícil entender dónde y cómo se está utilizando, y mucho menos controlar y responsabilizar a los actores públicos y privados de su uso (y mal uso). Lo que sí está claro es que habrá consecuencias prácticas para los inmigrantes, que deben ser conscientes de cómo se verán afectados, y de cómo pueden impugnar los errores y las violaciones de sus derechos. Todos debemos hacer lo que podamos para apoyarles en esto. Aunque es problemática en muchos aspectos, la legislación de la UE ofrece una sólida protección del derecho a la intimidad y a la protección de datos, independientemente de la residencia o la situación migratoria de la persona. Las autoridades nacionales de protección de datos y los organismos de derechos humanos también pueden ser una importante fuente de información y proporcionar vías para la rendición de cuentas.
- Haz presión por políticas que garanticen que la aplicación de las leyes migratorias se mantiene separada de la prestación de servicios clave. Aboga por la creación de "cortafuegos"que garanticen que las personas indocumentadas que intentan recibir atención sanitaria, ir a la escuela, acceder a servicios, denunciar delitos o buscar reparación por violaciones de los derechos laborales no se enfrentan a consecuencias migratorias.
- Documenta el impacto de la tecnología digital en las personas indocumentadas. Cuando veas usos de la tecnología digital que son discriminatorios o perjudiciales, o barreras a la responsabilidad, documéntalo. Esto proporcionará pruebas que pueden apoyar la promoción, así como posibles desafíos legales para cambiar las leyes y prácticas problemáticas.
- Comprometerse y abogar. Los derechos digitales y los derechos de los migrantes pueden parecer esferas distantes, con poco en común. Pero el mundo está cambiando, y el solapamiento entre los derechos digitales y los derechos de los migrantes está más cerca que nunca, y lo que está en juego es más importante que nunca. Es fundamental que las organizaciones y los defensores salgan de sus silos y se tomen el tiempo y el valor de formarse y hablar, juntos, de estas cuestiones que están en la intersección de nuestro trabajo. Es fundamental que los defensores de los derechos digitales se opongan a que los problemas y las soluciones en materia de derechos digitales se consideren principalmente cuestiones técnicas para los informáticos y los "expertos", y que el contexto más amplio de los derechos humanos y la justicia racial se tenga en cuenta en este trabajo y en la promoción, a través de la colaboración y la promoción conjunta.
Nuestros informes:
