@GettyImages<\/p>\n\n\n\n
Joshua Franco es asesor general de Investigaci\u00f3n en Amnesty Tech <\/em> <\/p>\n\n\n\n Durante a\u00f1os, la UE ha asumido un papel de liderazgo en la creaci\u00f3n normas de protecci\u00f3n de nuestros derechos en Internet. Pero ahora los vientos han cambiado y, bajo el pretexto de la \u201csimplificaci\u00f3n\u201d, se est\u00e1 produciendo un acusado debilitamiento de las normas digitales, con el respaldo de las empresas<\/a>, que amenaza todos nuestros derechos, tanto en la esfera digital como fuera de ella.<\/p>\n\n\n\n Quienes defienden los derechos humanos, incluida Amnist\u00eda Internacional, vienen documentando algunas de las repercusiones que las nuevas tecnolog\u00edas tienen en las personas, y, a juzgar por ellas, est\u00e1 claro que en este momento es m\u00e1s necesario que nunca reforzar la protecci\u00f3n de los derechos. A pesar de ello, esta agenda de simplificaci\u00f3n tiene como objetivo reducir precisamente esa protecci\u00f3n.<\/p>\n\n\n\n Cada vez es m\u00e1s evidente que este proceso conduce inevitablemente al socavamiento de las disposiciones de la Ley de IA<\/a> y de la protecci\u00f3n de datos, y quiz\u00e1 a mucho m\u00e1s. La Comisi\u00f3n tambi\u00e9n ha propuesto un control de adecuaci\u00f3n de la legislaci\u00f3n de la UE relativa al entorno digital (Control de Adecuaci\u00f3n Digital). Aunque no se nos ha informado de lo que esto supondr\u00e1 en la pr\u00e1ctica, lo m\u00e1s probable es que se trate de un ejercicio para identificar otras leyes susceptibles de ser \u201csimplificadas\u201d. Todo esto se est\u00e1 llevando a cabo mediante procedimientos acelerados, sin evaluaciones previas del impacto que pregunten sobre las vivencias de las personas y las comunidades con las tecnolog\u00edas emergentes y de alto riesgo, y los perjuicios que \u00e9stas les causan, bas\u00e1ndose en el argumento absurdo de que las leyes que protegen nuestros derechos pueden recortarse sin que ello afecte a nuestros derechos.<\/p>\n\n\n\n Basta con hacer un breve repaso de los derechos humanos que est\u00e1n en juego para darse cuenta de que la UE est\u00e1 avanzando en la direcci\u00f3n equivocada. Una de las piezas legislativas en el punto de mira es el Reglamento General de Protecci\u00f3n de Datos<\/a> (RGPD). El RGPD no s\u00f3lo regula la cuesti\u00f3n de las notificaciones de cookies<\/em>. Esta legislaci\u00f3n se\u00f1era es uno de los principales medios para proteger no solo a la poblaci\u00f3n europea, sino de todo el mundo, frente al el uso indebido de sus datos personales por parte de las grandes empresas tecnol\u00f3gicas y los Estados. Aunque su aplicaci\u00f3n ha sido insuficiente, el potencial de esta ley como baluarte contra el voraz apetito del modelo de negocio de Sillicon Valley, basado en la vigilancia ilegal<\/a>, es de vital importancia.<\/p>\n\n\n\n Sin una protecci\u00f3n adecuada, nuestros datos pueden ser recopilados a voluntad, utilizados para elaborar perfiles discriminatorios o injustos, reempaquetados, combinados, analizados y vendidos y revendidos por una red enorme y compleja de corredores de datos y empresas de publicidad online. Tambi\u00e9n pueden compartirse o venderse a autoridades estatales, que pueden utilizarlos para elaborar perfiles, someternos a vigilancia ilegal, negarnos nuestros derechos \u2014a prestaciones sociales, entre otros\u2014 o incluso decidir si arrestarnos o detenernos. Esto no solo pone en peligro todos nuestros derechos humanos, sino que tambi\u00e9n amenaza la seguridad nacional, al ponerse a la venta en todo el mundo datos de ubicaci\u00f3n y otros datos personales sensibles<\/a> de funcionarios gubernamentales y de seguridad \u2014y de cualquier otra persona\u2014, lo que nos expone al chantaje y a la vigilancia masiva.<\/p>\n\n\n\n Otra norma clave en el punto de mira es la Ley de IA, que establece medidas de protecci\u00f3n relativas al desarrollo y el uso de la inteligencia artificial. Los da\u00f1os a los que la humanidad entera est\u00e1 expuesta por los sistemas de IA y contra los que esta ley podr\u00eda ayudarnos a protegernos son enormes. En Dinamarca<\/a>, las autoridades han puesto en marcha un nuevo sistema basado en inteligencia artificial para detectar casos de fraude en su sistema de prestaciones sociales. La investigaci\u00f3n de Amnist\u00eda Internacional concluy\u00f3 que, en lugar de obtenerse los beneficios previstos se acabaron socavando los derechos humanos, como suele ocurrir con este tipo de sistemas.<\/p>\n\n\n\n El sistema utilizaba variables como los v\u00ednculos con pa\u00edses extranjeros o las constelaciones habitacionales \u201cinusuales\u201d para detectar posibles casos de fraude, lo que acab\u00f3 afectando de manera desproporcionada a las personas de origen inmigrante y a aquellas cuyo estilo de vida se desviara de lo que se consideraba \u201cnormal\u201d en la sociedad danesa. Estas personas, al igual que otros miembros de grupos marginados, acabaron siendo sometidas no solo a vigilancia digital mediante el uso de sus datos personales, sino tambi\u00e9n a formas invasivas de vigilancia anal\u00f3gica, como el denominado \u201clevantamiento de edred\u00f3n\u201d, destinado a determinar si una persona podr\u00eda estar conviviendo con una pareja.<\/p>\n\n\n\n Este tipo de perjuicios son precisamente los que la nueva Ley de IA de la UE deber\u00eda ayudar a prevenir. De hecho, en Amnist\u00eda Internacional creemos que en virtud de la Ley de IA este tipo de sistemas deber\u00edan definirse como sistemas de \u201cpuntuaci\u00f3n social\u201d y prohibirse. Si el reglamento \u00f3mnibus contin\u00faa en la direcci\u00f3n hacia la que se encamina, y se debilita la Ley de IA incluso antes de que entre plenamente en vigor, es posible que tengamos a\u00fan menos protecci\u00f3n frente a estos sistemas, ya que las reformas propuestas socavar\u00e1n a\u00fan m\u00e1s los ya de por s\u00ed escasos requisitos de transparencia para los sistemas de alto riesgo, lo que, en la pr\u00e1ctica, permitir\u00e1 a las empresas autocertificar si un sistema de IA debe considerarse seguro o no.<\/p>\n\n\n\n Dinamarca tampoco es un caso aislado. Nuestra investigaci\u00f3n sobre el \u201destado del bienestar digital\u201d muestra que los da\u00f1os a los derechos humanos, especialmente al derecho a la seguridad social y a la no discriminaci\u00f3n, son inherentes a casi todos estos sistemas cada vez m\u00e1s omnipresentes, incluidos los de Pa\u00edses Bajos<\/a>, Serbia<\/a>, Francia<\/a>, Suecia<\/a> y Reino Unido<\/a>.<\/p>\n\n\n\n Las amenazas a los derechos humanos que plantea la IA no se detienen ah\u00ed. En Hungr\u00eda, los cambios legislativos allanaron el camino para el uso de la tecnolog\u00eda de reconocimiento facial por parte de los organismos encargados de aplicar la lay en una serie de nuevos contextos, lo que permiti\u00f3 la vigilancia generalizada de las reuniones pac\u00edficas, en particular las marchas del Orgullo en Budapest y Pecs<\/a>.<\/p>\n\n\n\n Para protegernos contra todo esto, lo que se necesita es una regulaci\u00f3n m\u00e1s estricta y una aplicaci\u00f3n m\u00e1s rigurosa. Incluso una aplicaci\u00f3n en\u00e9rgica de la Ley de IA dejar\u00eda brechas enormes<\/a> que deben abordarse. A pesar del esfuerzo coordinado de la sociedad civil, el texto final de la Ley de IA no protege a las personas de todo el mundo frente a la exportaci\u00f3n de tecnolog\u00eda peligrosa cuyo uso est\u00e1 prohibido en Europa, y tampoco protege los derechos de la poblaci\u00f3n en movimiento. Pero el paquete legislativo deja claro que la Comisi\u00f3n est\u00e1 m\u00e1s interesada en allanar el camino al beneficio empresarial que en hacer lo necesario para colmar estas brechas y proteger nuestros derechos.<\/p>\n\n\n\n Los reglamentos de la UE tambi\u00e9n afectan al modo en que las grandes plataformas digitales influyen en nuestros derechos, y si, como cabe esperar, el Reglamento de Servicios Digitales<\/a> y el Reglamento de Mercados Digitales<\/a> se incorporan al \u00e1mbito de aplicaci\u00f3n (por ejemplo, a trav\u00e9s del denominado \u201cControl de Adecuaci\u00f3n Digital\u201d), esto tambi\u00e9n podr\u00eda suponer un importante retroceso. No se puede subestimar el riesgo que supone la selecci\u00f3n algor\u00edtmica de nuestros contenidos en l\u00ednea, basada en la vigilancia y orientada a los beneficios. La investigaci\u00f3n de Amnist\u00eda Internacional ha demostrado que esta tecnolog\u00eda ha contribuido a la limpieza \u00e9tnica contra la poblaci\u00f3n musulmana rohiny\u00e1<\/a> en Myanmar y la comisi\u00f3n de graves abusos contra los derechos humanos de la poblaci\u00f3n tigriana en Etiop\u00eda<\/a>, donde Meta no s\u00f3lo no moder\u00f3, sino que en algunos casos amplific\u00f3 activamente, contenidos nocivos y discriminatorios en Facebook.<\/p>\n\n\n\n Amnist\u00eda tambi\u00e9n ha constatado en repetidas ocasiones que esta tecnolog\u00eda, concretamente el feed<\/em> \u201cPara ti\u201d de TikTok, puede empujar a los ni\u00f1os, ni\u00f1as y j\u00f3venes a una espiral de contenido sobre depresi\u00f3n, autolesiones y suicidio. Los ni\u00f1os, ni\u00f1as y j\u00f3venes franceses entrevistados para la investigaci\u00f3n<\/a> de Amnist\u00eda Internacional contaron que, tras buscar contenido relacionado con la salud mental, TikTok les mostraba un flujo cada vez mayor de v\u00eddeos que normalizaban e incluso fomentaban las autolesiones y el suicidio. Las madres y padres de ni\u00f1os y ni\u00f1as que se hab\u00edan suicidado describieron el horror que supuso descubrir el contenido que TikTok estaba mostrando a sus hijos despu\u00e9s de su muerte.<\/p>\n\n\n\n La legislaci\u00f3n sobre derechos digitales de la UE ofrece protecciones esenciales, pero insuficientes, contra este tipo de da\u00f1os. Es necesario reforzarla y aplicarla, no reducirla.<\/p>\n\n\n\n El proceso de simplificaci\u00f3n se sustenta enteramente en una premisa err\u00f3nea. La Comisi\u00f3n parece creer que los derechos son un obst\u00e1culo para la competitividad y la innovaci\u00f3n, pero la verdadera innovaci\u00f3n consiste en encontrar el modo de hacer que las nuevas tecnolog\u00edas beneficien a todas las personas, sin pisotear nuestros derechos humanos. La nueva oleada de leyes europeas empieza a permitirnos imaginar un mundo en el que el poder de las grandes empresas tecnol\u00f3gicas pueda verse significativamente limitado; en el que nuestro derecho a no ser objeto de la elaboraci\u00f3n de perfiles y la discriminaci\u00f3n interminables pueda ser una herramienta para frenar los abusos de los Estados y los monopolios empresariales.<\/p>\n\n\n\n Pero en lugar de aprovechar este progreso, la Comisi\u00f3n parece estar apresur\u00e1ndose a satisfacer los intereses de las empresas y construir un \u201cContinente de IA<\/a>\u201d, eliminando las barreras que protegen nuestros datos personales \u2014y, por lo tanto, a las personas que somos\u2014 de ser engullidos por el voraz apetito de beneficio de las grandes empresas tecnol\u00f3gicas, a costa de nuestro medioambiente y nuestros derechos. Debemos oponernos a este intento de reducir las protecciones en nombre de la simplificaci\u00f3n y decirle a la Comisi\u00f3n que nuestros derechos humanos no se venden.<\/p>\n\n\n\nRGPD: \u00bfqu\u00e9 est\u00e1 en juego?<\/strong><\/h2>\n\n\n\n
Implicaciones en la Ley de IA<\/strong><\/h2>\n\n\n\n
Qu\u00e9 implicaciones tendr\u00eda el paquete legislativo para el DSA y el DMA<\/strong><\/h2>\n\n\n\n
Justificaci\u00f3n de una regulaci\u00f3n m\u00e1s estricta<\/strong><\/h2>\n\n\n\n