¿Cuáles son los riesgos de la inteligencia artificial?

Apenas unos días antes de que Sam Altman, CEO de Open AI y nuevo gurú mediático de la tecnología se paseara por medio mundo alertando de la peligrosidad de una Inteligencia Artificial sin regulación, al mismo tiempo que expertos/as en esta tecnología publicaran una carta abierta en la que pedían “mitigar el riesgo de extinción” que supone la Inteligencia Artificial para la humanidad, Amnistía Internacional se movilizaba junto a muchas organizaciones para exigir que el Reglamento Europeo de Inteligencia Artificial sea una norma que proteja debidamente los derechos humanos.

Entre las múltiples demandas, exigimos que la IA cuente con mecanismos de supervisión que permitan su evaluación, especialmente dirigida a detectar posibles sesgos discriminatorios que posibiliten su corrección inmediata; que se aseguren mecanismos de rendición de cuentas para las víctimas de dichas discriminaciones, así como se garantice el derecho a la reparación.

© Marcus Spiske en Pexels

Y es que con anterioridad ya hemos documentado cómo la IA ha reproducido sesgos discriminatorios contra grupos de población específicos. Por ejemplo, en 2020 denunciamos el uso sesgado de modelos algorítmicos en los Países Bajos para evaluar el riesgo de que determinadas personas cometieran un delito o que estos delitos se cometieran en lugares específicos de la ciudad, lo que supuso la vigilancia masiva y discriminatoria a los habitantes de la ciudad neerlandesa de Raermond procedentes de Europa Oriental, bajo un claro sesgo racista que relacionaba país de origen con delincuencia.

De nuevo dimos la voz de alarma un año después con nuestro informe Máquinas xenófobas. Discriminación a través del uso no regulado de algoritmos en el escándalo de los beneficios del cuidado infantil neerlandés, en el que denunciamos el uso de perfiles raciales en el diseño del sistema algorítmico utilizado también en los Países Bajos para determinar si las solicitudes de subvención dirigidas al cuidado infantil eran señaladas como incorrectas y potencialmente fraudulentas, lo que provocó que miles de progenitores/as y cuidadores/as de familias, principalmente de ingresos bajos, fueran acusados/as falsamente de fraude por las autoridades tributarias neerlandesas, en un proceso que afectó desproporcionadamente a personas de minorías étnicas.

Visitantes cerca de una señal de inteligencia artificial en un stand de robots de IA en Security China, una exposición sobre seguridad pública, Pekín, 7 de junio de 2023. © REUTERS/Florence Lo

Asimismo, en 2022 denunciamos cómo la empresa tecnológica Meta, en su recurrente uso de sistemas de algoritmos basados en la interacción de las personas usuarias, es responsable de haber multiplicado y expandido durante años en Facebook los discursos de odio racistas contra la población Rohinyá en Myanmar , minoría étnica víctima de apartheid. Y es que Meta hace años que comprobó cómo la exhibición de contenidos incendiarios —incluidos los que propugnan el odio y los que constituyen incitación a la violencia, la hostilidad y la discriminación— constituye una forma efectiva de mantener a la gente más tiempo en la plataforma y, por ende, aumenta las posibilidades de venta selectiva de productos, dinámica en la que se basa su modelo de negocio.

Por otra parte, se trata de una tendencia mundial el uso progresivo de la IA por parte de las empresas a la hora de otorgar créditos hipotecarios; en los procesos laborales de selección de personal, o en la oferta de seguros, por ejemplo.

De igual manera, las instituciones públicas de todo el mundo también están acudiendo progresivamente a la utilización de sistemas de inteligencia artificial y a la colaboración público-privada en la revisión de solicitudes de ayudas sociales directas; para detectar posibles fraudes en bajas laborales; en la concesión de plazas en centros educativos públicos; en el apoyo y orientación en la búsqueda de empleo; en los programas de pago impuestos… así como en la “predicción” de delitos.

Dos policías nacionales detienen a un inmigrante. Olmo Calvo/Fronteras invisibles

Esto, en sí mismo, no tendría por qué constituir un riesgo o ser perjudicial para los derechos humanos. La inteligencia artificial posibilita el procesamiento de una gran cantidad de datos en un plazo de tiempo muy inferior al que lo podría hacer cualquier humano, lo cual facilita y acorta el período de evaluación y respuesta de las instituciones y empresas privadas a cada una de las solicitudes realizadas.

No obstante, el riesgo que entraña el uso de la IA para asuntos tan sensibles y determinantes como los señalados más arriba (concesión de ayudas sociales, otorgamiento de hipotecas, concursos laborales, predicción de delitos) es la posible y frecuente reproducción de sesgos machistas, racistas, clasistas, edadistas o capacitistas que excluyen automáticamente de estos derechos sociales y beneficios privados a determinadas personas debido a su género, su origen étnico, su nacionalidad, el barrio en el que habitan, la edad que tienen al momento de hacer la solicitud o el grado de discapacidad con el que viven, lo cual reproduce la desigualdad social y económica ya existente, violando el derecho la igualdad y a no sufrir ningún tipo de discriminación, establecido en el artículo 2 de la Declaración Universal de los Derechos Humanos.