Las empresas de redes sociales deben abordar con urgencia el enardecimiento del odio y el racismo en Internet contra las comunidades palestinas y judías, ha afirmado Amnistía Internacional hoy, mientras se intensifica aún más el conflicto en Israel y los Territorios Palestinos Ocupados.
La organización ha observado en las plataformas de redes sociales un aumento alarmante de la apología del odio que constituye incitación a la violencia, la hostilidad y la discriminación, que está prohibida en virtud del derecho internacional de los derechos humanos, y de otros contenidos nocivos contra las personas palestinas y judías. Amnistía Internacional también ha documentado informes preocupantes que indican que contenidos publicados por personas palestinas y por quienes defienden los derechos de la población palestina están siendo objeto de una moderación de contenidos potencialmente discriminatoria por las plataformas de redes sociales.
“Las redes sociales pueden desempeñar un papel decisivo en situaciones de crisis para la comunicación, y por tanto las grandes empresas de redes sociales deben intensificar con urgencia las medidas para proteger los derechos humanos. Las empresas deben garantizar que sus plataformas no difunden mensajes de odio y violencia, o corren el riesgo de contribuir a la comisión de flagrantes violaciones de derechos humanos y violaciones graves del derecho internacional humanitario. Esto incluye crímenes de guerra, que han caracterizado este conflicto y han causado cifras sin precedentes de víctimas civiles y una crisis humanitaria catastrófica”, ha afirmado Rasha Abdul-Rahim, directora de Amnesty Tech.
Amnistía Internacional concluyó que un número considerable de publicaciones en redes sociales enaltecen los ataques de Israel contra civiles en Gaza, apoyan la destrucción de Gaza y hacen apología de la violencia contra las personas palestinas. Muchas publicaciones hacen uso de un lenguaje deshumanizador y racista contra las personas palestinas, y en algunos casos también recurren al lenguaje que emplean las autoridades israelíes.
La organización también ha documentado algunas publicaciones antisemitas, muchas de las cuales propugnan el odio y la violencia contra las personas judías. Investigaciones anteriores de la organización Center for Countering Digital Hate han puesto de relieve la proliferación de contenidos antisemitas en X (antes Twitter) en los últimos meses.
El Indicador de la Violencia de la ONG palestina 7amleh ha detectado más de 493.000 casos (y el número continúa en aumento) de apología del odio contra las personas palestinas y quienes defienden los derechos de la población palestina en contenidos en lengua hebrea en plataformas de redes sociales, desde el 7 de octubre de 2023.
El gobierno y las autoridades militares israelíes también han empleado lenguaje deshumanizador y racismo antipalestino. El 16 de octubre, la cuenta de X del primer ministro de Israel (@IsraeliPM) publicó un contenido discriminatorio que empleaba un lenguaje deshumanizador: “Hay una lucha entre los hijos de la luz y los hijos de la oscuridad, entre la humanidad y la ley de la jungla”.
Asimismo, el ministro de Seguridad Nacional, Itamar Ben Gvir, afirmó el 17 de octubre de 2023: “Mientras Hamás no libere a los rehenes que tiene en sus manos, lo único que debe entrar en Gaza son cientos de toneladas de explosivos de la Fuerza Aérea, ni la más mínima ayuda humanitaria”.
Apagón total y censura oculta (“shadowbanning”) de contenidos palestinos
Amnistía Internacional también ha recibido informes preocupantes de una censura excesivamente amplia de los contenidos de cuentas palestinas y de quienes defienden los derechos de la población palestina en varias plataformas de redes sociales.
La población palestina en la Franja de Gaza ocupada está arrapada en un apagón en aumento de las comunicaciones que limita su capacidad de buscar, recibir y difundir información. La desigual moderación de contenidos que llevan a cabo las plataformas de redes sociales corre el riesgo de menoscabar aún más la capacidad de las personas palestinas, dentro y fuera de Gaza, de ejercer su derecho a la libertad de expresión, de asociación y de reunión pacífica.
“Mientras Israel intensifica sus bombardeos sin precedentes de Gaza, que han causado la muerte de más de 7.000 personas, en su mayoría civiles, consideramos motivo de extrema preocupación los informes de bloqueo y “shadowbanning” de contenidos de quienes defienden los derechos de la población palestina”, ha afirmado Rasha Abdul-Rahim.
“La moderación de contenidos debe realizarse de tal manera que garantice el respeto del derecho a la libertad de expresión, y aborde al mismo tiempo la apología del odio generalizada. Las empresas de redes sociales deben invertir recursos adecuados en la supervisión humana de los sistemas de moderación de contenidos impulsados por inteligencia artificial (IA) para garantizar que todas las personas que usan las redes, incluidas las palestinas, pueden ejercer en condiciones de igualdad sus derechos en Internet, cualesquiera que sean sus opiniones políticas. Varias plataformas han menoscabado su capacidad de actuar de este modo mediante el despido del personal responsable del cumplimiento de los derechos humanos”.
La investigación ha mostrado que los sistemas de inteligencia artificial reproducen sesgos sociales existentes con el pretexto de la neutralidad. En fecha tan reciente como el 19 de octubre de 2023, Meta pidió disculpas por insertar la palabra “terrorista” en traducciones de perfiles de Instagram que contenían los términos “palestino” y “Alhamdullilah” (que significa Alabado sea Dios) y el emoji de la bandera palestina. La empresa también redujo el umbral de certidumbre exigida para “ocultar” contenidos hostiles del 80% al 25%, para los contenidos producidos en extensas zonas de Oriente Medio. Se trató de un intento de detener el flujo de discurso hostil pero podría dar lugar a restricciones excesivamente amplias de los contenidos.
En mayo de 2021, un informe de Business for Social Responsibility reveló que los contenidos en lengua árabe se observaba un grado mayor de “cumplimiento excesivo” que en otras lenguas, incluida la hebrea, en las plataformas de Meta. “Penalizaciones falsas” contribuyeron a la reducción de la visibilidad y la implicación de las publicaciones en árabe.
Ya antes de la crisis actual, la investigación de Amnistía Internacional señaló que el sistema de opresión y dominación de la población palestina por Israel equivale al crimen de lesa humanidad de apartheid. La investigación de Amnistía Internacional también ha mostrado que los algoritmos de las redes sociales están diseñados para maximizar la implicación, lo que da lugar a contenidos a menudo desproporcionadamente amplificados e incendiarios, entre ellos la apología del odio que incita a la violencia, la hostilidad y la discriminación.
En este contexto, es indispensable que las grandes empresas tecnológicas aborden los efectos reales y potenciales para los derechos humanos de sus operaciones para garantizar que no causan abusos contra los derechos humanos ni contribuyen e su comisión, ni permiten la proliferación del odio, el racismo y la desinformación.
Información complementaria:
El 7 de octubre, Hamás y otros grupos armados palestinos violaron de forma flagrante el derecho internacional y dieron muestra de un terrible desprecio por la vida humana al llevar a cabo brutales y crueles crímenes entre los que figuran ejecuciones sumarias en masa, tomas de rehenes y el lanzamiento indiscriminado de ataques con cohetes contra Israel. Las fuerzas israelíes lanzan desde entonces bombardeos aéreos implacables sobre el conjunto de la Franja de Gaza con efectos catastróficos. La grave situación humanitaria derivada del bloqueo que Israel mantiene desde hace 16 años también se ha agudizado aún más tras la orden del ministro de Defensa de Israel de imponer un asedio total el 8 de octubre, que impide el acceso de la población palestina de Gaza a alimentos, agua, combustible, electricidad y comunicaciones y equivale al crimen de guerra de castigo colectivo.
Varias autoridades de Cisjordania y Europa, entre otros lugares, también están imponiendo crecientes restricciones restricciones a las protestas en favor de los derechos humanos de la población palestina.
Amnistía Internacional continúa vigilando los casos de bloqueo o retirada ilícitos de publicaciones en redes sociales, así como el “bloqueo oculto” de cuentas en el contexto del conflicto actual. Si ustedes o alguna persona a la que conocen han sido objeto de estas acciones, rogamos compartan con hello@amnesty.tech los enlaces y/o las capturas de pantalla de los contenidos marcados o retirados, así como las capturas de pantalla de los contenidos originales.
