Las empresas de redes sociales deben abordar urgentemente el fomento del odio y el racismo en línea contra las comunidades palestinas y judías, denunció Amnistía Internacional, mientras el conflicto en Israel y los Territorios Palestinos Ocupados se intensifica aún más, con la entrada de las fuerzas terrestres en Gaza.
Aumento del odio a judíos y palestinos
La organización ha descubierto un aumento alarmante en la defensa del odio que constituye incitación a la violencia, la hostilidad y la discriminación en las plataformas de redes sociales, lo cual está prohibido por el derecho internacional de los derechos humanos, y otros contenidos dañinos contra los pueblos palestino y judío.
Amnistía Internacional también documentó informes sobre contenidos publicados por palestinos y defensores de los derechos de los palestinos que están siendo sujetos a una moderación de contenido potencialmente discriminatoria por parte de diferentes plataformas de redes sociales.
“Las redes sociales pueden desempeñar un papel vital en tiempos de crisis de comunicación; por lo tanto, las principales empresas de redes sociales deben intensificar urgentemente medidas para proteger los derechos humanos. Las empresas deben asegurarse de que sus plataformas no difundan mensajes de odio y violencia, o corren el riesgo de contribuir a violaciones graves de los derechos humanos y del derecho internacional humanitario. Esto incluye crímenes de guerra, que han marcado este conflicto y han causado niveles sin precedentes de víctimas civiles y una crisis humanitaria catastrófica”, afirmó Rasha Abdul-Rahim, directora de Amnistía Tecnológica.
El Gobierno de Israel apoya la destrucción de Gaza
Amnistía Internacional descubrió que un número significativo de publicaciones en las redes sociales glorifican los ataques de Israel contra civiles en Gaza, apoyan la destrucción de Gaza y abogan por la violencia contra los palestinos. Muchas publicaciones utilizan un lenguaje deshumanizante y racista contra los palestinos , y algunas de ellas también se basan en el lenguaje utilizado por las autoridades israelíes.
La organización documentó una serie de publicaciones antisemitas, muchas de ellas abogando por el odio y la violencia contra el pueblo judío. Investigaciones anteriores realizadas por el Centro para Contrarrestar el Odio Digital han destacado una proliferación de contenido antisemita en X en los últimos meses.
El Indicador de Violencia de la ONG palestina 7amleh detectó más de 493.000 casos (y en aumento) de defensa del odio contra los palestinos y los defensores de los derechos de los palestinos en contenido en idioma hebreo en plataformas de redes sociales, desde el 7 de octubre de 2023.
El gobierno israelí y los funcionarios militares también han utilizado un lenguaje deshumanizante y racismo antipalestino. El 16 de octubre, la cuenta X del Primer Ministro de Israel (@IsraeliPM) publicó una publicación discriminatoria utilizando un lenguaje deshumanizante, diciendo: “ Hay una lucha entre los hijos de la luz y los hijos de la oscuridad, entre la humanidad y la ley de la selva”.
De manera similar, el Ministro de Seguridad Nacional, Itamar Ben Gvir, declaró el 17 de octubre de 2023: “Mientras Hamás no libere a los rehenes que tiene en sus manos, lo único que necesita para entrar en Gaza son cientos de toneladas de explosivos de la Fuerza Aérea, ni un gramo de ayuda humanitaria”.
Apagón total y “prohibición en la sombra” del contenido palestino
Amnistía Internacional también recibió informes preocupantes que indicaban una censura demasiado amplia del contenido de cuentas palestinas y defensores de los derechos de los palestinos en varias plataformas de redes sociales.
Los palestinos en la ocupada Franja de Gaza están atrapados en un creciente apagón de comunicaciones que limita su capacidad de buscar, recibir e impartir información . La moderación desigual de contenidos por parte de las plataformas de redes sociales corre el riesgo de socavar aún más la capacidad de los palestinos dentro y fuera de Gaza de ejercer sus derechos a la libertad de expresión, asociación y reunión pacífica.
“A medida que Israel intensifica su bombardeo sin precedentes de Gaza que ha matado a más de 7.000 personas, la mayoría de las cuales son civiles, estamos extremadamente preocupados por los informes de bloqueo parcial y eliminación, conocido como 'shadowbanning', de contenido de los defensores de los derechos palestinos”, dijo Rasha Abdul-Rahim.
“La moderación de contenidos debe llevarse a cabo de manera que se garantice el respeto del derecho a la libertad de expresión y, al mismo tiempo, se aborde la defensa desenfrenada del odio. Las empresas de redes sociales deben invertir recursos adecuados en la supervisión humana de los sistemas de moderación de contenidos impulsados por IA (Inteligencia Artificial) para garantizar que todos los usuarios, incluidos los palestinos, puedan ejercer sus derechos en línea por igual, independientemente del idioma y las opiniones políticas. Varias plataformas han socavado su capacidad para hacerlo al despedir al personal responsable del cumplimiento de los derechos humanos”.
La inteligencia artificial
Las investigaciones han demostrado que los sistemas de IA a menudo reproducen prejuicios sociales preexistentes bajo un velo de neutralidad. El 19 de octubre de 2023, Meta se disculpó por insertar la palabra “terrorista” en las traducciones del perfil de Instagram que contenían las palabras “palestino” y “Alhamdullilah” (que significa Alabado sea Dios) y el emoji de la bandera palestina. La compañía también redujo el umbral de certeza requerido para "ocultar" contenido hostil del 80% al 25%, para contenido originado en gran parte de Medio Oriente. Este fue un intento de detener el flujo de discurso hostil, pero podría resultar en restricciones demasiado amplias de contenido.
"A medida que Israel intensifica su bombardeo sin precedentes de Gaza que ha matado a más de 7.000 personas, la mayoría de las cuales son civiles, estamos extremadamente preocupados por los informes de bloqueo parcial y eliminación, conocido como 'shadowbanning', de contenido de los defensores de los derechos palestinos", dijo Rasha Abdul-Rahim.
Los “falsos ataques”
En mayo de 2021, un informe de Business for Social Responsibility reveló que el contenido en árabe tenía una mayor “aplicación excesiva” en las plataformas de Meta que otros idiomas, incluido el hebreo. Los “falsos ataques” contribuyeron a reducir la visibilidad y la participación de los puestos árabes.
Incluso antes de la crisis actual, la investigación de Amnistía Internacional encontró que el sistema israelí de opresión y dominación de los palestinos equivale al crimen contra la humanidad del apartheid. La investigación de Amnistía Internacional también ha demostrado que los algoritmos de las redes sociales están diseñados para maximizar la participación, lo que a menudo genera contenido dañino e incendiario desproporcionadamente amplificado, incluida la apología del odio que incita a la violencia, la hostilidad y la discriminación.
En este contexto, es imperativo que las grandes empresas tecnológicas aborden los impactos reales y potenciales de sus operaciones sobre los derechos humanos para garantizar que no causen ni contribuyan a abusos contra los derechos humanos, ni permitan que proliferen el odio, el racismo y la desinformación.
El 7 de octubre, Hamás y otros grupos armados palestinos violaron flagrantemente el derecho internacional y mostraron un escalofriante desprecio por la vida humana al llevar a cabo crímenes crueles y brutales, incluidos asesinatos sumarios en masa, toma de rehenes y lanzamiento de ataques indiscriminados con cohetes contra Israel. Desde entonces, las fuerzas israelíes han lanzado incesantes bombardeos aéreos en toda la Franja de Gaza con efectos catastróficos. La grave situación humanitaria derivada del bloqueo ilegal de Israel que dura 16 años se ha visto aún más exacerbada por la orden del Ministro de Defensa de Israel de imponer un asedio completo el 8 de octubre, que corta el acceso de los palestinos en Gaza a alimentos, agua, combustible y electricidad. y comunicación y equivale al crimen de guerra de castigo colectivo.