Detectar antisemitismo codificado en línea requiere tanto experiencia humana como automatización de IA

Este artículo incluye ejemplos de discurso de odio antisemita.

Los hombres acusados ​​de llevar a cabo ataques antisemitas de alto perfil en Estados Unidos en los últimos años comparten una característica importante: anteriormente han publicado discursos de odio en sus cuentas de redes sociales.

El FBI dijo que un hombre que condujo su camión hacia una sinagoga en las afueras de Detroit en marzo de 2026 publicó en Facebook que “Israel es un crecimiento canceroso/maligno” e “Israel es pura maldad”. La huella en línea del pistolero acusado de disparar y matar a dos funcionarios de la embajada israelí en el Museo de la Capital Judía en mayo de 2025 contenía comentarios antiisraelíes. El asesino condenado a muerte por matar a 11 fieles en la sinagoga Árbol de la Vida en Pittsburgh en octubre de 2018 utilizó con frecuencia discursos de odio antisemita en sus redes sociales.

El discurso de odio utiliza sentimientos, emociones y actitudes que buscan deshumanizar a individuos o grupos. A veces la animosidad es clara. Pero también puede adoptar una forma más oculta, utilizando palabras clave o términos que sólo entienden personas con ideas afines. El discurso de odio codificado puede evadir los censores de contenidos en línea y reclutar personas que podrían oponerse a un discurso más claramente discriminatorio.

Se estima que existen 5.700 millones de cuentas de redes sociales en todo el mundo. Incluso cuando el discurso de odio es explícito, los moderadores de contenido luchan con el volumen y deciden cuánto monitorear el discurso del usuario. También hay sitios alternativos (algunos los consideran extremistas) que limitan la moderación de contenido, incluidos 4chan, BitChute, Gab, GETTR, Parler, Rumble y Truth Social.

Somos un grupo de investigadores interdisciplinarios de la American University que estudiamos las estrategias retóricas detrás del discurso de odio abierto y codificado en las redes sociales. Nuestro proyecto Desenmascarando el antisemitismo utiliza inteligencia artificial, análisis cualitativo y experimentos de investigación para desarrollar estudios y herramientas para detectar ambos tipos de términos. Este artículo analiza ejemplos de discurso de odio antisemita que son inquietantes, pero ilustran los tipos de términos y cómo contrarrestar esta peligrosa influencia.

Dos tipos de discurso de odio

Para comprender la diferencia entre discurso de odio directo y codificado, consideremos el lenguaje del tirador Robert Bowers antes de la masacre del Árbol de la Vida. En Gab, utilizó insultos más antiguos y virulentamente antisemitas como “kike”, “un término altamente ofensivo utilizado para insultar y menospreciar a las personas de fe o etnia judía que se considera ampliamente una forma de discurso de odio”, según el Comité Judío Estadounidense.

Una valla fuera de la sinagoga Árbol de la Vida, lugar de un asesinato en masa en 2018, muestra obras de arte de estudiantes el 21 de abril de 2003 en Pittsburgh, Pensilvania. Yahi Chikwendiu/The Washington Post vía Getty Images

Otros términos extremistas son igual de ofensivos pero menos obvios, como “desviar el horno”, que Bowers también usó para Gab: una referencia a cómo los nazis alemanes exterminaron sistemáticamente a los judíos durante el Holocausto. Al igual que las frases abiertas, los términos codificados a menudo se basan en tropos antisemitas más antiguos y bien investigados, como “los judíos tienen demasiado poder”, reempaquetados en nuevas palabras y frases.

También pueden tener un doble significado, lo que hace que el discurso de odio sea más difícil de moderar. La definición original de “globalista” se refiere a una persona que cree que las políticas deben planificarse teniendo en cuenta el interés de todo el mundo, no sólo de un país. Pero el globalismo también tiene una connotación antisemita.

Como dice el diccionario Translate Hate del American Jewish Committee, los antisemitas a menudo usan “globalistas” para menospreciar a los judíos, promoviendo la teoría de la conspiración de que “el pueblo judío no es leal a sus países de origen, como Estados Unidos, sino a algún orden mundial, como una economía global o un sistema político internacional, que mejorará su banco de gobierno sobre el banco mundial y los medios de comunicación”. Esto reempaqueta la propaganda nazi y soviética de larga data sobre los judíos basada en nociones antisemitas históricas.

A medida que los conceptos evolucionan

En los primeros días de las redes sociales, las empresas respondían a las críticas sobre contenido más odioso en sus plataformas utilizando una combinación de inteligencia artificial y análisis humano para moderar el contenido. Las herramientas automatizadas utilizan el procesamiento del lenguaje natural para analizar el contexto, detectar abusos y etiquetar contenido. Los trabajadores humanos analizan lenguajes más complejos, como la ironía y la jerga.

Los moderadores de contenido trabajan en la oficina de Facebook en Austin, Texas, en 2019. Ilana Panich-Linsman para The Washington Post vía Getty Images

Pero mantenerse al día con el volumen de publicaciones es un desafío, especialmente cuando se trata de discursos de odio más sutiles. Los objetivos de nuestro equipo son identificar términos antisemitas codificados, comprender cómo evolucionan y crear tecnología para rastrearlos.

Es fundamental comprender que el discurso de odio tiene su propio ciclo de vida. Algunas van camino de un mayor uso público, mientras que otras están desapareciendo.

Los nuevos términos tienden a surgir de un pequeño grupo de personas consideradas líderes o influyentes en los círculos antisemitas en línea. En algunos casos, sus comunidades adoptan el término y lo normalizan; en otros casos queda fuera de uso.

El término “marxismo cultural”, que tiene su origen en la creencia antisemita de que los intelectuales judíos buscan socavar la cultura occidental, se ha adoptado en un uso más amplio. Por otro lado, el “picadura judía”, una teoría de conspiración supremacista blanca que afirma que las vacunas contra el COVID-19 eran un complot judío para dañar a la gente, pronto desapareció.

Seguimiento del odio

En nuestro proyecto piloto inicial, comenzamos con 46 términos antisemitas, tanto abiertos como codificados, del diccionario del Comité Judío Estadounidense. Introducimos los términos en Pirra, ahora llamada Alert Media, una empresa de software privada que permite a los usuarios extraer publicaciones de una colección de sitios de redes sociales.

Los investigadores capacitados en definiciones de antisemitismo, tropos antisemitas históricos y detección de discursos de odio identificaron 24 términos adicionales. Los supremacistas blancos utilizan el símbolo “1488”, por ejemplo, para identificarse entre sí. La primera parte, “14”, se refiere al lema “14 palabras” del líder de la raza blanca David Lane. “88” significa “Heil Hitler”, ya que la “h” es la octava letra del alfabeto. Otros términos en clave son menos familiares, como “DOTR” o “Rope Day”, una referencia al libro de 1978 “The Turner Diaries”, escrito bajo el seudónimo del neonazi William Pierce.

Para rastrear qué términos codificados se difunden entre el público en general, analizamos el contenido de los medios y realizamos experimentos de encuestas para ver si la gente los reconocía. También hemos desarrollado una herramienta de software de inteligencia artificial diseñada para rastrear automáticamente cómo evoluciona el lenguaje codificado. La aplicación se entrena con datos de Pir y aprende a identificar nuevos términos antisemitas según el contexto en el que aparecen.

En primer lugar, la aplicación identifica términos distintivos en función de la frecuencia con la que aparecen en cada publicación, frente a lo raros que son en la plataforma en general. Para saber si estos términos tienen una connotación antisemita, codificamos su contexto, como otras palabras de la publicación, y calculamos si se acerca al contexto de la terminología antisemita ya conocida. Algunos de los términos identificados por nuestra aplicación son explícitos, mientras que otros están codificados.

Este enfoque también se puede aplicar al discurso de odio dirigido a otros grupos, como los latinos, las personas LGBTQ+ y las mujeres. Nuestro objetivo es crear un conjunto de herramientas que pueda distribuirse a grupos sin fines de lucro, grupos de expertos y formuladores de políticas con respecto a los esfuerzos legislativos para combatir el discurso de odio.

Personas y maquinas

Dada la gran cantidad de publicaciones en las redes sociales todos los días, nuestro trabajo ilustra cómo detectar nuevos discursos de odio requiere un grupo interdisciplinario de investigadores que trabajen con máquinas.

Una disciplina académica que trabaja de forma independiente es demasiado aislada y la gente no puede manejar la balanza por sí sola. Pero las máquinas por sí solas no pueden entender el lenguaje, la jerga o el contexto humanos sofisticados.

La historia muestra que en cualquier momento de profundo cambio tecnológico en nuestros sistemas de comunicación, los incidentes contra judíos u otros grupos minoritarios aumentan dramáticamente. La innovación técnica de esta era no tiene precedentes, pero desafortunadamente, el discurso de odio ahora viaja por todo el mundo casi instantáneamente. La tecnología puede ser parte del problema, pero su enorme poder puede aprovecharse para crear soluciones.