Los algoritmos que adaptan el marketing a su teléfono también pueden influir en sus opiniones sobre la guerra

Cuando de repente aparece un cupón en su teléfono cuando se acerca a la tienda, puede que le resulte conveniente e incluso útil. Pero los mismos sistemas de inteligencia artificial que saben dónde estás e intentan influir en tus compras pueden usarse para inferir qué temes, qué crees y qué historias es probable que creas. Los algoritmos de marketing basados ​​en IA están mejorando a la hora de influir en el comportamiento humano.

Esto genera preocupación sobre lo que diferentes gobiernos podrían hacer con estas herramientas para influir en las actitudes de los ciudadanos acerca de la guerra. Una visión clara de cómo las administraciones explotan estos sistemas puede ayudar a las personas y a sus naciones a navegar en un futuro incierto.

Soy un investigador de seguridad que estudia formas de investigar y caracterizar los riesgos que la tecnología plantea para los individuos y la sociedad. El aumento de la influencia mediada por la IA ha planteado dudas sobre la erosión de la capacidad de las personas para ejercer el libre albedrío y, por extensión, la capacidad de la sociedad para distinguir la guerra justa de la injusta.

Marketing con inteligencia artificial

La integración de la IA con los servicios basados ​​en la ubicación está traspasando los límites del marketing. Los servicios basados ​​en la ubicación utilizan datos geográficos de sensores interiores, torres de telefonía celular y satélites para promocionar bienes y servicios que se adaptan a su ubicación, una característica llamada geofencing.

Cuando las empresas de marketing comparan grandes cantidades de datos sobre el comportamiento de los individuos -incluyendo información que las personas comparten voluntaria o inconscientemente a través de aplicaciones móviles- las empresas pueden agrupar o segmentar a los clientes potenciales basándose en lo que les gusta, lo que hacen y lo que dicen.

Una vez que un sistema de marketing impulsado por IA sabe dónde está un usuario y puede hacer una suposición informada sobre lo que le gusta y lo que no le gusta, puede diseñar cupones y anuncios específicos para influir en el comportamiento de cada persona del grupo, y tal vez del grupo en su conjunto. Esta combinación de inteligencia artificial con geocercas y segmentación hace posible el contenido de marketing hiperpersonalizado a una escala sin precedentes.

Publicidad en tiempo real

¿Qué puede tener que ver este progreso con la guerra? El uso de la psicología para ganar batallas u obviar la necesidad de la guerra es tan antiguo como el conflicto armado mismo. Sun Tzu, un general militar y filósofo chino que murió en 496 a. C., escribió: “Por lo tanto, un líder hábil somete a las tropas enemigas sin luchar; captura sus ciudades sin asediarlas; derroca su reino sin largas operaciones en el campo”.

Desde la era de Sun Tzu hasta la actualidad, los practicantes expertos de la estrategia militar han intentado reducir el riesgo en la batalla mediante el control reflexivo: lograr que los oponentes tomen voluntariamente las mejores acciones para el imperio o la nación estratégica.

Los estrategas de hoy dependen cada vez más de la publicidad paga en las redes sociales, personas influyentes, contenido generado por inteligencia artificial e incluso cuentas falsas de redes sociales para influir en la opinión popular hacia sus objetivos. Esta potencia, y las controversias que la rodean, han estado implicadas en las recientes elecciones nacionales, disturbios internos y negociaciones para poner fin al conflicto en Ucrania.

Jessica Brandt, exdirectora del Centro de Influencia Maliciosa Extranjera de la Oficina del Director de Inteligencia Nacional, analiza el papel de la inteligencia artificial en las operaciones de influencia extranjera.

A diferencia de la propaganda durante la Guerra Fría entre Estados Unidos y la Unión Soviética, los influencers modernos no se basan en un único mensaje transmitido a las masas. Los estrategas prueban e implementan miles de variaciones narrativas simultáneamente, monitorean cómo reaccionan los diferentes grupos y perfeccionan su enfoque casi en tiempo real. Los proveedores no tienen por qué convencer a todo el mundo. Sólo necesitan movilizar a suficientes personas en el momento adecuado para cambiar los resultados de las elecciones, presionar la política interna o incluso iniciar la violencia étnica.

¿Cuánto engaño es tolerable?

A medida que la influencia en línea se vuelve más automatizada y personalizada, es más difícil determinar dónde termina la persuasión y comienza la coerción. Si se puede inducir a grupos de personas, o incluso a los ciudadanos de una nación, a adoptar ciertas creencias o comportamientos sin una fuerza manifiesta, las sociedades democráticas enfrentan un nuevo problema: cómo distinguir los intentos tradicionales de influencia de la manipulación, especialmente durante los conflictos.

La propaganda impulsada por la IA desafía directamente la forma en que la gente suele juzgar las afirmaciones de que su nación ha sido perjudicada: que es un “buen tipo” que defiende lo que es correcto. La teoría de la guerra justa supone que los ciudadanos pueden razonablemente dar su consentimiento a la guerra. El poder político legítimo requiere un público informado que pueda decidir que la violencia es necesaria y proporcional al delito. Sin embargo, cuando las operaciones de influencia influyen en las actitudes de las personas sin que éstas se den cuenta, estos sistemas amenazan con socavar las condiciones morales previas que hacen que la guerra sea justa.

La pregunta que los ciudadanos deben responder es cómo permitirán que evolucione su entorno de información. ¿Asumen que el engaño es omnipresente y que, por lo tanto, los gobiernos deben controlar la información e incluso anticiparse a la verdad utilizando narrativas impulsadas por la IA como armas? ¿O debería el público aceptar el riesgo de la influencia generada por la IA como una parte desafortunada pero necesaria de la apertura, el pluralismo y la creencia de que la verdad emerge a través de un debate transparente en lugar de un control estricto?

Los mismos sistemas que deciden qué cupón llega a su teléfono están comenzando a dar forma a las narrativas que llegarán a usted, a su comunidad y a toda la población del país durante una crisis. Reconocer esta conexión es el primer paso para decidir cuánta influencia la gente está dispuesta a aceptar de tales algoritmos y de los propagandistas que los controlan.