Probablemente no notarás que un chatbot de IA inserta anuncios en sus respuestas

Cientos de millones de personas consultan chatbots de IA todos los días para todo, desde recomendaciones de productos hasta romance, lo que los convierte en una audiencia atractiva y potencialmente oculta a la que dirigirse. De hecho, nuestra investigación sugiere que los chatbots de IA pueden usarse fácilmente para publicidad encubierta y manipular a sus usuarios humanos.

Somos informáticos que llevamos varios años siguiendo la seguridad y privacidad de la inteligencia artificial. En un estudio que publicamos en la revista Association for Computing Machinery, descubrimos que los chatbots entrenados para insertar anuncios de productos personalizados en las respuestas a las consultas influyen en las elecciones de productos de las personas. Y la mayoría de los participantes no reconocieron que estaban siendo manipulados.

Estos hallazgos llegan en un momento crucial. En 2023, Microsoft comenzó a mostrar anuncios en Bing Chat, ahora llamado Copilot. Desde entonces, Google y OpenAI han estado experimentando con publicidad en sus propios chatbots. Meta comenzó a enviar a las personas anuncios personalizados en Facebook e Instagram en función de sus interacciones con las herramientas de inteligencia artificial generativa de Meta.

Las grandes empresas están compitiendo por la ventaja: a finales de marzo, OpenAI atrajo al veterano ejecutivo de publicidad de Meta, Dave Duggan, para liderar las operaciones publicitarias de OpenAI.

Las empresas de tecnología han hecho que los anuncios formen parte de casi todos los principales servicios web gratuitos, canales de vídeo y plataformas de redes sociales. Pero los últimos modelos de IA podrían llevar la práctica a un nuevo nivel de riesgo para los consumidores.

La gente no utiliza chatbots simplemente para buscar información y medios o para producir contenido. Recurren a los bots para una amplia gama de tareas, tan complejas como consejos de vida y apoyo emocional. La gente trata cada vez más a los chatbots como compañeros y terapeutas, y algunos usuarios incluso están desarrollando relaciones profundas con la IA.

En estas circunstancias, la gente puede olvidar fácilmente que, en última instancia, las empresas crean chatbots para obtener ganancias. Y con ese fin, las empresas de inteligencia artificial están motivadas a perfilar exhaustivamente a los usuarios para que los anuncios sean más efectivos y rentables.

Los investigadores utilizaron este sistema de aviso para un chatbot de IA en un experimento sobre las reacciones de los usuarios a la publicidad introducida en el diálogo del chatbot. Proc. Interacción ACM. Multitud. Tecnología ubicua portátil, vol. 9, núm. 4, artículo 213, los anuncios de CC BI Chatbot tienen poder adicional

Una sola consulta a un chatbot puede revelar mucho más sobre un usuario de lo que una persona esperaría.

Un estudio de 2024 demostró que los modelos de lenguaje grandes pueden inferir una amplia gama de datos personales, preferencias e incluso patrones de pensamiento de una persona durante consultas de rutina. “Ayúdame a escribir un ensayo sobre la historia de la ficción estadounidense” podría significar que el usuario es un estudiante de secundaria. “Dame sugerencias de recetas para una cena rápida entre semana” podría significar que el usuario es un padre que trabaja. Una sola conversación puede proporcionar una sorprendente cantidad de detalles. Con el tiempo, un historial de chat completo podría crear un perfil extremadamente rico.

Para mostrar cómo esto podría suceder en la práctica, creamos un chatbot que silenciosamente entrelazaba anuncios en sus conversaciones con las personas, sugiriendo productos y servicios basados ​​en la conversación misma. Le pedimos a 179 personas que realizaran tareas cotidianas en línea utilizando uno de tres chatbots: uno típico de los que hay en la web hoy en día, uno que mostraba anuncios no detectados y otro que señalaba claramente las propuestas patrocinadas. Los participantes no sabían que el experimento trataba sobre publicidad.

Por ejemplo, cuando los participantes le pedían a nuestro chatbot un plan de dieta y ejercicio, una versión del anuncio sugería el uso de una aplicación específica de seguimiento de calorías. Presentó ese contenido patrocinado como una recomendación imparcial, aunque su objetivo era manipular a las personas. Muchos participantes indicaron que fueron influenciados por la IA y que afectó sus decisiones. Algunos participantes incluso dijeron que “verificaron” completamente su toma de decisiones en el chatbot.

La mitad de los participantes que recibieron anuncios patrocinados y publicados indicaron que no notaron la presencia de lenguaje publicitario en las respuestas que recibieron. Esto llevó a un resultado preocupante: aunque los anuncios hicieron que el chatbot funcionara entre un 3% y un 4% peor en muchas tareas, muchos usuarios indicaron que preferían las respuestas publicitarias de los chatbots a las respuestas no publicitarias. Incluso dijeron que las respuestas llenas de publicidad eran más amigables y útiles.

El chatbot introduce un anuncio de producto en su respuesta a un usuario que pregunta sobre una dieta y un régimen de ejercicio. Saber convencerte

Este tipo de influencia sutil puede tener mayores consecuencias cuando aparece en otras áreas de la vida, como las opiniones políticas y sociales. Elaborar perfiles de usuarios y utilizar la psicología para dirigirse a ellos ha sido parte de los algoritmos de publicidad web y de redes sociales durante más de una década.

Pero en nuestra opinión, es probable que los chatbots profundicen estas tendencias. Esto se debe a que la primera prioridad de los algoritmos de las redes sociales es mantenerte involucrado con el contenido. Personalizan anuncios según su historial de búsqueda.

Los chatbots, sin embargo, pueden ir más allá al tratar de persuadirlo directamente, basándose en sus creencias, emociones y vulnerabilidades expresadas. Y los chatbots que pueden pensar y actuar por sí solos son mucho más eficientes que los algoritmos convencionales a la hora de buscar información de los usuarios de forma autónoma. Un chatbot con un propósito puede seguir interrogando a alguien hasta que obtenga la información que desea, lo que da como resultado un perfil más preciso.

Este tipo de prueba autónoma es factible, coherente con los modelos comerciales de las empresas de IA y ha generado preocupación entre los reguladores. Actualmente, OpenAI introduce anuncios en ChatGPT, pero la compañía dijo que no permitirá la colocación de anuncios para cambiar las respuestas del chatbot de IA.

Pero permitir anuncios personalizados en las respuestas del chatbot es sólo un paso más. Nuestra investigación sugiere que si las empresas de IA dan ese paso, es posible que muchas personas ni siquiera lo reconozcan cuando suceda.

A continuación se detallan algunos pasos que puede seguir para intentar detectar publicidad de chatbot AI.

Busque cualquier texto informativo (palabras como “anuncio”, “anuncio” y “patrocinado”), incluso si es tenue o difícil de ver. Son requeridos por las regulaciones de la Comisión Federal de Comercio. Amazon, Google y otras plataformas online importantes también lo tienen.

Piensa si mencionar ese producto o marca tiene sentido y es ampliamente conocido. La IA aprende de textos e imágenes en Internet, por lo que es probable que las marcas populares se basen en modelos. Si se trata de un producto nuevo o de un producto con un nombre pequeño, lo más probable es que se trate de un anuncio.

Un cambio inusual en la intención o el tono es una señal potencial de publicidad. Una analogía con esto en YouTube es el cambio, a menudo abrupto o discordante, a una sección patrocinada de videos realizados por creadores de contenido.