El gobierno federal anunció recientemente dos políticas que darán forma al futuro de las interacciones de los jóvenes canadienses con la IA: la Estrategia AI para Todos y la Ley de Redes Sociales Seguras.
El gobierno dice que la estrategia AI for All proporcionará “acceso a capacitación y educación en IA para todos los canadienses” para abordar la “brecha en la adopción de IA” de Canadá, afirmando que “la adopción de IA ayudará a los canadienses”.
La Ley de Redes Sociales Seguras propone el establecimiento de un regulador para proteger a los jóvenes de los enormes daños que causan los chatbots de IA, como “reforzar comportamientos dañinos y proporcionar respuestas inseguras”. Su objetivo es maximizar la adopción segura de la IA por parte de los jóvenes canadienses.
Sin embargo, la investigación sobre el uso de la inteligencia artificial generativa (genAI) entre los jóvenes apunta a características de diseño que plantean riesgos específicos de la edad que deben abordarse antes de que adoptemos la genAI en nuestras escuelas y hogares.
La estrategia AI for All incluye capacitación gratuita en alfabetización en IA a través de cursos en línea, capacitación para educadores K-12, hacer que los chatbots de IA estén disponibles para todos los estudiantes de educación postsecundaria, oportunidades de empleo a través de pasantías financiadas y una gestión de estos sistemas centrada en la seguridad.
La Ley de Redes Sociales Seguras introduce un marco para mejorar la seguridad en línea. Propone regular los chatbots de IA exigiendo a las empresas que protejan la privacidad y no promuevan contenidos dañinos (ciberacoso, contenido violento, sexual u odioso) o comportamientos dañinos (phishing/deepfakes, técnicas de interacción manipulativas o fomento de la autolesión).
La computadora portátil de un estudiante se encuentra en su escritorio en una escuela primaria en Toronto en enero de 2024. THE CANADIAN PRESS/Chris Young Diseño arriesgado presenta genAI
Recientemente contribuí como asesor científico a dos informes de investigación que identifican características riesgosas de los diseños genAI.
El primero es un mapeo del impacto de la genAI en el desarrollo infantil presentado por una coalición de grupos de investigación en la cumbre del G7 en Francia.
En el informe, los colaboradores y yo sostenemos que la IA debe:
Ser regulado a través de una lente de desarrollo, asegurando que sea apropiado para la edad;
Apoyar, no reemplazar, las habilidades de los jóvenes;
Ser evaluados a través de estándares, evidencia y salvaguardas centrados en los jóvenes.
Es importante que los jóvenes no sean tratados como una sola unidad o categoría de beneficiarios, como se hace en la normativa actual.
La IA afectará a niños, adolescentes y adultos jóvenes de manera diferente, incluidos los elementos cognitivos, emocionales, sociales y educativos de sus vidas.
En este contexto, nuestro equipo de investigación identificó las oportunidades y los riesgos asociados de la genAI para niños y jóvenes desde el nacimiento hasta los 18 años, con recomendaciones de políticas.
Desde el nacimiento hasta los tres años: GenAI debería mejorar la capacidad de respuesta de los cuidadores, no reemplazarla, ayudando a los cuidadores a notar y responder a los bebés y niños pequeños. Los riesgos surgen cuando genAI se diseña para ser una fuente de capacidad de respuesta o estimulación para los bebés. Las políticas deben reconocer que los sistemas genAI diseñados para mediar en las interacciones entre bebés y cuidadores deben tratarse con más cautela que aquellos diseñados como herramientas de apoyo a los cuidadores.
De 3 a 6 años: la GenAI debe seguir siendo una herramienta en la interacción dirigida por adultos, no una fuente independiente de explicación, entretenimiento o interacción social. Las características que fomentan la participación generativa de la IA (lenguaje fluido, personalizado y emocionalmente resonante) corren el riesgo de hacer que estas interacciones parezcan autoritarias y relativamente auténticas para los niños.
Leer más: ¿Productos de IA para niños que prometen amistad y aprendizaje? 3 cosas a considerar
Edades 6-12: GenAI debe apoyar el aprendizaje y el desarrollo social, no sobrecargar el aprendizaje y externalizar la construcción de amistades. Las características de diseño del aprendizaje personalizado, la retroalimentación automática y la mediación social corren el riesgo de reducir el esfuerzo cognitivo, debilitar la autorregulación y desplazar la interacción humana. Las políticas deben garantizar que las características del diseño de la IA fortalezcan y no debiliten las habilidades que sustentan las bases educativas y sociales de los niños.
Los estudiantes de secundaria juegan a las cartas en su escuela Mons.-Parent en Saint-Hubert, Quebec, en diciembre de 2025. Quebec introducirá la prohibición del teléfono en julio de 2025. CANADIAN PRESS/Graham Hughes
De 12 a 18 años: GenAI debe apoyar la construcción de autonomía, identidad y juicio para que los adolescentes se conviertan en individuos independientes. Las políticas deben garantizar que las opciones de diseño y las características predeterminadas de la inteligencia artificial no socaven el juicio independiente, intensifiquen la confianza y establezcan expectativas inapropiadas para relaciones sociales saludables.
Instituto de Investigación sobre Niños y Pantallas
El segundo informe es una revisión de la investigación de la IA en la educación publicada por Children & Screens, un instituto de investigación independiente que realiza y comparte estudios interdisciplinarios sobre el impacto de los medios digitales en los niños.
El informe cubre cómo se utiliza la IA en la educación, los riesgos que plantea cada uso y cómo los profesores y las familias pueden evaluar la IA para el aprendizaje. Concluye que genAI debe integrarse cuidadosamente en el aprendizaje evaluando las oportunidades y riesgos que presenta cada uso, así como los riesgos que surgen de que genAI sea un producto de una empresa de tecnología.
GenAI como herramienta debería ayudar a los estudiantes a completar de manera eficiente tareas de aprendizaje específicas, como organizar notas, formatear materiales y crear productos de aprendizaje (por ejemplo, editar informes de video para eliminar transiciones entre secciones) para que los estudiantes puedan concentrarse en comprender y reflexionar sobre el contenido de aprendizaje. Los riesgos surgen cuando la herramienta está diseñada para pensar por el estudiante (como editar, parafrasear o reflexionar). Las políticas deben garantizar que las herramientas GenAI utilizadas en las escuelas desarrollen habilidades, no las reemplacen.
GenAI, como tutor, debe proporcionar retroalimentación, práctica guiada y explicaciones para ayudar a los estudiantes a atravesar el proceso de lucha productiva. Sin embargo, existen graves riesgos debido a las alucinaciones genAI y la carga que suponen para los estudiantes para estimular adecuadamente los sistemas de orientación. Los estudiantes están en una mala posición para juzgar si el profesor de IA tiene razón o está alucinando. Los estudiantes tampoco saben cómo estructurar una lección; no son profesores. La política debe garantizar que los tutores de IA estén diseñados para lidiar con las alucinaciones y no obliguen a los estudiantes a convertirse en sus propios maestros.
Por Adam Dube del Laboratorio de Tecnología, Aprendizaje y Cognición de la Universidad McGill hablando sobre la IA en la educación en el podcast Screen Deep.
GenAI como recurso debería ampliar el acceso de los estudiantes a explicaciones, ejemplos y traducciones de contenido de aprendizaje y materiales de práctica, al tiempo que garantiza que este contenido sea preciso y refleje el contexto cultural de los estudiantes. Los riesgos aquí surgen en cómo se entrena genAI, con qué información (Internet versus fuentes confiables) y cómo está diseñado para presentar información a los estudiantes (enlazando a fuentes verificables versus no).
Las políticas deben garantizar que los sistemas genAI sean precisos y estén capacitados legal y éticamente en contenido canadiense (por ejemplo: asociarse con comunidades indígenas para incluir la historia y el idioma indígena) y presentar información verificable. También deben garantizar que la alfabetización en IA incluya conciencia sobre las alucinaciones y los prejuicios de la IA.
GenAI, como producto de una empresa de tecnología, debe brindar a los estudiantes acceso a genAI eficiente y segura que haya sido probada y comprobada de forma independiente para ayudar al aprendizaje. Los riesgos de las empresas de tecnología incluyen un enfoque de “solicitar ahora, probar más tarde” que pone la IA genética no probada en manos de los estudiantes; prácticas comerciales que convierten datos privados sobre los estudiantes (por ejemplo, sobre edad, antecedentes, calificaciones, tareas, preferencias, lo que piensan, cómo aprenden) en activos corporativos monetizados; y diseñar características que maximicen el compromiso (usando un lenguaje humano amigable para fomentar relaciones parasociales con genAI) en lugar del aprendizaje.
“IA para todos” responsable desde el punto de vista del desarrollo
Las políticas deberían ir más allá de preparar a los jóvenes para la inteligencia artificial. Deben regular los sistemas y las interacciones genAI para estar preparados para los jóvenes.
Esto requerirá rastrear evidencia, desarrollar iniciativas críticas de alfabetización en IA y elaborar regulaciones que garanticen que la IA esté diseñada para maximizar las habilidades académicas y sociales, no las ganancias de las empresas de tecnología.
Descubre más desde USA TODAY NEWS INDEPENDENT PRESS US
Suscríbete y recibe las últimas entradas en tu correo electrónico.
Spanish 