Muchos algoritmos y poca humanidad: así se forma a los creadores de inteligencia artificial

PeopleImages.com/Shutterstock

En los próximos años, los sistemas de inteligencia artificial influirán cada vez más en las decisiones relacionadas con el empleo, la educación, la salud, la seguridad, la justicia o el acceso a los servicios públicos.

Los datos muestran un crecimiento espectacular de estas titulaciones. Desde que la Universidad Politécnica de Madrid y la Universidad del País Vasco pusieran en marcha en 2020 las primeras titulaciones específicas en inteligencia artificial, la oferta se ha ampliado a veinticinco universidades españolas en apenas seis años.

Respondiendo a la demanda del mercado

La demanda laboral explica en gran medida este fenómeno. Empresas e instituciones buscan perfiles especializados capaces de diseñar algoritmos, desarrollar sistemas de aprendizaje automático o gestionar grandes cantidades de datos.

Pero las competencias que las empresas definen para este perfil incluyen la adaptabilidad, el aprendizaje continuo, la inteligencia artificial aplicada, el pensamiento crítico, la inteligencia emocional, el liderazgo colaborativo, la gestión del conocimiento, la comunicación, la creatividad o la ética tecnológica.

¿La formación cumple con estos requisitos? ¿Cómo se forman estos futuros profesionales?

Casi no hay contenido no técnico.

Investigamos el contenido de las titulaciones de IA de las universidades españolas y comprobamos que apenas contienen formación en ética, filosofía, sociología o pensamiento crítico.

Las materias de humanidades tienen poco peso en la formación de estos futuros profesionales tecnológicos con un profundo impacto en la vida de millones de personas.

Leer más: La IA y el futuro del trabajo: encontrar el equilibrio entre la gestión humana y la gestión de algoritmos

Cuando analizamos los planes de estudio de estas titulaciones encontramos que la gran mayoría tienen una orientación eminentemente técnico-científica. Matemáticas, programación, estadística, ciencia de datos o aprendizaje automático ocupan el núcleo de la formación. Temas relacionados con la reflexión ética, social, jurídica o cultural aparecen en forma de testimonio en muchos programas.

De siete a dos asignaturas de humanidades

Algunas universidades destacan por incorporar una mayor presencia de contenidos de humanidades. La Universidad de Málaga, por ejemplo, incluye siete carreras relacionadas con cuestiones éticas, jurídicas o sociales en algunas de sus especialidades; La Universidad de Deusto incluye seis; y otras instituciones como CUNEF, la Universidad del País Vasco, la Universidad Francisco de Vitoria o la Universidad Pontificia de Comillas cuentan con entre cuatro y cinco cursos de este tipo.

Sin embargo, en muchas universidades la formación en humanidades se reduce a una o dos materias, y en algunos casos apenas existe una única materia que aborde estas cuestiones a lo largo de la carrera. Se mantiene claramente la presencia de las humanidades, con una tendencia estructural a privilegiar la competencia técnica sobre la reflexión ética, jurídica y social.

¿Por qué deberíamos preocuparnos por este desequilibrio?

La inteligencia artificial ya no es una tecnología confinada a los laboratorios. Los algoritmos participan en procesos de selección de personal, ayudan a realizar diagnósticos médicos, influyen en la información que vemos en Internet, determinan recomendaciones educativas y pueden intervenir en decisiones administrativas o judiciales. Cuando estas herramientas funcionan con prejuicios, reproducen la discriminación o afectan derechos fundamentales, las consecuencias son profundamente humanas.

Por tanto, quienes diseñarán estas tecnologías deberían recibir una formación más amplia en las disciplinas que estudian a los seres humanos y las sociedades. Programar un sistema capaz de reconocer patrones es una habilidad esencial. También debería serlo comprender cómo estos patrones pueden reforzar las desigualdades sociales.

Más allá de temas aislados

Los autores del estudio creen que añadir un tema aislado sobre ética no es suficiente para resolver el problema. Se trata de un concepto más amplio de educación universitaria. Proponen la integración de conocimientos de la filosofía, la sociología de la tecnología, el derecho digital, la ciencia política, la epistemología de datos o incluso el llamado “neuroderecho”, el campo de la protección de la identidad mental y la autonomía cognitiva en el contexto de la creciente interacción entre la inteligencia artificial y las neurotecnologías.

Leer más: Neuroderecho: lo que dice la neurociencia

La pregunta básica es simple pero decisiva. Si los sistemas de inteligencia artificial afectarán a la organización de nuestras sociedades, ¿puede considerarse suficiente una formación centrada casi exclusivamente en la dimensión técnica? ¿Es posible construir tecnologías honestas sin una comprensión profunda de los problemas sociales que buscan resolver? ¿Podemos hablar de innovación responsable cuando quienes desarrollan estas herramientas apenas tienen espacio para pensar críticamente sobre sus consecuencias?

Encrucijada histórica

Nuestra investigación sugiere que la universidad española se encuentra en una encrucijada histórica. No sólo debe formar profesionales capaces de desarrollar tecnologías avanzadas, sino también ciudadanos dispuestos a comprender sus implicaciones sociales, políticas y culturales.

Quizás el verdadero desafío de la inteligencia artificial no sea crear máquinas cada vez más inteligentes, sino garantizar que quienes las diseñan comprendan mejor la complejidad humana. Porque una sociedad regida por algoritmos necesita ingenieros excelentes, pero también profesionales que sepan preguntarse para quién está hecha la tecnología, a quién beneficia, a quién puede perjudicar y qué valores incorporan a su trabajo.

Si la inteligencia artificial va a tomar decisiones que afectan a millones de personas, sus algoritmos deberían ser diseñados por personas que hayan aprendido sobre desigualdad, ética o derechos básicos. Los profesionales capaces de programar sistemas inteligentes también deberían poder comprender sus consecuencias, ya que éstas tendrán el impacto más directo en los valores que estos sistemas deberían encarnar.

Vanessa Cejudo Mejías no recibe salario, consultoría, propiedad accionaria ni financiamiento de ninguna empresa u organización que pueda beneficiarse de este artículo, y no ha declarado afiliaciones relevantes distintas al puesto académico citado.