Algunos observadores de tecnología y políticas se sorprendieron cuando el presidente Donald Trump firmó una orden ejecutiva el 2 de junio de 2026, estableciendo un marco de seguridad de inteligencia artificial. Parecía estar avanzando en una dirección diferente a la orden ejecutiva de diciembre de 2025 que buscaba crear un marco nacional “mínimamente gravoso” para la inteligencia artificial y reemplazar las leyes estatales que la administración consideraba restrictivas.
La nueva orden ejecutiva se centra en el uso de inteligencia artificial para fortalecer la seguridad de los sistemas informáticos federales y privados. También tiene como objetivo garantizar que el gobierno federal tenga acceso a nuevos modelos importantes de IA antes de que se lancen al público, para determinar si representan una amenaza.
Sin embargo, las disposiciones de la orden con respecto a la industria de la IA son voluntarias y prohíben expresamente que sus disposiciones se interpreten como una autorización de “licencias estatales obligatorias, aprobación previa o permiso” para nuevos modelos de IA.
Como profesor que estudia inteligencia artificial responsable, las preguntas que me plantea la orden ejecutiva son cómo su nueva estructura de informes cambia la gestión de seguridad de la IA y si la orden refleja lo que los expertos en seguridad de IA ven como mejores prácticas.
Potencial de daño
La orden ejecutiva expresa preocupación por los sistemas de inteligencia artificial que pueden detectar vulnerabilidades de software y escribir códigos maliciosos para explotarlas. Dirige a varios secretarios de gobierno para que promulguen defensas cibernéticas para los sistemas federales. También está estableciendo un centro de intercambio de información sobre ciberseguridad de IA en colaboración voluntaria con la industria de la IA y los operadores de infraestructura crítica para buscar vulnerabilidades y distribuir correcciones.
Este enfoque puede ser la respuesta de la administración Trump al anuncio de Anthropic en abril de 2026 de que su última versión de Claude, denominada Mithos, había encontrado y atacado de forma autónoma cientos de vulnerabilidades de software en sistemas críticos en todo Estados Unidos. Esto ha llevado a varias instituciones financieras importantes a solicitar acceso temprano a dichos modelos.
La orden ejecutiva ordena a varios altos funcionarios gubernamentales que desarrollen y mantengan un proceso confidencial para evaluar si los nuevos programas de IA deben designarse como modelos de umbral, también llamados modelos de referencia.
En el lenguaje de la industria, un modelo de frontera es un modelo de IA nuevo y de última generación entrenado con cantidades masivas de datos que puede comprender y utilizar herramientas de forma autónoma para desencadenar acciones. Las últimas versiones de ChatGPT, Claude, DeepMind y Llama entran en esta categoría.
Si el nuevo modelo cumple con los criterios de umbral, entonces el desarrollador debe darle acceso al gobierno durante al menos 30 días antes de planear lanzar el modelo. También dijo que los desarrolladores trabajarán con el gobierno federal para seleccionar a terceros para revisar los modelos de límites cubiertos para evaluar el riesgo de ciberseguridad de la infraestructura crítica.
CBS News cubre los antecedentes detrás de la decisión del presidente Donald Trump de firmar la orden ejecutiva. Medidas voluntarias
Las empresas de inteligencia artificial que desarrollan modelos de IA de vanguardia actualmente comparten información con el Centro de Estándares e Innovación de IA, parte del Instituto Nacional de Estándares y Tecnología administrado por el Departamento de Comercio. Según el Informe internacional sobre seguridad de la IA, la mayoría de las iniciativas de gestión de riesgos en todo el mundo son en gran medida voluntarias para las empresas de IA. Estos incluyen los marcos de seguridad de la IA de Frontier consultados por los desarrolladores de IA, el proceso de IA del G7 de Hiroshima respaldado por los líderes del G7 y el Código de prácticas de la UE aplicado en toda Europa.
La nueva orden ejecutiva mantiene el carácter voluntario de los desarrolladores de IA que informan sobre posibles riesgos de seguridad. La administración continúa argumentando que las barreras de seguridad restrictivas podrían obstaculizar la innovación.
Pero los pioneros de la seguridad de la IA, incluidos los ganadores del Premio Turing Geoffrey Hinton y Joshua Bengia, sostienen que la seguridad no puede depender únicamente de la autorregulación corporativa, ya que las presiones comerciales priorizan la velocidad del desarrollo sobre la mitigación de riesgos. El Informe internacional sobre seguridad de la IA advierte que la gestión de riesgos de la IA aún es inmadura y que las medidas de seguridad corporativas deben crecer con el ritmo de la innovación.
Éste es el llamado “dilema de la evidencia”: actuar con demasiada lentitud deja a las sociedades vulnerables. Al crear estándares de seguridad de IA, la industria y el gobierno deben especificar y acordar qué información se requiere de los desarrolladores de modelos de IA, como datos y métodos de capacitación, prácticas del “equipo rojo” para pruebas de vulnerabilidad e informes de incidentes de robo de modelos.
Abordar el riesgo
A pesar de la falta de salvaguardias obligatorias para la industria de la IA, me parece sorprendente que la orden ejecutiva reconozca el grave potencial de daño que plantean los modelos de IA.
La orden también está en línea con el consenso de expertos de que las salvaguardas técnicas individuales son imperfectas y los atacantes pueden eludirlas. En cambio, la orden aboga por múltiples capas de protección superpuestas, incluido el monitoreo de hardware e infraestructura informática, pruebas rigurosas previas a la implementación y monitoreo en tiempo real.
La orden también se hace eco de la opinión de los expertos al señalar que las herramientas avanzadas de inteligencia artificial tienen una dualidad fundamental: pueden transformar disciplinas que van desde la atención médica hasta la defensa, pero también pueden habilitar a piratas informáticos y ciberdelincuentes maliciosos, dañar a la sociedad y amenazar la defensa nacional.
Más allá de la seguridad nacional de la inteligencia artificial
La cooperación internacional también es esencial para la seguridad de la inteligencia artificial.
Por ejemplo, Argentina ha creado corporaciones no humanas dirigidas enteramente por agentes de inteligencia artificial. ¿Cuánta seguridad proporciona la nueva orden ejecutiva en un mundo donde los modelos se pueden implementar desde cualquier lugar? La orden no menciona la coordinación multilateral, el compromiso aliado o la gobernanza conjunta global. De hecho, el propósito de la orden es “fomentar las capacidades avanzadas de Estados Unidos basadas en IA” como un activo nacional competitivo.
Organismos como la Agencia Internacional de Energía Atómica pueden servir como modelos para el consenso internacional sobre la seguridad de la inteligencia artificial. El proceso existente de la Cumbre de Seguridad de la IA, que celebró una cumbre en el Reino Unido en 2023; Corea del Sur en 2024; Francia en 2025; e India 2026 es la aproximación más cercana en la práctica. Incluye una red de institutos gubernamentales de seguridad de IA, incluidos Estados Unidos y Europa. Celebra reuniones cada seis a 12 meses.
Estos organismos independientes dirigidos por expertos también pueden moldear las expectativas sobre los protocolos y normas relacionados con el riesgo de la IA.
La orden ejecutiva representa un primer paso para reconocer algunos de los riesgos de seguridad que la IA supone para la seguridad nacional. De cara al futuro, creo que es importante que el gobierno de Estados Unidos vincule esos esfuerzos con enfoques científicos más amplios, independientes y para identificar y contrarrestar las amenazas de la IA.
Descubre más desde USA TODAY NEWS INDEPENDENT PRESS US
Suscríbete y recibe las últimas entradas en tu correo electrónico.
Spanish 