El gobernador Gavin Newsom firmó un proyecto de ley el lunes que creará nuevas medidas de transparencia para las grandes compañías de IA, incluida la divulgación pública de protocolos de seguridad e informes de incidentes críticos de seguridad.

El senador Scott Wiener (D-San Francisco) dijo que el Proyecto de Ley 53 del Senado creará «barandas de sentido común» para garantizar que las innovaciones innovadoras no sacrifiquen la seguridad y la transparencia en medio del rápido crecimiento de las tecnologías de IA. Newsom dijo que el proyecto de ley tiene el equilibrio adecuado de trabajar con las compañías de inteligencia synthetic sin «someterse a la industria».

«California ha demostrado que podemos establecer regulaciones para proteger a nuestras comunidades y al mismo tiempo garantizar que la creciente industria de IA continúe prosperando», dijo Newsom en un comunicado.

El proyecto de ley se presentó este año después de que Newsom vetó un proyecto de ley más amplio el año pasado, que también fue escrito por Wiener. Ese proyecto de ley, SB 1047, fue apoyado por Elon Musk e destacados investigadores de IA, pero se opuso por Meta y OpenAI.

En su largo mensaje de veto el año pasado, Newsom llamó a SB 1047 «bien intencionado», pero agregó que no period el «mejor enfoque para proteger al público de las amenazas reales planteadas por la tecnología». Al jugar la medida el año pasado, Newsom anunció que su administración convocaría a un grupo de trabajo de líderes y expertos de IA para desarrollar protecciones más viables que se convirtieron en la base de SB 53.

La nueva ley requerirá que las empresas revelen sus protocolos de seguridad y evaluaciones de riesgos. Lleva informes de incidentes críticos, como ataques cibernéticos o un comportamiento inseguro por parte de los sistemas de IA autónomos, a la Oficina de Servicios de Emergencia del estado.

CAL OES comenzaría a publicar informes anuales en 2027 que anonimizan y agregan incidentes de seguridad crítica que recibe. SB 53 también fortalece las protecciones de denunciantes para empleados que informan violaciones.

El Fiscal Common en California podrá traer sanciones civiles de hasta $ 1 millón contra empresas que violen la nueva ley.

«Con una tecnología tan transformadora como la IA, tenemos la responsabilidad de apoyar esa innovación al tiempo que establece las barandillas de sentido común para comprender y reducir el riesgo», dijo Wiener en un comunicado.

El proyecto de ley fue opuesto por la Cámara de Comercio de California y la Cámara de Progreso, una asociación de la industria tecnológica.

«Este enfoque exhaustivo obliga a los desarrolladores a asignar tiempo y recursos significativos para prepararse para riesgos hipotéticos en lugar de abordar los daños reales y demostrables», escribió la Cámara de Progreso.

(Tagstotranslate) California (T) Política (T) Tecnología e Web (T) Negocio (T) Política de California (T) Inteligencia synthetic