El gobernador de California, Gavin Newsom, ordenó a su Administración evaluar la creación de un "interruptor de apagado" obligatorio para los modelos de inteligencia artificial más avanzados, así como la instalación permanente de auditores independientes dentro de las empresas que desarrollan esta tecnología. La medida busca establecer controles de seguridad frente a los riesgos que plantea la IA de frontera, en un momento en que el estado concentra buena parte de las principales compañías del sector.

California es el epicentro mundial de la industria de la inteligencia artificial, con empresas como OpenAI, Google, Meta y Anthropic operando desde Silicon Valley. La iniciativa se suma a un debate global sobre cómo regular una tecnología que avanza más rápido que las leyes, y que ya ha generado preocupación por sus posibles usos maliciosos, su impacto en el empleo y su capacidad de generar desinformación a gran escala.

La propuesta de Newsom contempla que los modelos más potentes cuenten con mecanismos capaces de detener su operación en caso de comportamientos peligrosos o fuera de control, además de la presencia de auditores que verifiquen el cumplimiento de estándares de seguridad. La industria ha expresado reservas sobre la carga regulatoria, mientras organizaciones de la sociedad civil y expertos en ética tecnológica consideran que se trata de un paso necesario para evitar daños irreversibles.

De concretarse, California se convertiría en el primer gran territorio en imponer este tipo de controles obligatorios, lo que podría marcar un precedente para otras jurisdicciones, incluida la Unión Europea y varios países de América Latina que siguen de cerca la regulación estadounidense. El debate entre innovación y seguridad se perfila como uno de los ejes centrales de la política tecnológica de los próximos años.