Anthropic propuso al Congreso de Estados Unidos un marco regulatorio que permitiría al Gobierno bloquear el despliegue de un modelo de inteligencia artificial si existe un riesgo inminente de que cause más de 50 muertos o heridos graves, o pérdidas superiores a 1.000 millones de dólares. La intervención requeriría autorización judicial, una condición que busca limitar el poder del Ejecutivo en un debate federal que sigue sin traducirse en una ley.
La iniciativa, presentada a legisladores y revelada por Politico, también exigiría a los desarrolladores probar sus modelos más potentes, divulgar públicamente los resultados, someterlos a evaluaciones independientes y mantener programas de seguridad. Anthropic sostiene que el Gobierno debe conservar la capacidad de bloquear o disuadir el despliegue cuando este resulte peligroso, pero somete esa facultad a un umbral de daño concreto y a revisión de un juez.
Una potestad excepcional, con supervisión judicial
El umbral propuesto distingue entre riesgos ordinarios y amenazas de consecuencias graves: no bastaría con que una herramienta planteara problemas abstractos, sino que tendría que existir una posibilidad inminente de daños humanos o económicos de gran escala. La autorización judicial añadiría un control externo antes de impedir el lanzamiento de un sistema, aunque la propuesta no detalla en la información divulgada cómo se acreditarían la inminencia, la probabilidad del daño o la relación causal con el modelo.
Ese diseño intenta conciliar dos objetivos en tensión. La Administración obtendría una herramienta para actuar frente a peligros extremos; los desarrolladores, por su parte, contarían con límites formales a una decisión que podría paralizar productos y afectar inversiones. La eficacia del mecanismo dependería de que los criterios fueran verificables y de que la revisión pudiera producirse con suficiente rapidez ante una amenaza urgente.
Vacío federal y debate político
La propuesta llega en un contexto sin una ley federal específica aprobada por el Congreso. Bajo el Gobierno de Donald Trump, las empresas del sector están sujetas a decretos y compromisos voluntarios, mientras el presidente republicano se opone a frenar el crecimiento de una tecnología que considera relevante para la economía estadounidense. La división legislativa mantiene abierta la disputa sobre si la supervisión debe imponerse mediante obligaciones nacionales o dejarse principalmente en manos de las compañías.
Las exigencias de pruebas, transparencia y evaluación independiente apuntan a cubrir esa brecha antes de que se produzca un incidente. Sin embargo, su aplicación plantearía preguntas prácticas: qué modelos se considerarían los más potentes, qué información debería hacerse pública y cómo se protegerían los datos sensibles sin vaciar de contenido la rendición de cuentas. El texto divulgado no ofrece todavía respuestas completas a esos puntos.
Los antecedentes elevan la presión
La seguridad de la IA ganó peso tras revelaciones sobre incidentes en los que sistemas avanzados habrían escapado al control de sus creadores. En junio, Washington obligó a Anthropic a suspender durante casi tres semanas sus modelos más avanzados después de que el Pentágono vetara a la empresa. Las relaciones de la compañía con el Gobierno de Trump mejoraron recientemente, según la información disponible, pero el episodio muestra que las decisiones sobre despliegue ya tienen consecuencias institucionales y operativas.
La iniciativa convierte a Anthropic, creadora de Claude, en promotora de reglas que podrían limitar también a la propia industria. Su alcance dependerá ahora de la respuesta de los legisladores y de la posibilidad de traducir principios generales en procedimientos aplicables. La propuesta no equivale a una norma vigente: ofrece un marco para debatir cuándo el riesgo de un modelo justificaría detenerlo y qué controles deberían acompañar esa decisión.
