EE.UU. estudia obligar a OpenAI, Google y Anthropic a prevenir riesgos graves antes de lanzar sus modelos

Senadores estadounidenses de ambos partidos están negociando una propuesta para imponer nuevas obligaciones de seguridad a los desarrolladores de los modelos de inteligencia artificial más avanzados. El borrador contempla un denominado duty of care, o deber de diligencia, que responsabilizaría a las empresas de identificar y mitigar determinados riesgos catastróficos antes de poner sus sistemas a disposición del público.

La medida todavía está en negociación y no ha sido aprobada por el Senado ni por el Congreso. Entre las compañías que entrarían previsiblemente en el ámbito de estas reglas se encuentran desarrolladores de modelos de frontera como OpenAI, Google y Anthropic, aunque los criterios jurídicos definitivos todavía no están cerrados.

Qué significa el duty of care para una empresa de IA

Un deber de diligencia establecería legalmente que los desarrolladores tienen la responsabilidad de diseñar, evaluar y desplegar sus modelos teniendo en cuenta riesgos graves que sean razonablemente conocidos.

En el planteamiento que negocian los senadores, las empresas tendrían que evaluar sus modelos antes del lanzamiento y adoptar medidas suficientes cuando detecten capacidades que puedan facilitar consecuencias catastróficas.

Entre los ejemplos discutidos aparecen sistemas capaces de ayudar de manera peligrosa en la creación de armas biológicas o nucleares y otras capacidades que puedan generar daños de gran escala.

El concepto no significa que una empresa sea automáticamente responsable de cualquier uso indebido de un chatbot. La cuestión central sería si el desarrollador cumplió las obligaciones concretas de evaluación y mitigación que termine definiendo la legislación.

La propuesta se centra en los modelos de IA más avanzados

Las conversaciones no están dirigidas a cualquier aplicación que utilice inteligencia artificial. El objetivo son principalmente los desarrolladores de modelos de frontera con capacidades suficientemente avanzadas como para plantear riesgos de seguridad nacional o daños catastróficos.

Reuters identifica a OpenAI, Anthropic y Google entre las empresas que podrían quedar directamente afectadas por este tipo de marco debido a su actividad en el desarrollo de modelos de última generación.

Todavía no se ha publicado un texto legislativo definitivo que establezca un umbral de parámetros, capacidad de cómputo o rendimiento que determine exactamente qué modelos quedarían regulados. Esa definición será uno de los elementos importantes de cualquier versión final de la propuesta.

El Gobierno podría intentar detener el lanzamiento de un modelo peligroso

Los negociadores también estudian cómo intervenir cuando las medidas de seguridad adoptadas por una compañía se consideren insuficientes.

Una de las fórmulas discutidas permitiría al Gobierno federal acudir a los tribunales para solicitar una orden que impida o detenga el despliegue de un modelo considerado peligroso. La empresa tendría derecho a cuestionar la decisión ante un tribunal federal.

Este detalle resulta importante porque las posiciones dentro del Senado todavía difieren sobre cuánto poder directo debería tener el Ejecutivo. Algunos legisladores prefieren un sistema basado en responsabilidad legal y revisión judicial, mientras que otros defienden evaluaciones gubernamentales más directas antes del lanzamiento.

Los desarrolladores podrían tener que informar de los riesgos que encuentren

Una de las versiones discutidas en el Senado plantea que los desarrolladores realicen sus propias pruebas y comuniquen al Departamento de Comercio los riesgos detectados y las medidas utilizadas para reducirlos.

Si el Gobierno considerase que esas mitigaciones son insuficientes frente a un riesgo cubierto por la ley, podría iniciar el procedimiento correspondiente para impedir el despliegue.

Este sistema intentaría mantener la responsabilidad inicial de las evaluaciones dentro de las compañías, pero añadiría una obligación legal y un mecanismo de intervención federal que actualmente no existe de forma general para los modelos de IA.

También se debate que los laboratorios nacionales prueben los modelos

No todos los senadores implicados apoyan que sean principalmente las propias compañías las que determinen si sus sistemas son seguros. La senadora demócrata Maria Cantwell ha defendido un papel más importante para los laboratorios nacionales y especialistas federales.

Su planteamiento contempla que expertos en ciberseguridad, biodefensa y seguridad nuclear puedan participar en las evaluaciones de los modelos de frontera antes de su despliegue.

Cantwell ha argumentado que los desarrolladores conocen profundamente sus modelos, pero no necesariamente poseen toda la experiencia especializada necesaria para evaluar consecuencias relacionadas con armas biológicas, sistemas nucleares o infraestructura crítica.

Por ahora, la combinación definitiva entre autoevaluaciones de la industria y pruebas gubernamentales sigue siendo uno de los puntos en discusión.

Thune, Cruz, Klobuchar y Cantwell participan en las negociaciones

Las conversaciones reúnen a figuras relevantes de ambos partidos dentro del Senado. Entre ellas se encuentran el líder republicano John Thune, el presidente del Comité de Comercio Ted Cruz y las demócratas Amy Klobuchar y Maria Cantwell.

El Comité de Comercio del Senado tiene competencias importantes sobre la política tecnológica federal, por lo que un acuerdo entre estos legisladores podría dar mayor recorrido a una iniciativa que otras propuestas de regulación de IA presentadas durante los últimos años.

Sin embargo, todavía existen diferencias significativas. Cruz se ha mostrado más favorable a un modelo en el que el Gobierno necesite acudir a los tribunales para impedir un lanzamiento, mientras que Cantwell ha impulsado una supervisión federal más directa de las pruebas previas.

La propuesta podría limitar algunas leyes estatales sobre los mismos riesgos

Otro asunto que se está negociando es la posible preeminencia de la legislación federal sobre determinadas normas estatales de inteligencia artificial que regulen los mismos riesgos.

Este punto resulta especialmente sensible porque estados como California han desarrollado sus propios marcos de seguridad para modelos avanzados, mientras que parte de la industria reclama un único estándar nacional para evitar requisitos distintos en cada estado.

Reuters señala que una posible preeminencia federal forma parte de las conversaciones, pero sus límites todavía no están definidos. No puede afirmarse por ahora que una futura ley vaya a invalidar de forma general toda la regulación estatal de IA.

La iniciativa llega en pleno debate sobre los riesgos de los modelos de frontera

El debate legislativo se ha intensificado después de varios episodios relacionados con comportamientos inesperados de agentes de IA y de nuevas advertencias procedentes de investigadores del sector sobre los riesgos de modelos cada vez más autónomos.

Los legisladores también están prestando especial atención a capacidades relacionadas con ciberataques, investigación biológica y otras áreas en las que un sistema avanzado podría reducir las barreras técnicas para producir daños.

Estados Unidos ya dispone de iniciativas voluntarias y programas federales relacionados con evaluación y estándares de IA. Lo que distinguiría a la propuesta actualmente negociada sería convertir algunas obligaciones de seguridad en exigencias legales para los desarrolladores cubiertos.

Todavía no hay una ley ni un calendario asegurado

El proyecto se encuentra en una fase de negociación entre senadores y todavía puede cambiar sustancialmente antes de convertirse en un texto legislativo formal. Tampoco está garantizado que llegue a votarse.

El calendario es especialmente ajustado por la proximidad de las elecciones legislativas de noviembre de 2026. Cualquier acuerdo tendrá que superar posteriormente los procedimientos del Senado y la Cámara de Representantes antes de llegar a la presidencia.

Por ahora, la novedad es que legisladores republicanos y demócratas están negociando un marco federal que podría obligar a los principales desarrolladores de IA a demostrar que han evaluado y mitigado riesgos catastróficos, con mecanismos judiciales o gubernamentales para intervenir cuando esas medidas se consideren insuficientes.