OpenAI pide reglas obligatorias para la IA más potente: las medidas voluntarias ya no son suficientes

OpenAI ha pedido a Estados Unidos que establezca requisitos nacionales obligatorios de seguridad para los modelos de inteligencia artificial más avanzados. La compañía considera que el aumento de las capacidades de los sistemas de frontera ha llegado a un punto en el que los compromisos voluntarios de los laboratorios ya no son suficientes y propone que el Congreso cree una regulación federal basada en las capacidades y riesgos reales de cada modelo.

La propuesta no es una nueva ley aprobada ni implica que estas obligaciones ya estén en vigor a nivel federal. OpenAI está planteando el marco que, a su juicio, debería adoptar el Congreso estadounidense. La compañía quiere que incluya pruebas comunes, evaluaciones independientes, requisitos más fuertes de ciberseguridad, reglas claras para comunicar incidentes y mecanismos para seguir la evolución de capacidades especialmente avanzadas.

Las obligaciones se concentrarían en los laboratorios de IA de frontera

OpenAI no propone aplicar el mismo régimen a cualquier empresa que utilice inteligencia artificial. Su planteamiento se dirige principalmente al pequeño número de laboratorios con suficientes recursos para desarrollar los sistemas más capaces disponibles.

La empresa defiende que las obligaciones aumenten en función de las capacidades y riesgos del sistema. Startups, pequeños desarrolladores e investigadores que trabajan lejos de la frontera tecnológica no deberían quedar sometidos automáticamente al mismo conjunto de requisitos.

OpenAI también rechaza utilizar la regulación de seguridad como una vía indirecta para restringir todos los modelos de pesos abiertos. Según su propuesta, la regulación debería concentrarse en capacidades concretas que puedan representar riesgos graves y evitar barreras que reduzcan innecesariamente la competencia.

Evaluaciones independientes antes de confiar únicamente en los laboratorios

Una de las piezas principales del modelo propuesto son las evaluaciones externas. OpenAI plantea requisitos comunes de pruebas y un ecosistema de organizaciones independientes capaces de verificar las afirmaciones de los desarrolladores sobre las capacidades de sus modelos y la eficacia de sus salvaguardas.

La empresa propone reforzar el Center for AI Standards and Innovation, CAISI, como principal institución federal estadounidense para la seguridad de la IA de frontera. Entre sus posibles responsabilidades estaría evaluar los sistemas más potentes y ayudar a establecer una infraestructura nacional de evaluación independiente.

OpenAI sostiene que estas evaluaciones deberían tener estándares consistentes para determinar quién puede actuar como evaluador, qué medidas de seguridad debe cumplir y cómo puede acceder a modelos o información altamente sensible sin crear nuevos riesgos.

El objetivo es que la seguridad de los sistemas más avanzados no dependa únicamente de evaluaciones realizadas por las mismas compañías que los desarrollan. OpenAI argumenta que la verificación independiente y una mayor transparencia sustituirían parte del actual sistema en el que cada laboratorio define en gran medida sus propias reglas.

La ciberseguridad sería un requisito central

El marco federal propuesto también contempla requisitos de seguridad más fuertes para los desarrolladores de modelos de frontera. La preocupación abarca tanto el posible uso de modelos avanzados para realizar ciberataques como la protección de los propios sistemas, infraestructura de investigación y pesos de los modelos.

OpenAI considera que las capacidades de ciberseguridad de la IA están evolucionando lo suficientemente rápido como para justificar controles proporcionales a cada nivel de riesgo. En su agenda de política pública, la compañía también ha defendido evaluaciones especializadas, mayor intercambio de información entre industria y Gobierno y medidas destinadas a fortalecer las defensas de infraestructuras críticas.

La empresa relaciona esta mayor urgencia con sus propias evaluaciones recientes. OpenAI ha señalado que los avances observados en modelos más capaces obligan a reforzar el aislamiento de cargas de investigación, la monitorización del comportamiento durante entrenamientos y evaluaciones y los criterios utilizados para escalar internamente problemas de seguridad.

OpenAI pide reglas obligatorias para informar de incidentes graves

Otro componente sería la notificación de incidentes. OpenAI apoya requisitos federales que obliguen a comunicar determinados sucesos graves relacionados con sistemas de IA de frontera, aunque reconoce que todavía debe definirse con precisión qué incidentes entrarían dentro de esa obligación y qué información tendría que proporcionarse.

La compañía ofrece un ejemplo concreto para incidentes de ciberseguridad. Defiende que un desarrollador deba notificar rápidamente y por escrito a una organización afectada cuando, durante el desarrollo o la evaluación de un modelo, el sistema eluda sin autorización sus controles de seguridad y consiga acceder, modificar o destruir de forma material sistemas protegidos o información confidencial.

OpenAI trabaja además en su propio marco para registrar incidentes importantes de desalineación y monitorizar sistemáticamente la actividad de modelos de frontera, incluido su uso interno. La compañía presenta este sistema como una iniciativa propia que podría servir posteriormente como referencia para futuras obligaciones federales, no como una regulación pública que ya esté vigente.

También quiere medir el avance hacia sistemas capaces de mejorar la propia IA

La propuesta incorpora un área menos habitual en la regulación actual: establecer métricas compartidas para seguir el progreso hacia la mejora recursiva de la inteligencia artificial. OpenAI utiliza este concepto para describir un escenario en el que sistemas de IA puedan impulsar de manera autónoma generaciones sucesivas de sistemas cada vez más capaces.

La compañía señala expresamente que esa mejora recursiva completamente autónoma no está ocurriendo actualmente. Sin embargo, sostiene que la IA ya puede acelerar determinadas tareas de investigación utilizadas para desarrollar y alinear modelos posteriores.

OpenAI quiere que los gobiernos dispongan de formas comunes de medir ese progreso, preservar un control humano significativo y definir umbrales que indiquen cuándo el desarrollo debe ralentizarse o detenerse si las salvaguardas no mantienen el ritmo de las capacidades.

OpenAI también respalda medidas estatales mientras espera una ley federal

Mientras el Congreso estudia diferentes propuestas, OpenAI continúa apoyando legislación estatal. En su comunicado del 9 de septiembre, la compañía respaldó cuatro proyectos aprobados por la legislatura de California y enviados al gobernador Gavin Newsom.

Entre ellos se encuentra SB 813, que establecería un procedimiento para designar organizaciones independientes cualificadas capaces de evaluar riesgos de IA, y AB 1405, dirigido a crear requisitos de registro, independencia, transparencia y responsabilidad para auditores de inteligencia artificial.

OpenAI también expresó su apoyo a SB 1119, centrada en protecciones para menores que utilizan chatbots de compañía, y AB 1864, destinada a reforzar controles sobre proveedores de síntesis genética frente a posibles amenazas biológicas facilitadas por IA.

Estos proyectos no constituyen el marco federal que solicita OpenAI. La propia compañía señala que las medidas estatales pueden servir como base provisional y ayudar a crear estándares comunes mientras el Congreso desarrolla una regulación nacional.

Los estándares voluntarios continuarían, pero como complemento

El cambio de posición no significa que OpenAI quiera abandonar los estándares desarrollados por la propia industria. La empresa propone seguir trabajando con otros laboratorios de frontera en sistemas voluntarios de monitorización y seguridad mientras se crea una regulación pública.

La diferencia es que ya no considera esas iniciativas suficientes por sí solas. OpenAI afirma que los estándares de la industria deberían complementar y no sustituir unas salvaguardas federales obligatorias y una supervisión democráticamente responsable.

La compañía también plantea avanzar hacia estándares internacionales compatibles para medir capacidades, gestionar riesgos y determinar en qué circunstancias debería ralentizarse el desarrollo. Sin embargo, su petición inmediata está dirigida al Congreso de Estados Unidos: crear un marco federal obligatorio para los desarrolladores de los sistemas de IA más capaces antes de que el progreso tecnológico supere la capacidad de las instituciones para supervisarlos.