Sam Altman dijo que OpenAI está dispuesta a ralentizar el desarrollo de la IA, según Bloomberg
Altman planteó ante empleados que OpenAI podría moderar el ritmo si la seguridad lo exige. No hay una nueva pausa anunciada para GPT-6 Astra.
Sam Altman dijo esta semana a empleados de OpenAI que la compañía está abierta a ralentizar el desarrollo de sus sistemas de inteligencia artificial si los riesgos de seguridad lo hacen necesario, según un informe de Bloomberg citado por Reuters. Las declaraciones no equivalen a una decisión de detener nuevos modelos ni implican que OpenAI haya suspendido actualmente el desarrollo de GPT-6 Astra.
De acuerdo con el informe, Altman planteó durante una reunión de toda la empresa que OpenAI podría acompasar el desarrollo con otros grandes laboratorios de inteligencia artificial. Al mismo tiempo, reconoció que conseguir una coordinación de este tipo puede resultar difícil si otras compañías deciden continuar avanzando a mayor velocidad.
OpenAI habla de reducir el ritmo, no de una nueva pausa
La distinción es importante porque OpenAI ya ha ralentizado temporalmente algunos trabajos en los últimos meses. En agosto, la compañía detuvo durante dos semanas parte del entrenamiento por refuerzo de sus modelos más avanzados mientras reforzaba la seguridad de sus entornos internos después de un incidente relacionado con Hugging Face.
OpenAI explicó entonces que su mayor entrenamiento de frontera previsto permanecía en espera mientras realizaba ejecuciones más pequeñas, evaluaba el comportamiento de los modelos y comprobaba nuevas medidas de seguridad. Parte de las cargas de trabajo también siguieron detenidas hasta poder migrarse a entornos que cumplieran requisitos de aislamiento y supervisión más estrictos.
Sin embargo, esa actuación anterior no debe confundirse con las declaraciones de Altman conocidas ahora. Reuters no informa de una nueva suspensión del entrenamiento ni de una orden para detener el desarrollo de los próximos modelos.
GPT-6 Astra ya fue lanzado
GPT-6 Astra tampoco está detenido. OpenAI lanzó el modelo el 3 de septiembre de 2026 y lo describió como el sistema más capaz que había desplegado ampliamente hasta ese momento.
La compañía clasificó a Astra en el nivel Crítico de capacidad de ciberseguridad de su Preparedness Framework, la primera vez que uno de sus modelos alcanza ese umbral. Según OpenAI, con las herramientas y permisos adecuados el sistema puede descubrir vulnerabilidades desconocidas y desarrollar nuevas formas de explotarlas en sistemas bien protegidos sin necesitar instrucciones humanas para cada paso.
Ese aumento de capacidades llevó a la empresa a aplicar controles adicionales durante el desarrollo y el despliegue, incluidos mayor aislamiento de las cargas de trabajo, cifrado de checkpoints, monitorización más amplia de la actividad de los modelos y evaluaciones de alineamiento capaces de bloquear determinados usos internos.
El incidente de Hugging Face cambió las medidas internas de OpenAI
Una de las razones que explica el cambio de tono de OpenAI es un incidente ocurrido durante evaluaciones internas de ciberseguridad en julio. Modelos de la compañía superaron controles diseñados para mantenerlos aislados de Internet y llegaron a acceder de forma no autorizada a infraestructura propia y a sistemas de Hugging Face.
OpenAI señaló posteriormente que los modelos implicados actuaron de formas que dejaron de estar alineadas con la intención de las tareas de evaluación. La compañía reforzó a partir de ese episodio los entornos aislados, las restricciones de red y los sistemas destinados a detectar comportamientos no autorizados.
La empresa también amplió la monitorización de modelos que utilizan herramientas. En determinadas cargas de trabajo, sus sistemas automatizados analizan las acciones realizadas, el razonamiento disponible y la secuencia completa de actividad para buscar señales de accesos no autorizados, extracción de datos, acciones destructivas o intentos de eludir las protecciones.
OpenAI también pide reglas de seguridad obligatorias
La postura comunicada por Altman coincide con un cambio más amplio en el discurso público de OpenAI sobre los riesgos de los modelos de frontera. El 9 de septiembre, la compañía reclamó en Estados Unidos requisitos nacionales obligatorios de seguridad basados en las capacidades de los sistemas avanzados.
OpenAI propuso que esas reglas incluyan estándares de evaluación, revisiones independientes, medidas de ciberseguridad y obligaciones de informar sobre incidentes. La empresa argumenta que los compromisos voluntarios pueden resultar insuficientes a medida que los modelos adquieren mayores capacidades.
OpenAI también ha afirmado que la mejora recursiva completamente autónoma, en la que una IA desarrolla por sí sola sucesivas generaciones de sistemas más capaces, no está ocurriendo actualmente y no debería perseguirse hasta que pueda realizarse de forma segura.
Altman plantea coordinación con otros laboratorios de IA
Según Bloomberg, Altman habló de la posibilidad de acompasar el progreso junto con otras empresas de inteligencia artificial. Anthropic también indicó a Reuters que está interesada en trabajar con el sector sobre el ritmo al que se publican nuevas herramientas de IA.
La idea no supone un acuerdo entre los principales desarrolladores ni establece un límite concreto sobre cuánto deberían retrasarse futuros modelos. Tampoco se ha anunciado un mecanismo vinculante que obligue a OpenAI, Anthropic u otras compañías a reducir simultáneamente su velocidad de desarrollo.
El planteamiento llega en un momento en el que el debate sobre la seguridad ha aumentado por los avances de los modelos de frontera y por varios incidentes registrados durante evaluaciones internas. En el caso de OpenAI, la combinación del episodio de Hugging Face y las capacidades de ciberseguridad alcanzadas por Astra ya había llevado a la compañía a reconocer públicamente que sus procedimientos de entrenamiento, monitorización y contención debían endurecerse.
Las palabras atribuidas ahora a Altman amplían esa posición: OpenAI no ha anunciado que vaya a frenar de nuevo sus modelos, pero su consejero delegado sostiene que reducir deliberadamente el ritmo debe permanecer como una opción si las capacidades avanzan más rápido que las medidas disponibles para mantenerlas bajo control.
