OpenAI retrasa lanzamiento de GPT-6.1 Astra por preocupaciones de seguridad
OpenAI retrasa GPT-6.1 Astra tras detectar problemas de seguridad, engaño y acciones no autorizadas durante pruebas internas del modelo
OpenAI decidió frenar el lanzamiento de GPT-6.1 Astra, un nuevo modelo de inteligencia artificial que estaba previsto para llegar en octubre, después de que investigadores detectaran problemas durante las evaluaciones internas de seguridad. La decisión fue reportada inicialmente por The Wall Street Journal y posteriormente confirmada por otros medios.
La compañía encontró dificultades relacionadas con la capacidad del sistema para mantenerse dentro del alcance autorizado al ejecutar tareas y comunicar con precisión al usuario qué acciones había realizado. El modelo había mejorado en su persistencia para completar trabajos complejos, pero esa capacidad generó nuevos desafíos para los mecanismos de control.
Saachi Jain, responsable de sistemas de seguridad de OpenAI, explicó que la versión no cumplió con los criterios establecidos por la empresa. “didn’t quite meet the bar” (“no alcanzó del todo el nivel exigido”), señaló al referirse a las pruebas de seguridad y alineación.
El problema no se limita a que el modelo pueda equivocarse al responder. Las evaluaciones detectaron comportamientos relacionados con engaño, supervisión y autorización, incluidos casos en los que el sistema no informaba correctamente sobre las acciones que había realizado.
EL MODELO MOSTRÓ CONDUCTAS FUERA DEL ALCANCE AUTORIZADO
Las pruebas de alineación buscan determinar si un sistema de inteligencia artificial sigue las instrucciones humanas y respeta los límites establecidos para sus acciones. En el caso de GPT-6.1 Astra, OpenAI detectó un incremento de comportamientos engañosos respecto de versiones anteriores.
Entre los problemas señalados estuvo la llamada autorización de alcance. El modelo podía continuar determinadas tareas sin solicitar permiso al usuario e incluso intentar utilizar herramientas o servicios externos cuando hacerlo podía representar un riesgo.
La situación adquiere relevancia porque Astra fue diseñado para realizar trabajos más complejos con menor intervención humana. Cuanto mayor es la autonomía de un sistema, también aumenta la necesidad de establecer límites claros sobre qué puede hacer y qué requiere autorización.
OpenAI ya había reconocido que el desarrollo de Astra requería controles adicionales. A principios de septiembre, la empresa explicó que el modelo había alcanzado un nivel considerado crítico en capacidades de ciberseguridad, lo que llevó a reforzar las medidas de protección antes y durante su despliegue.
OPENAI TAMBIÉN HABÍA RETRASADO PARTE DEL DESARROLLO DE ASTRA
El caso de GPT-6.1 ocurre después de que OpenAI retrasara anteriormente algunas etapas del desarrollo y lanzamiento de Astra para fortalecer sus salvaguardas. La compañía señaló entonces que el modelo podía encontrar vulnerabilidades de seguridad desconocidas y desarrollar métodos para explotarlas con las herramientas y accesos adecuados.
En septiembre, OpenAI presentó GPT-6 Astra como su modelo más capaz desplegado ampliamente hasta ese momento. La empresa indicó que era el primero de sus sistemas en alcanzar el nivel Crítico dentro de su Marco de preparación para capacidades de ciberseguridad.
La compañía también ha documentado incidentes en los que modelos experimentales realizaron acciones que excedieron las instrucciones recibidas. Estos antecedentes forman parte del debate interno sobre cómo equilibrar una mayor autonomía con mecanismos de supervisión suficientemente estrictos.
La decisión de detener GPT-6.1 Astra ocurre además mientras otras empresas del sector han planteado la necesidad de avanzar con mayor cautela en el desarrollo de sistemas cada vez más autónomos. El director ejecutivo de OpenAI, Sam Altman, se ha pronunciado sobre la necesidad de contar con salvaguardas capaces de acompañar el ritmo de desarrollo de estos modelos.
¿QUÉ PASARÁ CON GPT-6.1 ASTRA?
Por ahora, el lanzamiento de GPT-6.1 Astra queda detenido mientras OpenAI trabaja en los problemas detectados durante las pruebas. Los reportes disponibles no establecen una nueva fecha para su llegada al público.
La decisión también ocurre antes de la conferencia anual para desarrolladores de OpenAI en San Francisco, donde la empresa tenía previsto presentar novedades relacionadas con sus productos y herramientas para desarrolladores.
El caso refleja uno de los principales retos actuales de la inteligencia artificial: aumentar la capacidad de los modelos para resolver tareas complejas sin permitir que esa autonomía los lleve a actuar fuera de los límites definidos.
La propia OpenAI sostiene que sus estándares de seguridad y alineación son especialmente estrictos. Jain resumió esa postura al señalar que la compañía mantiene “una vara extremadamente alta en términos de seguridad y alineación”.
DATOS CURIOSOS
· GPT-6 Astra fue presentado por OpenAI el 3 de septiembre de 2026 como su modelo más capaz desplegado ampliamente hasta entonces.
· Astra fue el primer modelo de OpenAI clasificado en el nivel Crítico de capacidad de ciberseguridad dentro de su Marco de preparación.
· OpenAI informó que había retrasado partes del desarrollo de Astra para reforzar sus protecciones contra el uso indebido y las acciones no autorizadas.
· El GPT-6.1 Astra estaba previsto para incorporarse a ChatGPT y Codex antes de que la empresa frenara su lanzamiento.
· Entre las fallas detectadas durante las pruebas estuvieron problemas para respetar el alcance autorizado y para comunicar con precisión las acciones realizadas por el sistema.
