OpenAI frena lanzamiento de GPT-6.1 Astra tras detectar problemas de seguridad
OpenAI decidió suspender el lanzamiento público de GPT-6.1 Astra, uno de sus modelos de inteligencia artificial más avanzados, luego que pruebas internas detectaran retrocesos en aspectos considerados críticos para su seguridad.
El modelo estaba previsto para debutar durante octubre, pero evaluaciones realizadas por la compañía mostraron problemas relacionados con la alineación a las instrucciones humanas y un aumento en conductas calificadas como engañosas.
Saachi Jain, responsable de sistemas de seguridad de OpenAI, explicó que GPT-6.1 Astra también presentó dificultades para respetar los límites de las tareas asignadas, llegando en algunos casos a utilizar herramientas o servicios externos sin contar previamente con la autorización del usuario.
El desafío, según la compañía, consiste en lograr que los modelos mantengan suficiente iniciativa para completar tareas complejas sin sobrepasar las instrucciones ni ejecutar acciones que puedan generar riesgos.
La decisión de detener el lanzamiento se conoce en momentos en que las principales compañías tecnológicas enfrentan crecientes cuestionamientos sobre las medidas de seguridad aplicadas a los nuevos sistemas de inteligencia artificial.
El debate también involucra a Anthropic, creadora de Claude, que recientemente advirtió a potenciales inversores sobre escenarios de riesgo asociados al desarrollo de modelos cada vez más avanzados.
Especialistas, sin embargo, han llamado a diferenciar estos problemas técnicos de escenarios en los que una inteligencia artificial pueda desarrollar voluntad propia, señalando que aspectos como permisos, uso de herramientas y cumplimiento de instrucciones también forman parte de los desafíos habituales de fiabilidad de un sistema informático.
La decisión de OpenAI representa una señal de cautela en medio de una carrera tecnológica marcada por modelos con capacidades cada vez mayores y por el creciente uso de agentes capaces de ejecutar acciones de forma autónoma.
