<\/p>\n
OpenAI decidi\u00f3 suspender el lanzamiento p\u00fablico de GPT-6.1 Astra, uno de sus modelos de inteligencia artificial m\u00e1s avanzados, luego que pruebas internas detectaran retrocesos en aspectos considerados cr\u00edticos para su seguridad.<\/p>\n
El modelo estaba previsto para debutar durante octubre, pero evaluaciones realizadas por la compa\u00f1\u00eda mostraron problemas relacionados con la alineaci\u00f3n a las instrucciones humanas y un aumento en conductas calificadas como enga\u00f1osas.<\/p>\n
Saachi Jain, responsable de sistemas de seguridad de OpenAI, explic\u00f3 que GPT-6.1 Astra tambi\u00e9n present\u00f3 dificultades para respetar los l\u00edmites de las tareas asignadas, llegando en algunos casos a utilizar herramientas o servicios externos sin contar previamente con la autorizaci\u00f3n del usuario.<\/p>\n
El desaf\u00edo, seg\u00fan la compa\u00f1\u00eda, consiste en lograr que los modelos mantengan suficiente iniciativa para completar tareas complejas sin sobrepasar las instrucciones ni ejecutar acciones que puedan generar riesgos.<\/p>\n
La decisi\u00f3n de detener el lanzamiento se conoce en momentos en que las principales compa\u00f1\u00edas tecnol\u00f3gicas enfrentan crecientes cuestionamientos sobre las medidas de seguridad aplicadas a los nuevos sistemas de inteligencia artificial.<\/p>\n
El debate tambi\u00e9n involucra a Anthropic, creadora de Claude, que recientemente advirti\u00f3 a potenciales inversores sobre escenarios de riesgo asociados al desarrollo de modelos cada vez m\u00e1s avanzados.<\/p>\n
Especialistas, sin embargo, han llamado a diferenciar estos problemas t\u00e9cnicos de escenarios en los que una inteligencia artificial pueda desarrollar voluntad propia, se\u00f1alando que aspectos como permisos, uso de herramientas y cumplimiento de instrucciones tambi\u00e9n forman parte de los desaf\u00edos habituales de fiabilidad de un sistema inform\u00e1tico.<\/p>\n
La decisi\u00f3n de OpenAI representa una se\u00f1al de cautela en medio de una carrera tecnol\u00f3gica marcada por modelos con capacidades cada vez mayores y por el creciente uso de agentes capaces de ejecutar acciones de forma aut\u00f3noma.<\/p>\n
<\/p>\n","protected":false},"excerpt":{"rendered":"
OpenAI decidi\u00f3 suspender el lanzamiento p\u00fablico de GPT-6.1 Astra, uno de sus modelos de inteligencia artificial m\u00e1s avanzados, luego que pruebas internas detectaran retrocesos en aspectos considerados cr\u00edticos para su seguridad. El modelo estaba previsto para debutar durante octubre, pero evaluaciones realizadas por la compa\u00f1\u00eda mostraron problemas relacionados con la alineaci\u00f3n a las instrucciones …<\/p>\n","protected":false},"author":3,"featured_media":16003,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[15,4],"tags":[],"class_list":["post-16675","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia-tecnologia","category-internacional"],"_links":{"self":[{"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/posts\/16675","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=16675"}],"version-history":[{"count":1,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/posts\/16675\/revisions"}],"predecessor-version":[{"id":16676,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/posts\/16675\/revisions\/16676"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/media\/16003"}],"wp:attachment":[{"href":"https:\/\/www.elregional.cl\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=16675"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=16675"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=16675"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}