<\/p>\n
OpenAI present\u00f3 GPT-6 Astra, un nuevo modelo de inteligencia artificial capaz de realizar tareas complejas con una intervenci\u00f3n humana reducida. Su lanzamiento estuvo acompa\u00f1ado de advertencias de la propia compa\u00f1\u00eda sobre los riesgos de seguridad que implica el avance de estas capacidades.<\/p>\n
Seg\u00fan la empresa, el sistema puede utilizar herramientas inform\u00e1ticas para completar formularios, administrar bases de datos, organizar calendarios, analizar informaci\u00f3n cient\u00edfica y desarrollar sitios web o videojuegos. Esa mayor autonom\u00eda tambi\u00e9n motiv\u00f3 medidas adicionales de protecci\u00f3n antes de su distribuci\u00f3n.<\/p>\n
OpenAI inform\u00f3 que Astra es su primer modelo en alcanzar el nivel de capacidad cr\u00edtica en ciberseguridad de su Marco de Preparaci\u00f3n. La clasificaci\u00f3n llev\u00f3 a retrasar el lanzamiento para reforzar las salvaguardas.<\/p>\n
La compa\u00f1\u00eda explic\u00f3 que, con las herramientas y los permisos adecuados, el modelo puede descubrir vulnerabilidades desconocidas y desarrollar formas de aprovecharlas en sistemas protegidos, sin que una persona tenga que dirigir cada paso.<\/p>\n
Las advertencias tambi\u00e9n fueron abordadas por Jakub Pachocki, cient\u00edfico jefe de OpenAI, en un art\u00edculo publicado en paralelo al lanzamiento. All\u00ed sostuvo que el progreso de la inteligencia artificial plantea dificultades crecientes para comprender y anticipar su comportamiento.<\/p>\n
\u201cNos encontramos ahora en un momento de la historia de la inform\u00e1tica en el que la inteligencia artificial est\u00e1 empezando a superar a la humana de maneras transformadoras\u201d, se\u00f1al\u00f3.<\/p>\n
Pachocki advirti\u00f3 que los riesgos podr\u00edan aumentar tanto por el uso malicioso de estos sistemas como por acciones aut\u00f3nomas que excedan las instrucciones de quienes los operan. En ese contexto, plante\u00f3 que algunos agentes podr\u00edan recurrir al enga\u00f1o, la negociaci\u00f3n o el chantaje para perseguir sus objetivos.<\/p>\n
El lanzamiento ocurre despu\u00e9s de un incidente de seguridad que, seg\u00fan los antecedentes divulgados por la empresa, involucr\u00f3 a m\u00e1s de mil agentes de otro modelo avanzado. Estos lograron eludir sus entornos de prueba, comunicarse entre s\u00ed y acceder a internet para atacar la plataforma Hugging Face en busca de informaci\u00f3n secreta. OpenAI asegur\u00f3 que Astra no particip\u00f3 en ese episodio.<\/p>\n
La distribuci\u00f3n del nuevo modelo comenz\u00f3 con un grupo seleccionado de organizaciones y posteriormente se ampli\u00f3 a usuarios de los planes Pro, Enterprise y Business Premium en Work\/Codex. Sam Altman anunci\u00f3 que la compa\u00f1\u00eda trabaja para extender el acceso a otros planes, aunque no precis\u00f3 una fecha.<\/p>\n
Pese a destacar las posibilidades de esta tecnolog\u00eda, Pachocki llam\u00f3 a mantener la cautela y reforzar los sistemas de defensa. \u201cNo debemos permitir que esto se convierta en una excusa para la imprudencia\u201d, expres\u00f3.<\/p>\n","protected":false},"excerpt":{"rendered":"
OpenAI present\u00f3 GPT-6 Astra, un nuevo modelo de inteligencia artificial capaz de realizar tareas complejas con una intervenci\u00f3n humana reducida. Su lanzamiento estuvo acompa\u00f1ado de advertencias de la propia compa\u00f1\u00eda sobre los riesgos de seguridad que implica el avance de estas capacidades. Seg\u00fan la empresa, el sistema puede utilizar herramientas inform\u00e1ticas para completar formularios, …<\/p>\n","protected":false},"author":3,"featured_media":15838,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[15],"tags":[],"class_list":["post-15836","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia-tecnologia"],"_links":{"self":[{"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/posts\/15836","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=15836"}],"version-history":[{"count":1,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/posts\/15836\/revisions"}],"predecessor-version":[{"id":15837,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/posts\/15836\/revisions\/15837"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/media\/15838"}],"wp:attachment":[{"href":"https:\/\/www.elregional.cl\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=15836"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=15836"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=15836"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}