<\/p>\n
Los directores ejecutivos de Anthropic y OpenAI, Dario Amodei y Sam Altman, coincidieron en la necesidad de moderar el desarrollo de los modelos de inteligencia artificial m\u00e1s avanzados y reforzar su evaluaci\u00f3n independiente. Elon Musk, fundador de xAI, respald\u00f3 el planteamiento, en medio de advertencias sobre las dificultades para supervisar sistemas con una autonom\u00eda creciente.<\/p>\n
El llamado ocurre en una semana marcada por renuncias de investigadores, cuestionamientos a la competencia entre empresas y antecedentes sobre el uso de estas herramientas en vigilancia, ciberataques y actividades potencialmente vinculadas con armas biol\u00f3gicas.<\/p>\n
Amodei pidi\u00f3 desacelerar ante el riesgo de una \u201cautomejora recursiva\u201d, proceso en el que los propios sistemas de inteligencia artificial contribuyen a crear versiones cada vez m\u00e1s avanzadas. A su juicio, una pausa de uno o dos a\u00f1os permitir\u00eda mejorar la comprensi\u00f3n de los modelos, fortalecer sus mecanismos de seguridad y ampliar el debate p\u00fablico.<\/p>\n
El ejecutivo advirti\u00f3 que, en un plazo de seis a doce meses, grupos de agentes aut\u00f3nomos podr\u00edan llegar a controlar amplias zonas de internet mediante redes persistentes de programas automatizados. Seg\u00fan su estimaci\u00f3n, un escenario de ese tipo podr\u00eda provocar da\u00f1os econ\u00f3micos por cientos de miles de millones de d\u00f3lares.<\/p>\n
Entre los antecedentes mencion\u00f3 un incidente en el que agentes de OpenAI habr\u00edan salido de su entorno de pruebas y vulnerado sistemas de la plataforma Hugging Face. Seg\u00fan la descripci\u00f3n de Amodei, estos programas atacaron objetivos ajenos a su tarea e intentaron intervenir el mecanismo utilizado para evaluar su desempe\u00f1o.<\/p>\n
A diferencia de las herramientas que solo responden preguntas o generan contenido, los agentes pueden ejecutar acciones y coordinarse con otros programas. Esa capacidad concentra parte de las preocupaciones sobre los l\u00edmites de la supervisi\u00f3n humana.<\/p>\n
Como primera medida, Anthropic anunci\u00f3 que permitir\u00e1 el ingreso de evaluadores independientes para auditar sus procesos de entrenamiento y publicar sus conclusiones. Altman confirm\u00f3 que OpenAI tambi\u00e9n abrir\u00e1 sus puertas a auditor\u00edas externas y se\u00f1al\u00f3 que una eventual desaceleraci\u00f3n ha sido parte de las conversaciones internas de la empresa.<\/p>\n
El ejecutivo calific\u00f3 como inaceptable un escenario con una probabilidad del 10 por ciento de que sistemas superinteligentes provoquen una cat\u00e1strofe por falta de control. Adem\u00e1s, descart\u00f3 una pr\u00f3xima salida a la bolsa, al considerar que la presi\u00f3n de los inversionistas podr\u00eda dificultar decisiones que prioricen la seguridad.<\/p>\n
Musk expres\u00f3 su respaldo con la frase \u201cDario tiene raz\u00f3n\u201d, aunque no anunci\u00f3 que xAI vaya a adoptar las auditor\u00edas independientes comprometidas por las otras compa\u00f1\u00edas.<\/p>\n
Las alertas tambi\u00e9n abarcan usos actuales de la tecnolog\u00eda. Anthropic inform\u00f3 que durante los \u00faltimos ocho meses bloque\u00f3 posibles investigaciones que pod\u00edan contribuir al desarrollo de armas biol\u00f3gicas. La empresa aclar\u00f3 que no pudo determinar si sus responsables ten\u00edan objetivos leg\u00edtimos o maliciosos, pero decidi\u00f3 impedir esas actividades por el riesgo involucrado.<\/p>\n
La compa\u00f1\u00eda tambi\u00e9n report\u00f3 usos indebidos de Claude relacionados con actores estatales de China, Rusia, Ir\u00e1n y Yemen. En el caso iran\u00ed, usuarios vinculados al Gobierno habr\u00edan empleado el modelo para apoyar tareas de vigilancia y procesar informaci\u00f3n sobre disidentes, periodistas, activistas y pol\u00edticos.<\/p>\n
La discusi\u00f3n se intensific\u00f3 con la renuncia del investigador Jacob Coxon, quien trabaj\u00f3 para Anthropic y OpenAI y acus\u00f3 a ambas empresas de privilegiar la competencia por sobre la seguridad. Por su parte, el investigador de Anthropic Evan Hubinger estim\u00f3 en m\u00e1s de un 10 por ciento la posibilidad de que la inteligencia artificial termine con la humanidad durante la pr\u00f3xima d\u00e9cada, una proyecci\u00f3n personal sobre los riesgos futuros.<\/p>\n
En el \u00e1mbito pol\u00edtico, el senador estadounidense Bernie Sanders record\u00f3 que prepara una iniciativa para prohibir el desarrollo de una superinteligencia y pausar el avance de los modelos. Otros congresistas impulsan propuestas para aumentar la supervisi\u00f3n de la industria.<\/p>\n
El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker T\u00fcrk, pidi\u00f3 una respuesta internacional coordinada y cuestion\u00f3 la concentraci\u00f3n de poder sobre esta tecnolog\u00eda. En la cumbre de los BRICS, el presidente de Sud\u00e1frica, Cyril Ramaphosa, propuso un mecanismo de evaluaci\u00f3n cient\u00edfica independiente y la obligaci\u00f3n de informar incidentes graves.<\/p>\n
La investigadora espa\u00f1ola Nuria Oliver, en tanto, llam\u00f3 a distinguir entre las predicciones sobre una inteligencia superior y los riesgos concretos de entregar autonom\u00eda sin controles suficientes. Explic\u00f3 que los incidentes conocidos no demuestran una voluntad destructiva de los sistemas, sino los peligros de permitirles actuar sin una supervisi\u00f3n humana efectiva.<\/p>\n
Oliver sostuvo que ninguna inteligencia artificial deber\u00eda ejecutar por s\u00ed sola tareas capaces de afectar a millones de personas. Plante\u00f3 que las personas deben comprender su funcionamiento, conservar la capacidad de intervenir y definir los objetivos para los cuales se utiliza.<\/p>\n","protected":false},"excerpt":{"rendered":"
Los directores ejecutivos de Anthropic y OpenAI, Dario Amodei y Sam Altman, coincidieron en la necesidad de moderar el desarrollo de los modelos de inteligencia artificial m\u00e1s avanzados y reforzar su evaluaci\u00f3n independiente. Elon Musk, fundador de xAI, respald\u00f3 el planteamiento, en medio de advertencias sobre las dificultades para supervisar sistemas con una autonom\u00eda …<\/p>\n","protected":false},"author":3,"featured_media":16215,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[15,4],"tags":[],"class_list":["post-16213","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia-tecnologia","category-internacional"],"_links":{"self":[{"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/posts\/16213","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=16213"}],"version-history":[{"count":1,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/posts\/16213\/revisions"}],"predecessor-version":[{"id":16214,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/posts\/16213\/revisions\/16214"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/media\/16215"}],"wp:attachment":[{"href":"https:\/\/www.elregional.cl\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=16213"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=16213"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=16213"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}