El ingeniero de software brit\u00e1nico Jacob Coxon present\u00f3 su renuncia a Anthropic, empresa desarrolladora de Claude, tras expresar p\u00fablicamente fuertes cuestionamientos sobre la forma en que las principales compa\u00f1\u00edas tecnol\u00f3gicas est\u00e1n avanzando en el desarrollo de sistemas de inteligencia artificial.<\/p>\n
Coxon, de 27 a\u00f1os y quien anteriormente trabaj\u00f3 durante cerca de tres a\u00f1os en OpenAI, sostuvo que las empresas involucradas en esta carrera tecnol\u00f3gica \u00abno est\u00e1n actuando con responsabilidad\u00bb frente a los potenciales riesgos asociados a sistemas de inteligencia artificial cada vez m\u00e1s avanzados.<\/p>\n
El ingeniero, identificado como uno de los desarrolladores que particip\u00f3 en trabajos relacionados con GPT-4o y GPT-4.5, aunque sin ocupar cargos ejecutivos, expuso sus preocupaciones a trav\u00e9s de una extensa publicaci\u00f3n en su cuenta de X.<\/p>\n
Seg\u00fan Coxon, existe el riesgo de que durante los pr\u00f3ximos a\u00f1os aparezcan sistemas con capacidades superiores a las humanas en diferentes \u00e1mbitos, capaces incluso de vulnerar sistemas inform\u00e1ticos, acelerar avances tecnol\u00f3gicos y adquirir una influencia considerable sobre recursos y estructuras existentes.<\/p>\n
En su planteamiento m\u00e1s extremo, el desarrollador advirti\u00f3 que algunas personas directamente involucradas en el avance de esta tecnolog\u00eda consideran posible que sistemas de inteligencia artificial altamente avanzados lleguen a representar una amenaza existencial para la humanidad hacia finales de esta d\u00e9cada.<\/p>\n
Coxon tambi\u00e9n estableci\u00f3 diferencias entre las dos compa\u00f1\u00edas en las que trabaj\u00f3. A su juicio, en OpenAI existir\u00eda una menor internalizaci\u00f3n de la magnitud de los desaf\u00edos que podr\u00eda representar el desarrollo de una inteligencia artificial avanzada, mientras que Anthropic tendr\u00eda mayor conciencia de los riesgos, pero permanecer\u00eda condicionada por la competencia por alcanzar primero sistemas cada vez m\u00e1s capaces.<\/p>\n
Frente a este escenario, Coxon considera que una de las principales alternativas ser\u00eda aumentar la coordinaci\u00f3n entre las empresas y proyectos dedicados al desarrollo de inteligencia artificial.<\/p>\n
El ingeniero cuestion\u00f3 que actualmente exista un nivel suficiente de cooperaci\u00f3n y plante\u00f3 incluso la posibilidad de adoptar medidas m\u00e1s dr\u00e1sticas, entre ellas una prohibici\u00f3n temporal destinada a impedir que contin\u00fae aumentando la capacidad de los modelos mientras no existan mayores garant\u00edas sobre su funcionamiento y control.<\/p>\n
Tambi\u00e9n llam\u00f3 a investigadores y desarrolladores del sector a analizar las consecuencias de avanzar hacia sistemas de aprendizaje por refuerzo potencialmente superinteligentes sin contar previamente con una comprensi\u00f3n rigurosa de su comportamiento.<\/p>\n
La renuncia y las declaraciones de Coxon se suman as\u00ed al debate que acompa\u00f1a el acelerado desarrollo de la inteligencia artificial, especialmente respecto de los l\u00edmites, mecanismos de seguridad y nivel de coordinaci\u00f3n que deber\u00edan adoptar las compa\u00f1\u00edas que compiten por desarrollar los modelos m\u00e1s avanzados.<\/p>\n","protected":false},"excerpt":{"rendered":"
El ingeniero de software brit\u00e1nico Jacob Coxon present\u00f3 su renuncia a Anthropic, empresa desarrolladora de Claude, tras expresar p\u00fablicamente fuertes cuestionamientos sobre la forma en que las principales compa\u00f1\u00edas tecnol\u00f3gicas est\u00e1n avanzando en el desarrollo de sistemas de inteligencia artificial. Coxon, de 27 a\u00f1os y quien anteriormente trabaj\u00f3 durante cerca de tres a\u00f1os en OpenAI, …<\/p>\n","protected":false},"author":3,"featured_media":16003,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[15],"tags":[],"class_list":["post-16001","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia-tecnologia"],"_links":{"self":[{"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/posts\/16001","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=16001"}],"version-history":[{"count":1,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/posts\/16001\/revisions"}],"predecessor-version":[{"id":16002,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/posts\/16001\/revisions\/16002"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=\/wp\/v2\/media\/16003"}],"wp:attachment":[{"href":"https:\/\/www.elregional.cl\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=16001"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=16001"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.elregional.cl\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=16001"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}