El ingeniero de software británico Jacob Coxon presentó su renuncia a Anthropic, empresa desarrolladora de Claude, tras expresar públicamente fuertes cuestionamientos sobre la forma en que las principales compañías tecnológicas están avanzando en el desarrollo de sistemas de inteligencia artificial.

Coxon, de 27 años y quien anteriormente trabajó durante cerca de tres años en OpenAI, sostuvo que las empresas involucradas en esta carrera tecnológica «no están actuando con responsabilidad» frente a los potenciales riesgos asociados a sistemas de inteligencia artificial cada vez más avanzados.

El ingeniero, identificado como uno de los desarrolladores que participó en trabajos relacionados con GPT-4o y GPT-4.5, aunque sin ocupar cargos ejecutivos, expuso sus preocupaciones a través de una extensa publicación en su cuenta de X.

Según Coxon, existe el riesgo de que durante los próximos años aparezcan sistemas con capacidades superiores a las humanas en diferentes ámbitos, capaces incluso de vulnerar sistemas informáticos, acelerar avances tecnológicos y adquirir una influencia considerable sobre recursos y estructuras existentes.

En su planteamiento más extremo, el desarrollador advirtió que algunas personas directamente involucradas en el avance de esta tecnología consideran posible que sistemas de inteligencia artificial altamente avanzados lleguen a representar una amenaza existencial para la humanidad hacia finales de esta década.

Coxon también estableció diferencias entre las dos compañías en las que trabajó. A su juicio, en OpenAI existiría una menor internalización de la magnitud de los desafíos que podría representar el desarrollo de una inteligencia artificial avanzada, mientras que Anthropic tendría mayor conciencia de los riesgos, pero permanecería condicionada por la competencia por alcanzar primero sistemas cada vez más capaces.

Plantea frenar temporalmente el avance de los modelos

Frente a este escenario, Coxon considera que una de las principales alternativas sería aumentar la coordinación entre las empresas y proyectos dedicados al desarrollo de inteligencia artificial.

El ingeniero cuestionó que actualmente exista un nivel suficiente de cooperación y planteó incluso la posibilidad de adoptar medidas más drásticas, entre ellas una prohibición temporal destinada a impedir que continúe aumentando la capacidad de los modelos mientras no existan mayores garantías sobre su funcionamiento y control.

También llamó a investigadores y desarrolladores del sector a analizar las consecuencias de avanzar hacia sistemas de aprendizaje por refuerzo potencialmente superinteligentes sin contar previamente con una comprensión rigurosa de su comportamiento.

La renuncia y las declaraciones de Coxon se suman así al debate que acompaña el acelerado desarrollo de la inteligencia artificial, especialmente respecto de los límites, mecanismos de seguridad y nivel de coordinación que deberían adoptar las compañías que compiten por desarrollar los modelos más avanzados.