“ESTÁN JUGANDO CON NUESTRAS VIDAS”: INGENIERO RENUNCIA A OpenAI
El investigador británico de inteligencia artificial Jacob Coxon anunció su renuncia a Anthropic y acusó, tanto a esta compañía como a OpenAI, de avanzar de manera irresponsable hacia sistemas de inteligencia artificial capaces de mejorar sus propias capacidades, lo que, advirtió, podría representar un riesgo existencial para la humanidad. La renuncia reaviva así el debate internacional sobre si el desarrollo de modelos cada vez más capaces debe acelerarse para mantener la competencia tecnológica o someterse a mayores controles gubernamentales y mecanismos de seguridad.
Coxon, de 27 años, informó su salida mediante una serie de publicaciones en su cuenta de X, donde explicó que durante los últimos tres años realizó investigación de preentrenamiento de modelos en OpenAI y Anthropic. “Ninguna de las dos empresas está actuando responsablemente”, sostuvo, al señalar que ambas compiten por desarrollar una superinteligencia capaz de auto-mejorarse. “Están jugando con nuestras vidas”, declaró mediante su publicación en X.
El investigador afirmó que quienes trabajan en el desarrollo de esta tecnología reconocen en privado la posibilidad de que sistemas avanzados puedan provocar consecuencias catastróficas antes de que termine la década. Según Coxon, el problema no se limita a una empresa, sino que deriva de una carrera tecnológica en la que los incentivos comerciales y la competencia internacional pueden desplazar las medidas de seguridad.
La advertencia también recibió respaldo dentro de Anthropic. Evan Hubinger, investigador especializado en seguridad y alineamiento de sistemas, respondió públicamente que considera superior al 10% la posibilidad de que una inteligencia artificial provoque la extinción humana durante la próxima década. También reconoció que Anthropic todavía no cuenta con una solución para garantizar el alineamiento de una eventual superinteligencia.
Ninguna de las dos empresas está actuando responsablemente
Associated Press señaló que la salida de Coxon se suma a otras advertencias formuladas por investigadores sobre la capacidad de sistemas avanzados para operar fuera de entornos controlados y acceder a sistemas reales. La agencia destacó que tanto Anthropic como OpenAI han sostenido públicamente su compromiso con la seguridad de la inteligencia artificial.
