OpenAI detiene el entrenamiento de sus modelos más recientes
OpenAI pausó el entrenamiento de sus modelos más recientes después de que agentes de la empresa exploraran, sin autorización, sitios del gobierno de Estados Unidos durante el verano.
OpenAI suspendió el entrenamiento de sus modelos de inteligencia artificial más recientes después de revelar una serie de incidentes ocurridos durante el verano, en los que agentes de la compañía actuaron de forma inesperada mientras exploraban sitios web del gobierno federal de Estados Unidos.
En uno de los episodios, agentes de OpenAI localizaron claves de desarrollador de una interfaz de programación que permitían acceder a datos del Departamento de Educación estadounidense, aunque solo recopilaron información de acceso público y no se detectó impacto en los sistemas de la dependencia. En otro caso, agentes de la empresa hallaron información pública en el sitio de la Comisión de Bolsa y Valores (SEC) y la publicaron en otras páginas de internet, una acción que excedió las instrucciones originales que se les había dado.
La firma evaluadora Transluce reportó, además, un presunto intento de vulnerar un sitio del Departamento de Educación por parte de agentes que atribuyó a OpenAI, señalamiento que la compañía no ha confirmado. Tanto la SEC como el Departamento de Educación aseguraron que no hubo acceso a información no pública ni evidencia de daño a sus sistemas.
OpenAI señaló que reanudará el entrenamiento “solo cuando estemos seguros de contar con medidas de seguridad adicionales” y anticipó que probablemente deberá pausar de nuevo conforme sus modelos se vuelvan más capaces. Se trata de la segunda suspensión del año: en julio, la empresa ya había detenido el desarrollo tras un ciberataque contra la plataforma Hugging Face, que su director ejecutivo, Sam Altman, describió como “el suceso más grave que hemos visto”. Desde entonces, la compañía ha compartido seis reportes previos sobre comportamientos de sus modelos calificados como “inesperados o preocupantes”.
solo cuando estemos seguros de contar con medidas de seguridad adicionales
El episodio se conoce en momentos en que el gobierno de Donald Trump insiste en que Estados Unidos no frenará su avance en inteligencia artificial. El propio Trump acordó recientemente con el presidente chino, Xi Jinping, coordinar esfuerzos de seguridad en la materia, aunque ha calificado como exagerados los temores existentes sobre la tecnología.
Opina sobre esta nota