António Guterres, Director General de la Organización de las Naciones Unidas (ONU), hizo un llamado para la creación del Compromiso para la Seguridad Infantil ante la Inteligencia Artificial. En el marco de la emisión del dictamen preliminar del Panel Científico de la IA, Guterres habló para urgir a los Estados Miembros a acelerar el control de esta tecnología en favor de las infancias del mundo. “Ningún niño debería ser conejillo de indias de IA no regulada (…) Cuando un niño resulta lastimado, la respuesta nunca debe ser ‘el algoritmo lo hizo’”, declaró Guterres.
En su discurso durante el Diálogo Global de Gobernanza de la IA, el Director General de la ONU reconoció el avance de la Inteligencia Artificial (IA) y su integración en la vida cotidiana de las infancias. A decir del Informe Preliminar del Panel Científico, emitido la semana pasada, esta integración también responde a diferencias económicas y políticas. Sin embargo, António Guterres señaló los peligros de esta integración sin regulaciones: “Niños engañados por máquinas posando como amigos. Niños conducidos a las autolesiones. Niños violados por imágenes de abuso hechas al tocar un botón”.
Ante los peligros de la ausencia de regulaciones, Guterres llamó a la creación de un Compromiso para la Seguridad Infantil ante la IA, basado en tres principios rectores:
- Prueba de seguridad: todas las compañías desarrolladoras de sistemas de IA deben realizar pruebas específicas de seguridad infantil, bajo supervisión independiente.
- Cero tolerancia al abuso sexual: prohibición a la IA de generación de imágenes sexuales de niños, con un compromiso de las compañías para detectar, reportar y retirar dichas imágenes de todos los sitios.
- Nunca dejar solo a un niño en crisis: programación de la IA para que, ante las primeras señales de peligro en una conversación con un niño, el sistema se detenga y contacte al usuario con un ser humano real para recibir apoyo.
En una serie de publicaciones en la red social X, António Guterres ahondó en el riesgo de la falta de regulaciones a la tecnología de IA: la desigualdad en la distribución de compañías de IA y del uso de la tecnología en el mundo, y el consumo de recursos que requiere la IA en comparación con el consumo de los mismo por la humanidad. “Cuando el desbalance de poder está fuertemente conectado a la tecnología, la desigualdad se vuelve parte del código”, aseguró Guterres. “Si la IA será poderosa, debemos gobernarla. Si debemos confiar en la IA; aquellos que la construyen deben ser responsables. Si la IA será global, debe ser justa. Y si la IA servirá al futuro, no debe consumir el futuro”, escribió.
