El Panel Científico Internacional Independiente sobre Inteligencia Artificial, establecido por la Organización de las Naciones Unidas (ONU), presentó el informe preliminar sobre evaluación con base empírica de oportunidades, riesgos y repercusiones de la Inteligencia Artificial (IA). En el informe se advierte sobre la falta de gobernanza de la IA, que agrava los riesgos de su uso con afectaciones diferenciadas a poblaciones como mujeres y niños, al vulnerar sus derechos, reforzar creencias peligrosas preexistentes y erosionar gradualmente la integridad de la información.
Ventajas de la IA
A través de un análisis de la evidencia empírica, el Informe Preliminar inicia con un reconocimiento de la mejora acelerada de la tecnología computacional que sostiene a la Inteligencia Artificial (IA), a través de inversión económica en infraestructura, innovación metodológica y el entrenamiento con datos especializados. A pesar de que existen áreas de mejora necesaria, la aplicación de la IA en campos científicos, como el área médica, en farmacéutica y radioterapia, ha generado avances en detección temprana de cáncer de mama y estudio de proteínas y otras partículas para el desarrollo de vacunas, por ejemplo. De acuerdo con el Informe Preliminar, las personas científicas beneficiadas se cuentan en millones.
La adopción del modelo de “agentes de IA” pone en marcha la posibilidad de que en el futuro, la IA con mayor aplicación y de mejor rendimiento sea la que funcione de manera autónoma, sin necesidad de supervisión humana.
Adopción de la IA: reflejo de desigualdades
El Panel Científico advierte, sin embargo, que la adopción de la IA y el acceso de la población a ella, refleja las diferencias económicas existentes entre los llamados Norte y Sur Globales. Además, el desarrollo de la tecnología está concentrado en Estados Unidos y China, con 75% y 15% de las supercomputadoras de IA respectivamente. “Las empresas de los Estados Unidos y China también desarrollan casi todos los modelos de propósito general más importantes, y un pequeño número de países controla los insumos fundamentales para la cadena de suministro de los chips informáticos destinados a la IA”, escribe el Panel Científico.
Riesgos de la IA
El Informe Preliminar asegura que uno de los retos principales es el desfase entre el rápido desarrollo tecnológico y la formulación de regulaciones para mitigación de riesgos, lo que puede tener consecuencias catastróficas. La vulneración de derechos humanos de mujeres y niños a través del abuso y la violencia sexual generada o facilitada por IA, así como el refuerzo de creencias preexistentes e infundadas del usuario que derivan en problemas de salud mental, y el desdibujamiento de la integridad de la verdad son efectos negativos del uso de esta tecnología, que afectan de manera diferenciada no solo con base en el sexo y la edad, sino con la ubicación geográfica y el poder económico.
Además, las herramientas de los agentes de IA no ofrecen ninguna garantía científica de que no incumplirán las regulaciones a las que estén sujetas (como está comprobado que ya han hecho), abriendo la posibilidad para su empleo mal intencionado en delitos como el fraude, “desinformación”, vulneración de sistemas de ciberseguridad, biotecnología y manipulación financiera. “Este tipo de comportamiento puede plantear dificultades para los métodos de evaluación y supervisión, ya que aumenta la capacidad de los principales sistemas de IA para reconocer los entornos de pruebas y generar resultados de evaluación engañosos que favorecerían su funcionamiento continuado”; advierte el Panel Científico.
La gobernanza es fundamental
De acuerdo con el Informe Preliminar, la adopción de la IA debe estar acompañada de inversiones paralelas en habilidades, flujos de trabajo, infraestructura e instituciones, para que la tecnología coadyuve a la creación de nuevos campos de trabajo y no funcione como mecanismo de profundización de las desigualdades sociales. Además, las inversiones deben estar reguladas por políticas que privilegien los derechos humanos, la salud mental y la preservación cultural, científica y lingüística frente al desarrollo y empleo tecnológico.
El rápido desarrollo de la IA pone un reto para la creación de políticas de regulación, pues una vez establecidas, la tecnología podría haberlas superado con sus herramientas. “La infraestructura de cómputo, los conocimientos especializados en materia de evaluación y los datos (por ejemplo, para abarcar diferentes idiomas) se concentran allí donde se desarrolla la IA, lo que hace que la mayoría de los Estados Miembros dependan de sistemas que no pueden crear, inspeccionar, auditar ni adaptar plenamente al contexto local”, se lee en el informe.
Con información de la ONU, Panel Científico Internacional Independiente sobre Inteligencia Artificial.
