La ONU pide crear un panel científico internacional que vigile los avances de la inteligencia artificial

“El campo de la IA ha evolucionado rápidamente, produciendo una cantidad abrumadora de información y haciendo difícil descifrar el bombo publicitario de la realidad. Esto puede alimentar la confusión, impedir la comprensión común y beneficiar a las grandes empresas de IA a expensas de los responsables políticos, la sociedad civil y el público”.

Es una de las principales conclusiones del del Comité Asesor de Alto Nivel sobre Inteligencia Artificial de Naciones Unidas, un grupo de 39 expertos creado ex profeso por la organización para trazar las líneas maestras de una estrategia global de gobernanza para esta tecnología. Su primer informe se ha publicado este jueves y su recomendación central a la ONU es crear un “panel científico internacional” que aumente la transparencia y reduzca la cuota de marketing en el campo de la IA.

Este grupo internacional de investigadores tendría como objetivo la difusión de “conocimiento científico imparcial y confiable” para así “abordar las asimetrías de información entre los laboratorios de IA y el resto del mundo”.

El grupo de asesores apunta que esta falta de datos confiables sobre las capacidades reales de esta tecnología, su potencial y sus riesgos, es una de las causas de la falta de normas para controlarla. “Actualmente, no existe un marco global que regule la IA, lo que implica que su desarrollo, en manos de unas pocas multinacionales, puede afectar a la mayoría de la población sin que esta participe en la toma de decisiones”, destacan. El mayor vacío está en el sur global, donde 118 países no han participado en ninguna iniciativa “destacable” para marcar las reglas de la IA, avisan.

Por ello, el Comité Asesor insta a la ONU a crear la primera estructura global para controlar la IA, basada en la cooperación internacional. El “panel científico internacional” que ayude a comprender mejor estos sistemas sería la primera pieza de ese edificio. Sus misiones serían elaborar análisis periódicos, pero también vigilar los avances de la IA con “informes ad hoc sobre cuestiones emergentes, en particular la aparición de nuevos riesgos o lagunas significativas en el panorama de la gobernanza”, pide el Comité Asesor.

El panel estaría coordinado por una nueva Secretaría de la ONU, desglosa el informe, que también se encargaría de supervisar la implementación del resto de las recomendaciones a nivel global.

Política global para controlar la IA

El Comité Asesor de Alto Nivel sobre Inteligencia Artificial de la ONU está formado por 39 personas provenientes de 33 países diferentes, con experiencia en la investigación académica de la inteligencia artificial, pero también en política y en la pata empresarial de esta tecnología. La copresidenta del Comité es Carme Artigas, ex secretaria de Estado de Digitalización e IA en la pasada legislatura.

Entre sus integrantes también se encuentran Mira Murati, jefa de Tecnología de OpenAI; o Virginia Dignum, académica portuguesa referente en la ética de la IA a nivel mundial. El informe final del Comité sale a la luz tras un año de trabajo en el que se han analizado 250 propuestas escritas de organizaciones y expertos sobre el estado actual de esta tecnología y cómo debería ser la arquitectura para gobernarla a nivel global.

Sus conclusiones recomiendan a los gobiernos que establezcan un diálogo político en el marco de Naciones Unidas, en el que puedan intervenir otros actores involucrados en el desarrollo de la IA, con el objetivo de desarrollar marcos regulatorios basados en los derechos humanos. El Comité recuerda que las nuevas normas que se creen deben ser “interoperables” en los diferentes países para evitar crear agujeros negros en la supervisión de los algoritmos de aprendizaje automático.

También sugieren crear una “red global de desarrollo de capacidades en IA”, facilitando el acceso formación, así como a los recursos computacionales y conjuntos de datos necesarios para investigar estos sistemas. Esta red estaría apoyada por un fondo global de IA para abordar las brechas de capacidades, impedir que se forme una gran brecha de conocimiento tecnológico y fomentar los esfuerzos locales para cumplir con los Objetivos de Desarrollo Sostenible.

El informe servirá también como punto de partida para la denominada Cumbre del Futuro, una reunión de la ONU que tendrá lugar entre el 20 y el 23 de septiembre. “Los rápidos avances de la tecnología y la ciencia encierran la promesa de un futuro mejor, más pacífico y próspero para las personas y el planeta. Sin embargo, en nuestro mundo interconectado y en rápida transformación, no estamos siguiendo el ritmo de los nuevos riesgos y oportunidades”, justifica la organización supranacional.

El propósito de la cumbre será ratificar un “Pacto por el Futuro para trazar un camino hacia la consecución de los Objetivos de Desarrollo Sostenible y responder a los nuevos retos y oportunidades. El pacto incluirá como anexos un Pacto Mundial Digital y una Declaración sobre las Generaciones Futuras”, explica la ONU.