Inglaterra, Estados Unidos, China y la Unión Europea (UE), los principales bloques con influencia en el desarrollo de la IA, se han alineado para crear un panel de expertos inspirado en el Grupo Intergubernamental de Expertos sobre el Cambio Climático (IPCC, en inglés) que evaluará el estado de los avances en este campo.
En el encuentro impulsado por el Reino Unido también se ha concretado un plan, al que han dado respaldo las principales empresas del sector, que permitirá a las autoridades evaluar si los algoritmos de IA pueden ser peligrosos para la “seguridad nacional”, o bien provocar “daños sociales”.
“Hasta ahora, las únicas personas que probaban la seguridad de los nuevos modelos de IA han sido las propias empresas que los desarrollaban. Eso debe cambiar”, afirmó Sunak al presentar las conclusiones de la cumbre.
Los acuerdos del jueves se suman a la declaración conjunta que firmaron los países en la primera jornada del encuentro, que alerta sobre las posibles consecuencias “catastróficas” de la IA y apuesta por la cooperación internacional como la mejor forma de hacerles frente.
Entre los líderes que acudieron a la cumbre, la presidenta de la Comisión Europea, Ursula von der Leyen, se mostró partidaria de inspirarse en el desarrollo de la energía nuclear en el siglo XX para manejar los riesgos y beneficios asociados a esta nueva tecnología.
Abogó asimismo por crear un sistema de estándares similar al que rige en el sector de la aviación para tratar de minimizar los peligros de los futuros sistemas inteligentes.
El secretario general de la ONU, António Guterres, coincidió en el peligro de que la tecnología avance en “direcciones imprevistas” y en la posibilidad de llegar a “perder el control” de los sistemas, y llamó a mantener los principios de la Carta de Naciones Unidas y la Declaración Universal de los Derechos Humanos para regular la IA.
Han participado asimismo en la cumbre la vicepresidenta de Estados Unidos, Kamala Haris, así como directivos de las principales empresas del sector, como OpenAI, Google DeepMind, Anthropic, Meta y Microsoft.
Durante la jornada se celebraron dos sesiones plenarias a puerta cerrada. Uno de los propósitos esenciales de la cumbre ha sido coordinar las diversas normativas que están en marcha para regular la IA, una tecnología que va a tener un impacto global.
