La declaración conjunta, considerada una primera hoja de ruta para el sector, busca concretar en esta segunda cumbre, celebrada en Seúl, los principios planteados en la primera edición de REAIM del año pasado de cara a una futura implementación.
“Es necesario mantener un rol humano adecuado en el desarrollo, el despliegue y el uso de la IA en el ámbito militar, incluyendo las medidas adecuadas ligadas al juicio humano y al control sobre el uso de la fuerza”, señala el texto.
Las llamadas para asegurar la prevalencia del llamado “juicio humano” se han incrementado recientemente conforme la IA parece ganar ya un peso importante en guerras como la de Ucrania.
Lea más: Inteligencia artificial: 50% de los trabajos cambiarían en tres años
Por ejemplo, el uso de IA para programar y operar los llamados drones suicidas, ampliamente utilizados en este y otros conflictos, desata ya preocupación sobre las implicaciones para la población civil.
Según el texto, el rol humano debería a su vez aplicarse a “todas las acciones que resulten críticas a la hora de elaborar y ejecutar decisiones soberanas relativas al uso de armas nucleares, sin que ello perjudique el objetivo último de un mundo libre de armas nucleares”.
Los declarantes piden el establecimiento de salvaguardas adecuadas para garantizar que las aplicaciones de IA resulten fiables en su funcionamiento con base en ese juicio o criterio humano.
Nota relacionada: Ex empleado de OpenAI alerta del peligro de una IA más inteligente que los humanos
A su vez, la declaración llama también a evitar que el avance de la IA aumente la proliferación global armamentística.
“Subrayamos la necesidad de impedir que las tecnologías de IA se utilicen para contribuir a la proliferación de armas de destrucción masiva, y enfatizamos que las tecnologías de IA deben apoyar y no obstaculizar los esfuerzos de desarme, control armamentístico y no proliferación”, afirma el comunicado.
Ante la ausencia de legislación transfronteriza que regule el empleo de la IA en sistemas de armamento y de órganos que velen por su cumplimiento, el texto no tiene de momento carácter vinculante alguno.
Unos 2.000 representantes gubernamentales, del sector privado, académico y también de la sociedad civil han tomado parte en esta segunda entrega de REAIM, coorganizado por Países Bajos, Singapur, Kenia y el Reino Unido, y tras la celebrada en La Haya el año pasado.
Fuente: EFE
