Según indican investigadores de la Escuela Politécnica Federal de Lausana (EPFL), que han realizado distintas pruebas con estos agentes, es relativamente fácil conseguir que lleven a cabo acciones ‘dañinas’ con determinadas estrategias que no han sido tenidas en cuenta en pruebas de seguridad convencionales.
Lea más: La Casa Blanca planea mantener en secreto su marco sobre inteligencia artificial
En este sentido, los investigadores del Laboratorio de Procesamiento del Lenguaje Natural de la EPFL han concluido que si a estos agentes se les pide directamente algo ilícito o perjudicial, habrá una negativa, pero esto puede cambiar si la solicitud se divide en varios comandos.
“Si le pides a un agente de IA que piratee la cuenta de otra persona, los modelos son por lo general lo bastante inteligentes como para negarse, pero si se descompone el objetivo en peticiones más pequeñas y aparentemente inocuas, hay más posibilidades”, destacó el director del laboratorio, Antoine Bosselut.
Sepa más: Anthropic revela que su IA accedió sin permiso a sistemas informáticos de tres organizaciones
Los investigadores probaron este enfoque en 176 escenarios distintos de tareas perjudiciales, utilizando modelos de IA como GPT, Gemini o Claude, y descubrieron que en algunos casos los agentes tenían el doble de probabilidades de completar estas acciones maliciosas si los piratas informáticos avanzaban gradualmente.
En las pruebas, además, los investigadores han descubierto que si los piratas informáticos cambian el idioma en el que realizan sus peticiones a la IA durante las distintas etapas de su acción, la posibilidad de éxito en una tarea perjudicial “aumenta de manera drástica”.
Entérese más: El jefe de la ONU llama a gobernar la IA para no improvisar “el futuro de la humanidad”
Con estas investigaciones, los expertos buscan llamar la atención sobre la seguridad de una tecnología ya muy presente en la sociedad y llena de posibilidades, pero también de riesgos.
“Tradicionalmente la seguridad ha sido algo que se aborda cuando algo falla y no antes, pero con los agentes de IA no puede ser algo que se deje para después”, advirtió Bosselut.
Fuente: EFE.
