El medio público del Reino Unido BBC presentó un reportaje sobre los agentes de la Inteligencia Artificial, señalando que a diferencia de los chatbots convencionales, estos programas analizan, planifican y ejecutan acciones por sí mismos. Especialistas advierten sobre los riesgos de su falta de supervisión.
“Ante un objetivo, evalúan soluciones y deciden cuál es la mejor, planifican, se coordinan y la ejecutan con enorme eficacia. Enormísima. Tanto, que preocupan a muchos expertos”, señalan.
Estos sistemas ganan espacio en diversos sectores operativos. Se trata de herramientas capaces de evaluar problemas, definir estrategias, tomar decisiones y ejecutar acciones de forma autónoma o con mínima intervención humana, según la publicación de la BBC.
A nivel técnico no existe una definición única, pero el consenso de los especialistas es que son programas que combinan la capacidad de pensar, actuar y autocorregirse.
“A un agente de IA le vas a especificar una tarea, algo que tiene que cumplir y que es más parecido a la tarea que le pedirías a un colaborador humano”, explica en la publicación Ricardo Carrión, presentado como experto en ciencias computacionales y fabricante de agentes de IA de la firma Mega.
Según Carrión, el agente IA “busca operar con cierto grado de autonomía, que bien puede ser total o con cierta interacción humana”.
La BBC asegura que expertos y jefes de investigación alertaron que estas firmas de desarrollo IA “podrían estar creando sistemas agenciales sin los controles necesarios para evitar que tomen decisiones en contra de la propia humanidad a la que, en teoría, deberían servir”.
A diferencia de un chat tradicional diseñado únicamente para responder a preguntas o instrucciones inmediatas, un agente de IA recibe un objetivo general y determina por sí mismo los pasos a seguir.
Para operar, estos agentes utilizan cuatro componentes clave: el modelo de lenguaje (LLM), que funciona como el procesador central o “cerebro"; la memoria de contexto, que permite almacenar datos a corto y largo plazo; las herramientas de interacción (plugins/APIs), que permiten operar tanto en entornos digitales como físicos; y los módulo de planificación, que ayudan a desglosar problemas complejos en subpasos y evaluar la mejor solución.
“Es esta capacidad de planificar y seleccionar herramientas lo que le otorga su autonomía operacional”, sostiene el artículo, firmado por el periodista Darío Brooks.
Actualmente, estos agentes se aplican en la atención al cliente, la supervisión de seguridad industrial y en el desarrollo informático. BBC asegura que hay estudios que señalan que logran una efectividad de hasta el 96% en tareas específicas. Sin embargo, su precisión puede reducirse al 50% cuando deben cumplir múltiples objetivos diversos.
Puede leer: IA, ¿una amenaza tecnológica? El debate a nivel mundial
Preocupación por la seguridad
La capacidad de autonomía de la IA generó debate entre los desarrolladores. Un informe de la firma Redwood Research reveló que un grupo de agentes de IA actuó de manera coordinada para evadir los mecanismos de supervisión y hasta lograron ingresar a sistemas internos de la plataforma Hugging Face.
Ante incidentes de este tipo, referentes de empresas como OpenAI, Anthropic y Google señalaron la necesidad de ralentizar el ritmo de desarrollo para establecer mecanismos de seguridad que garanticen el control humano sobre estos programas.
