EFE y AFP
NUEVA YORK/LONDRES
La empresa de inteligencia artificial Anthropic informó de que pequeños modelos de IA pueden estar a pocos meses de ser capaces de multiplicarse y expandirse de forma totalmente autónoma a través de dispositivos domésticos conectados a internet, sin necesidad de acceder a grandes centros de datos.
De acuerdo con una investigación publicada por su equipo de ciberseguridad, Frontier Red Team, aparatos comunes y poco protegidos como televisores con Android TV o electrodomésticos inteligentes cuentan con potencia suficiente para albergar estos sistemas si trabajan en red de manera coordinada.
Durante sus experimentos de laboratorio, los investigadores conectaron 15 reproductores económicos de Smart TV para ejecutar con éxito un modelo de lenguaje distribuido.
Aunque los sistemas pequeños actuales todavía cometen fallos al intentar completar todo el ciclo de propagación por sí mismos, modelos más avanzados ya han logrado replicarse de principio a fin en entornos de prueba con barreras de seguridad simplificadas.
PARA FIN DE AÑO. La compañía calcula que, si el ritmo de mejora tecnológica continúa, la tendencia de los últimos años, los modelos de tamaño reducido alcanzarán este umbral de capacidad a finales de 2026.
Además, Anthropic advirtió de que este tipo de amenaza puede ser muy difícil de neutralizar debido a la ausencia de un punto central de apagado.
Pese a que su ritmo de propagación inicial sería lento, la firma de inteligencia artificial instó a fabricantes y proveedores de internet a endurecer los estándares de ciberseguridad y eliminar contraseñas por defecto en aparatos inteligentes para frenar la expansión de estos potenciales ciberataques autónomos.
Varun Chandrasekaran, profesor adjunto de Ingeniería Eléctrica e Informática en la Universidad de Illinois, señaló que la investigación no era sorprendente y que coincidía con otros hallazgos recientes similares.
Sin embargo, advirtió que el trabajo de Anthropic no había sido verificado de forma independiente y que la mayor amenaza actual son los actores humanos malintencionados que utilizan la IA para perfeccionar sus ataques.
El debate sobre la IA descontrolada cobró protagonismo en julio, cuando programas que funcionaban con modelos de OpenAI se escaparon de una prueba interna de la empresa y se infiltraron en los sistemas de la plataforma Hugging Face.
PREOCUPACIÓN. En este contexto, el director ejecutivo del fabricante estadounidense de chips Nvidia, Jensen Huang, afirmó este martes que las empresas de IA deben garantizar que esta tecnología se desarrolla de forma segura.
En el mismo sentido se expresó el presidente del grupo Microsoft, Brad Smith. Instó a las empresas y a los países a adoptar medidas de seguridad “reales y eficaces” para contener los riesgos de la inteligencia artificial.
Amenaza: Un nuevo paradigma para crear armas biológicas
La amenaza de la IA podría cambiar “las reglas del juego” en el ámbito de las armas biológicas, advirtió este martes el jefe de los servicios de inteligencia británicos, el MI5.
“En pocas palabras, la historia de la humanidad nunca nos ha proporcionado la experiencia de enfrentarnos a un actor más inteligente que nosotros. Capaz de pensar mejor que nosotros. Esto es realmente una novedad”, afirmó Ken McCallum, al presentar el informe anual sobre los desafíos de seguridad en el Reino Unido.
Según McCallum, el MI5 ya ha detectado a sospechosos que utilizan la inteligencia artificial para mejorar sus labores de reconocimiento y sus métodos de ataque, como los drones pilotados mediante IA.
La inteligencia artificial tiene “el potencial de cambiar las reglas del juego respecto a las armas biológicas existentes o incluso nuevas”, insistió, y anunció la creación de un nuevo centro de evaluación de estas amenazas.
McCallum reveló que el Reino Unido destina actualmente más recursos a combatir amenazas procedentes de países extranjeros que durante la Guerra Fría.
Durante su informe, reveló que “Rusia sigue siendo el agresor número uno”.
“El ejército y los servicios de inteligencia rusos multiplican sus intentos de guerra híbrida”, añadió el jefe de la inteligencia británica.
