El director ejecutivo de OpenAI, Sam Altman, instó este miércoles al Consejo de Seguridad de la ONU a construir una cooperación internacional urgente que oriente a las empresas tecnológicas con estándares complementarios nacionales y globales, advirtiendo de que el avance acelerado de la inteligencia artificial (IA) exige un “extremo cuidado” para no perder el control humano sobre los modelos.
En su intervención en una sesión de alto nivel convocada por la presidencia francesa del Consejo, Altman remarcó que el sector se encuentra en una encrucijada y no debe asumir “demasiado riesgo tecnológico solo porque los beneficios sean demasiado grandes e importantes como para frenarlos”.
Lea más: Una encuesta asegura que muchos países son optimistas respecto a la IA
A su juicio, la IA tiene el potencial de impulsar una nueva era similar al “renacimiento” si se concibe como una herramienta que capacite a las personas, pero alertó del peligro de reproducir las fracturas de la “revolución industrial” si los sistemas sustituyen la agencia humana o si la tecnología escapa a su supervisión.
Altman puso especial énfasis en el riesgo de que los modelos más avanzados, aquellos capaces de programarse y mejorarse a sí mismos de forma recursiva, aceleren su desarrollo hasta el punto de que los humanos no los entiendan ni puedan seguir sus decisiones.
Sepa más: Macron, Sánchez y otros piden regular IA para niños y no repetir errores de las redes
Por ello, señaló que las empresas necesitan la guía de los líderes mundiales para definir marcos técnicos rigurosos que permitan medir capacidades, evaluar amenazas, verificar salvaguardas y crear canales internacionales seguros para compartir vulnerabilidades críticas.
Altman apeló al consenso multilateral, pero lo hizo sin aludir directamente a potencias rivales como China: “A nivel internacional, esto significa cooperación. En nuestra historia, ha habido momentos en que países que compiten y no siempre se llevan bien, pero aun así se unen por intereses comunes y el bien colectivo ante una nueva y poderosa tecnología. Creemos que este debe ser uno de esos momentos”.
Conozca más: Trump rechaza ante la ONU una regulación internacional de la IA
Para encarar este dilema, Altman desgranó los tres principios rectores de su compañía: mantener a las personas “en el centro de la toma de decisiones” para garantizar que los modelos sigan bajo estricto control humano, orientar el progreso científico y económico “por y para las personas” potenciando su capacidad de acción y “empoderar a cada individuo”.
“Puede que seamos los creadores de esta tecnología, pero no somos los héroes de esta historia. Nuestro papel es confiar en la magia del talento humano”, subrayó.
Anthropic alerta sobre riesgos de la IA: “ninguna nación puede gestionar esto en solitario”
El director ejecutivo de Anthropic, Dario Amodei (izquierda, en pantalla), intervienen por video durante una reunión del Consejo de Seguridad de la ONU sobre inteligencia artificial, en el marco del 81º periodo de sesiones de la Asamblea General de las Naciones Unidas, en la sede de la ONU en Nueva York, EEUU, el 23 de septiembre de 2026.
Foto: Angela Weiss (AFP).
El consejero delegado de la tecnológica Anthropic, Dario Amodei, advirtió ante el Consejo de Seguridad de la ONU de que los riesgos asociados a los modelos más avanzados de inteligencia artificial (IA) constituyen “el problema de seguridad global más importante al que se enfrenta el mundo hoy”, y reclamó una respuesta internacional coordinada.
Durante esta reunión de alto nivel sobre la IA y la seguridad internacional, Amodei, que se conectó por videoconferencia, apeló de forma directa a la colaboración entre Estados y el sector tecnológico.
“Ningún líder, ninguna empresa y ninguna nación puede gestionar esto en solitario. Nos comprometemos a trabajar con los Gobiernos en esta sala en este objetivo crucial”, subrayó ante los delegados.
Más datos: OpenIA sugiere que EEUU lidere la creación de normas globales para la IA
El máximo responsable de la compañía tecnológica instó a los líderes mundiales a centrarse con urgencia en los peligros para la estabilidad global y demandó al Consejo de Seguridad respaldar medidas concretas.
Entre ellas, destacó la prohibición expresa del uso de la IA para la proliferación o fabricación de armas biológicas, así como la implementación de sistemas de evaluación y verificación capaces de avanzar al mismo ritmo vertiginoso del desarrollo técnico.
Asimismo, Amodei solicitó la adopción de estándares globales que permitan evaluar los modelos frente a eventuales pérdidas de control o usos indebidos, junto a un protocolo de notificación obligatoria ante “incidentes significativos para la seguridad global”.
Por último, el directivo reconoció que una mayor potencia computacional exigirá requisitos aún más estrictos y aseguró que la industria debe comprometerse con la prudencia.
Más detalles: La UE no quiere quedarse atrás en la carrera por la IA, pero apuesta por regularla
“Iremos tan despacio como sea necesario para asegurarnos de que cada tecnología de IA sucesiva que lancemos sea de hecho segura”, concluyó.
El tema de la seguridad en el desarrollo de la IA se situó en el centro del debate internacional ante la posibilidad de que los modelos más avanzados puedan escapar al control humano y llevar a cabo ciberataques, especialmente después de que varias pruebas realizadas con modelos de Anthropic, OpenAI y Google mostraran que estos podían escapar de sus entornos de prueba.
La sesión, presidida por el ministro francés de Exteriores, Jean-Noël Barrot, aborda por primera vez en el Consejo las amenazas de los ciberataques autónomos o el riesgo de que los humanos pierdan el control sobre los modelos de IA más avanzados.
En el encuentro también intervino por videoconferencia Clément Delangue, figura de la firma Hugging Face.
Fuente: EFE.
