Las preocupaciones sobre la seguridad de la inteligencia artificial (IA) se han intensificado en las últimas semanas.
Fueron dos los trabajadores que renunciaron a importantes desarrolladoras de IA al advertir la amenaza contra la humanidad que implica esta industria.
Los grandes actores de la IA llevan meses pidiendo al gobierno estadounidense para que regule el sector y supervise la seguridad del mismo.
Lea más: China se opone a narrativas de amenaza o confrontación y defiende la IA “orientada al bien”
La idea de una entidad de supervisión fue propuesta en julio por Demis Hassabis, cofundador y director general de Google DeepMind.
Hassabis sugirió la creación de una entidad similar a la Autoridad de Regulación de la Industria Financiera de Estados Unidos, un órgano de autorregulación del sector.
“La financiación tendría que ser cuantiosa y provenir probablemente en gran parte de la industria”, escribió el directivo.
“Matarnos a todos”
El gobierno de Estados Unidos puso en marcha en agosto un proceso de evaluación de los nuevos modelos de IA, aunque este es voluntario y su metodología no se ha hecho pública.
Sepa más: ONU advierte que todos los derechos humanos “están en riesgo” ante avance de la IA
Luego de los llamados a desacelerar el desarrollo de la IA que lanzó el sábado Dario Amodei, jefe Anthropic, desarrolladora del chatbot Claude, el presidente de Estados Unidos, Donald Trump, rechazó limitar el sector.
“Que la IA tome el control del mundo, destruya a la humanidad y todas esas cosas malas, es una patraña”, escribió Trump en su plataforma Truth Social el lunes.
El mandatario y miembros de su gobierno han reiterado que no buscan limitar la IA por temor a que China tome la delantera.
Las empresas de IA están “jugando con nuestras vidas”, advirtió la semana pasada Jacob Coxon al dejar su cargo de desarrollador en Anthropic.
Más datos: Director de OpenAI Sam Altman advierte de que se puede perder el “control del futuro” ante la IA
El lunes, el ex investigador de Google DeepMind, Bilal Chughtai, se hizo eco de las preocupaciones planteadas por Coxon y otros.
“Creo sinceramente que la IA tiene el potencial de matarnos a todos y que quizá se nos esté acabando el tiempo para evitar ese desenlace”, declaró en redes sociales.
¿Cartel de IA?
La creación de un organismo propio de supervisión requerirá probablemente una ley, en particular para evitar que la industria de la IA sea acusada de connivencia y de infringir las normas de competencia.
Además de expertos independientes, esta estructura debería contar con representantes del ecosistema abierto, según la propuesta de Hassabis.
Este ecosistema está compuesto por desarrolladores de IA abierta, es decir, de acceso gratuito, descargable y modificable, a diferencia de los modelos cerrados como los de OpenAI o Anthropic.
Conozca más: Demócratas en el Congreso urgen ralentizar la IA tras las alarmas de gigantes del sector
Una vez creada la estructura de supervisión, las empresas más avanzadas en IA deberían someter sus nuevos modelos a un examen, centrado en particular en la seguridad, antes de poder comercializarlos.
“No creo que un pequeño grupo de empresas de IA deba definir las reglas para todo el mundo”, dijo al canal CNBC Aidan Gomez, director de la empresa canadiense Cohere, que desarrolla su propia IA.
“Hay gran cantidad de partes interesadas que deben ser consultadas”, añadió
Este nuevo organismo también podría impulsar una ralentización coordinada del desarrollo de la IA, en caso de que la compresión de los riesgos no vaya al ritmo del progreso de la tecnología.
Más detalles: ¿Puede la inteligencia artificial aniquilar a la humanidad?
“Cuando está en juego el futuro de la humanidad, necesitamos normas internacionales vinculantes, no estándares voluntarios de la industria”, dijo el martes el senador demócrata Bernie Sanders durante el evento Pro-Human AI en Washington.
Varios observadores, en particular del lado republicano, han acusado a los grandes nombres de la IA de “capturar la regulación”, con el fin de diseñar su propia regulación y ponerse de acuerdo para proteger su ventaja competitiva, en detrimento de sus competidores y de los consumidores.
Davis Sacks, influyente consejero de Donald Trump, ha agitado el fantasma de un cártel de la IA.
En ese sentido, ha instado a cada empresa a actuar de forma unilateral, aunque eso suponga ralentizar por sí solo el desarrollo de la inteligencia artificial.
Un escenario que luce improbable ante las inversiones realizadas en las empresas punteras del sector.
Fuente: AFP.
