OpenAI, Anthropic y Google DeepMind trabajan en la creación de un organismo de supervisión de los riesgos asociados a la inteligencia artificial, indicó OpenAI a la AFP ayer, en medio de crecientes llamados a mejorar los controle de esta tecnología.
Las preocupaciones sobre la seguridad de la inteligencia artificial (IA) se han intensificado en las últimas semanas. Dos trabajadores que renunciaron a importantes desarrolladoras de IA al advertir la amenaza contra la humanidad que implica esta industria.
Los grandes actores de la IA llevan meses pidiendo al gobierno estadounidense para que regule el sector y supervise la seguridad del mismo.
La idea de una entidad de supervisión fue propuesta en julio por Demis Hassabis, cofundador y director general de Google DeepMind.
Hassabis sugirió la creación de una entidad similar a la Autoridad de Regulación de la Industria Financiera de Estados Unidos, un órgano de autorregulación del sector.
“La financiación tendría que ser cuantiosa y provenir probablemente en gran parte de la industria”, escribió el directivo.
El Gobierno de EEUU puso en marcha en agosto un proceso de evaluación de los nuevos modelos de IA, aunque este es voluntario y su metodología no se ha hecho pública.
¿Cartel de IA? La creación de un organismo propio de supervisión requerirá probablemente una ley, en particular para evitar que la industria de la IA sea acusada de connivencia y de infringir las normas de competencia.
Además de expertos independientes, esta estructura debería contar con representantes del ecosistema abierto, según la propuesta de Hassabis.
Este ecosistema está compuesto por desarrolladores de IA abierta, es decir, de acceso gratuito, descargable y modificable, a diferencia de los modelos cerrados como los de OpenAI o Anthropic.
Una vez creada la estructura de supervisión, las empresas más avanzadas en IA deberían someter sus nuevos modelos a un examen, centrado en particular en la seguridad, antes de poder comercializarlos.
Varios observadores, en particular del lado republicano, han acusado a los grandes nombres de la IA de “capturar la regulación”, con el fin de diseñar su propia regulación y ponerse de acuerdo para proteger su ventaja competitiva, en detrimento de sus competidores y de los consumidores. AFP
