AFP – EFE
LOS ÁNGELES/ WASHINGTON
El gobernador de California, Gavin Newsom, anunció ayer que firmó una orden ejecutiva para explorar la creación de un “interruptor de apagado” dentro de los programas de inteligencia artificial avanzados, al tiempo que acusó al presidente Donald Trump de no hacer nada al respecto.
“Acabo de emitir una orden ejecutiva para acelerar la implementación de controles de seguridad y avanzar en la creación de un ‘interruptor de apagado’ dentro de los programas de IA” avanzados, escribió el demócrata en X.
Newsom, a quien muchos consideran un posible aspirante demócrata a la presidencia en 2028, afirmó que tomó esta medida ante la omisión de Trump.
Esta semana, el mandatario republicano restó importancia a los temores sobre la IA, calificándolos de engaño, e instó a las empresas estadounidenses a seguir avanzando para mantener la ventaja frente a China.
California alberga a Silicon Valley y a las empresas de IA líderes del sector.
“El fracaso absoluto del gobierno federal a la hora de establecer cualquier forma de supervisión o rendición de cuentas significativa en materia de IA debería alarmar a todos los estadounidenses, especialmente cuando los propios directores ejecutivos de empresas de IA están pidiendo a gritos una regulación”, declaró Newsom en un comunicado.
“No vamos a esperar para actuar; aceleraremos nuestra labor para establecer una supervisión sustancial y responsable de la IA antes de que sea demasiado tarde”.
La orden del gobernador se produjo pocos días después de que expertos del sector lanzaran graves advertencias sobre la amenaza que esta tecnología supone para la humanidad.
Jacob Coxon, exinvestigador que abandonó Anthropic, desató las alarmas al afirmar que quienes desarrollan esta tecnología “creen sinceramente que podría acabar con todos nosotros antes de que termine la década”.
Poco después, el jefe de Anthropic, Dario Amodei, publicó un artículo llamando a “ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”.
Sam Altman, de OpenAI, y el magnate tecnológico Elon Musk respaldaron la idea, al igual que Demis Hassabis, de Google DeepMind, quien ha abogado por la creación de un organismo regulador mundial liderado por Estados Unidos.
La orden de Newsom no impone la creación de un mecanismo de desconexión de emergencia (kill switch), pero da un plazo de dos meses a las agencias estatales para estudiar la viabilidad de un recurso de ese tipo.
Newsom pidió también a los funcionarios estatales que evalúen la posibilidad de exigir a las empresas de IA que autoricen a auditores independientes en sus laboratorios.
Solicitó que consideren la obligación de notificar incidentes de pérdida de control, como los revelados recientemente por desarrolladores.
Entre ellos, uno ocurrido en julio, en el que agentes autónomos de modelos de OpenAI experimentales abandonaron espontáneamente su entorno controlado para acceder a internet y atacar la plataforma de IA Hugging Face.
NUEVAS REGULACIONES. Virginia, el estado de EEUU que concentra el mayor número de centros de datos del mundo, anunció ayer un marco normativo que prohíbe los acuerdos de confidencialidad en estos puntos y presentó un grupo de trabajo estatal sobre inteligencia artificial (IA).
“Dado que la Administración de Donald Trump no escucha las crecientes preocupaciones de los virginianos, haremos todo lo que esté a nuestro alcance para garantizar que la tecnología en torno a la inteligencia artificial se desarrolle de forma segura y responsable”, declaró en rueda de prensa la gobernadora demócrata, Abigail Spanberger, ante la falta de una normativa federal.
El llamado ‘Marco de Responsabilidad de los Centros de Datos’ prohíbe que se celebren o exijan acuerdos de confidencialidad para proyectos de centros de datos tanto a las agencias como departamentos, autoridades del poder ejecutivo y empleados bajo la supervisión de la gobernadora Spanberger.
La normativa presentada exige una mayor transparencia a las empresas y contempla la creación de un “kit de herramientas para la planificación de centros de datos y la participación comunitaria” destinado a gobiernos locales y comunidades.
El avance de esta regulación tecnológica se suma a la anunciada por California.
Los centros de datos del norte de Virginia representan actualmente el 13% de toda la capacidad operativa mundial y el 25% de la capacidad en el continente americano y el estado prevé un crecimiento significativo hacia otras zonas del territorio, según la Comisión Conjunta de Auditoría y Revisión Legislativa de Virginia.
