- ¿Cuál es el peor escenario? -
En 2023, cientos de expertos en inteligencia artificial (IA) y dirigentes del sector tecnológico firmaron una “declaración sobre el riesgo de extinción asociada a la inteligencia artificial” y exhortaron a que se trate este tema con la misma seriedad que las pandemias o las armas nucleares.
Según Stuart Russell, profesor de informática de la Universidad de California en Berkeley, si una IA escapa al control y considera que los humanos obstaculizan sus objetivos, podría utilizar robots para “sintetizar y difundir nuevos agentes patógenos”.
Lea más: Anthropic: Irán usó la IA Claude para planificar posibles ataques contra EEUU
Sin embargo, Russell subraya que esos riesgos no se aplican a los sistemas actuales.
El peligro inmediato, según él, es el uso malicioso de la IA por parte de seres humanos. “En el próximo año o dos años, creo que el mayor riesgo radica en un uso indebido de la inteligencia artificial por parte de los seres humanos”, por ejemplo para perpetrar un atentado terrorista.
“Somos menos inteligentes que una IA superinteligente”, sostiene.
- ¿Por qué no se detiene el desarrollo de la IA? -
Jacob Coxon, un investigador de Anthropic de 27 años, anunció esta semana que renunció a la empresa estadounidense al estimar que no actúa de forma “responsable” en el desarrollo de la IA.
Los laboratorios “comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (...) a pesar del riesgo”, afirmó Coxon.
Entérese más: OpenAI pide al Congreso de EEUU normas de seguridad obligatorias para la IA
Anthropic retiró este año de su carta de seguridad el compromiso de detener el desarrollo de sus modelos si no podía controlar adecuadamente sus riesgos.
La compañía argumenta que, si suspendiera sus investigaciones, los competidores menos prudentes acabarían imponiéndose en el sector.
“Las personas que están desarrollando la IA creen sinceramente que podrían matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo”, dijo Coxon, quien anteriormente trabajó en OpenAI, la empresa que creó ChatGPT.
Coxon acusó a ambas compañías de “jugar con nuestras vidas” al intentar desarrollar modelos de inteligencia artificial capaces de mejorarse a sí mismos.
Los temores ante una IA fuera de control aumentarán después de que una tecnología de OpenAI, operando sin supervisión humana, logrará vulnerar Hugging Face, una plataforma que aloja modelos de IA.
Fuente: AFP
