25 mar. 2025

Elon Musk y miles de expertos se unen para frenar inteligencia artificial

El ahora propietario de Twitter y fundador de Tesla, Elon Musk; el historiador Yuval Noah Harari; el creador de Apple y miles de expertos alrededor del mundo se unieron para pedir el cese de las nuevas inteligencias artificiales durante por lo menos seis meses.

chatgpt.jpg

El sistema ChatGTP está disponible en Paraguay.

Foto: Archivo ÚH

Elon Musk, fundador de Tesla o SpaceX y dueño actual de la red social Twitter; el reconocido historiador y escritor israelí Yuval Noah Harari; el creador de Apple, Steve Wozniak, así como más de 1.000 investigadores y creadores digitales se unieron para pedir frenar la implementación de experimentos gigantes de inteligencia artificial (IA), como el caso del sonado ChatGPT.

Mediante una carta abierta en línea, dirigida a los laboratorios de IA y firmada por los expertos, piden suspender la implementación de las tecnologías más potentes durante al menos seis meses, debido a que consideran que suponen riesgos para la humanidad.

“Hacemos un llamado a todos los laboratorios de IA para que pausen inmediatamente durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes que GPT-4. Los sistemas de IA con inteligencia humano-competitiva pueden plantear riesgos profundos para la sociedad y la humanidad”, expresa el inicio del escrito.

Seguidamente, aseguran que una extensa y ya reconocida investigación recoge que la IA avanzada “podría representar un cambio profundo en la historia de la vida en la Tierra y debe planificarse y administrarse con el cuidado y los recursos correspondientes”.

Puede leer: Inteligencia artificial: Cómo ChatGPT facilita la vida de los delincuentes

Exponen que “desafortunadamente” no se están ejecutando con la planificación y gestión requeridas, pese a que en los últimos meses los laboratorios de inteligencia artificial entraron en “una carrera fuera de control para desarrollar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable”.

Además, recuerdan que dichos sistemas son una competencia para los seres humanos en tareas generales, por lo que es importante que los desarrolladores se preguntan si esto es conveniente.

“¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad? ¿Deberíamos automatizar todos los trabajos, incluidos los de cumplimiento? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, obsoletas y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?”, cuestionan.

Sostienen también que las herramientas de IA solo deben desarrollarse cuando haya seguridad de que los efectos serán positivos y de que los riesgos podrán ser controlados. Trabajar en que sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.

“Esta confianza debe estar bien justificada y aumentar con la magnitud de los efectos potenciales de un sistema. Deberían aprovechar esta pausa para desarrollar e implementar un conjunto de protocolos de seguridad compartidos para que sean rigurosamente auditados y supervisados por expertos externos independientes”, sugieren.

Además, reclaman que los protocolos de seguridad deben garantizar que todos los sistemas que operen sean seguros, aclarando que la solicitud no implica una pausa en el desarrollo de la IA en general, sino sobre los más potentes y de forma temporal.

“Simplemente un paso atrás de la carrera peligrosa hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes. Esta pausa debe ser pública y verificable e incluir a todos los actores claves. Si tal pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria”, añaden en la nota.

Lea también: ¿Cómo funciona la prueba gratis de ChatGPT en Paraguay?

La carta, a la cual se puede acceder ingresando a https://futureoflife.org/open-letter/pause-giant-ai-experiments/, ya fue firmada por más de 1.100 expertos de diversos sectores.

Este revuelo tecnológico se generó principalmente a causa de que la startup o empresa joven con gran potencial de crecimiento OpenAI desarrolló un sistema de conversación basado en la inteligencia artificial (IA) denominada ChatGPT.

Comprende un robot que está entrenado para mantener una conversación con un usuario humano que le hace preguntas. Asimismo, es capaz de admitir sus errores, cuestionar premisas incorrectas y rechazar solicitudes inapropiadas, de acuerdo con la página de su desarrollador.

En tanto, una controversia se generó en torno a la plataforma, debido a que especialistas señalan que no se puede determinar si las respuestas del chat son fiables o correctas, por lo que podrían convertirse en un recurso para fraudes y desinformación.

Además, sostienen que su capacidad para redactar textos muy realistas a gran velocidad lo hacen un aliado de ciberdelincuentes con pocos conocimientos técnicos al generar códigos en varios lenguajes de programación, según advirtió Europol.

Más contenido de esta sección
El ex presidente brasileño Jair Bolsonaro insistió en que las acusaciones en su contra por golpismo, que la Corte Suprema analizará a partir de este martes, son “inverosímiles”, aunque admitió que estudió decretar una intervención militar tras la victoria electoral de Luiz Inácio Lula da Silva en 2022.
La multitudinaria movilización por el 49° aniversario del golpe de Estado de 1976 en Argentina reafirmó este lunes la lucha por los derechos humanos, rechazó el negacionismo de la dictadura por parte del Gobierno de Javier Milei y denunció un modelo económico de “miseria” similar al de la última dictadura militar (1976-1983).
La Agencia Espacial Europea (ESA) regresará a Marte con nuevos instrumentos, capaces incluso de perforar el subsuelo y de obtener muestras que han estado preservadas de la radiación durante millones de años, para tratar de comprobar de una forma determinante si hubo –o si hay– vida en el planeta rojo.
El papa Francisco deberá guardar al menos dos meses de convalecencia tras haber regresado al Vaticano después de 38 días hospitalizado por sus problemas respiratorios, pero crece la incertidumbre sobre si se limitará a seguir la fisioterapia y a descansar, como le han indicado los médicos, con un Jubileo en acto, la Semana Santa y otros compromisos como la próxima visita de los reyes de Inglaterra.
David Pelicot, hijo de uno de los peores agresores sexuales en Francia y de una heroína en su país, admitió que Dominique Pelicot ya no es su padre, sino que “hoy es un monstruo”.
Israel lanzó este domingo una ofensiva en el sur de la Franja de Gaza, y anunció un bombardeo contra un responsable de Hamás en un hospital de Jan Yunis, cinco días después de romper el cese del fuego. En el ataque habría muerto Ismail Barhoum, miembro del buró político del movimiento Hamás.