17 mar. 2025

Elon Musk y miles de expertos se unen para frenar inteligencia artificial

El ahora propietario de Twitter y fundador de Tesla, Elon Musk; el historiador Yuval Noah Harari; el creador de Apple y miles de expertos alrededor del mundo se unieron para pedir el cese de las nuevas inteligencias artificiales durante por lo menos seis meses.

chatgpt.jpg

El sistema ChatGTP está disponible en Paraguay.

Foto: Archivo ÚH

Elon Musk, fundador de Tesla o SpaceX y dueño actual de la red social Twitter; el reconocido historiador y escritor israelí Yuval Noah Harari; el creador de Apple, Steve Wozniak, así como más de 1.000 investigadores y creadores digitales se unieron para pedir frenar la implementación de experimentos gigantes de inteligencia artificial (IA), como el caso del sonado ChatGPT.

Mediante una carta abierta en línea, dirigida a los laboratorios de IA y firmada por los expertos, piden suspender la implementación de las tecnologías más potentes durante al menos seis meses, debido a que consideran que suponen riesgos para la humanidad.

“Hacemos un llamado a todos los laboratorios de IA para que pausen inmediatamente durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes que GPT-4. Los sistemas de IA con inteligencia humano-competitiva pueden plantear riesgos profundos para la sociedad y la humanidad”, expresa el inicio del escrito.

Seguidamente, aseguran que una extensa y ya reconocida investigación recoge que la IA avanzada “podría representar un cambio profundo en la historia de la vida en la Tierra y debe planificarse y administrarse con el cuidado y los recursos correspondientes”.

Puede leer: Inteligencia artificial: Cómo ChatGPT facilita la vida de los delincuentes

Exponen que “desafortunadamente” no se están ejecutando con la planificación y gestión requeridas, pese a que en los últimos meses los laboratorios de inteligencia artificial entraron en “una carrera fuera de control para desarrollar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable”.

Además, recuerdan que dichos sistemas son una competencia para los seres humanos en tareas generales, por lo que es importante que los desarrolladores se preguntan si esto es conveniente.

“¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad? ¿Deberíamos automatizar todos los trabajos, incluidos los de cumplimiento? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, obsoletas y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?”, cuestionan.

Sostienen también que las herramientas de IA solo deben desarrollarse cuando haya seguridad de que los efectos serán positivos y de que los riesgos podrán ser controlados. Trabajar en que sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.

“Esta confianza debe estar bien justificada y aumentar con la magnitud de los efectos potenciales de un sistema. Deberían aprovechar esta pausa para desarrollar e implementar un conjunto de protocolos de seguridad compartidos para que sean rigurosamente auditados y supervisados por expertos externos independientes”, sugieren.

Además, reclaman que los protocolos de seguridad deben garantizar que todos los sistemas que operen sean seguros, aclarando que la solicitud no implica una pausa en el desarrollo de la IA en general, sino sobre los más potentes y de forma temporal.

“Simplemente un paso atrás de la carrera peligrosa hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes. Esta pausa debe ser pública y verificable e incluir a todos los actores claves. Si tal pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria”, añaden en la nota.

Lea también: ¿Cómo funciona la prueba gratis de ChatGPT en Paraguay?

La carta, a la cual se puede acceder ingresando a https://futureoflife.org/open-letter/pause-giant-ai-experiments/, ya fue firmada por más de 1.100 expertos de diversos sectores.

Este revuelo tecnológico se generó principalmente a causa de que la startup o empresa joven con gran potencial de crecimiento OpenAI desarrolló un sistema de conversación basado en la inteligencia artificial (IA) denominada ChatGPT.

Comprende un robot que está entrenado para mantener una conversación con un usuario humano que le hace preguntas. Asimismo, es capaz de admitir sus errores, cuestionar premisas incorrectas y rechazar solicitudes inapropiadas, de acuerdo con la página de su desarrollador.

En tanto, una controversia se generó en torno a la plataforma, debido a que especialistas señalan que no se puede determinar si las respuestas del chat son fiables o correctas, por lo que podrían convertirse en un recurso para fraudes y desinformación.

Además, sostienen que su capacidad para redactar textos muy realistas a gran velocidad lo hacen un aliado de ciberdelincuentes con pocos conocimientos técnicos al generar códigos en varios lenguajes de programación, según advirtió Europol.

Más contenido de esta sección
Al menos 38 palestinos murieron en la Franja de Gaza en la última semana, mientras que 76 cuerpos sin vida fueron recuperados por los equipos de rescate entre toneladas de escombros, según los informes del Ministerio de Sanidad del Gobierno de Hamás del 9 al 15 de marzo, ambos incluidos.
Al menos 59 personas murieron en un incendio que arrasó el sábado una discoteca de Macedonia del Norte durante un concierto de hiphop.
El presidente de Estados Unidos, Donald Trump, describió este sábado la visita del representante especial de EEUU para la guerra en Ucrania, Steve Witkoff, a Rusia como “muy productiva” y desmintió largas esperas para hablar con el mandatario ruso, Vladímir Putin.
El presidente colombiano, Gustavo Petro, anunció que el próximo martes será día cívico para que la gente acuda a las manifestaciones convocadas por las centrales obreras en apoyo a su proyecto de reforma laboral, que está a punto de hundirse en el Senado.
Unos 150 sacerdotes fueron secuestrados en Nigeria en la última década, de los cuales 11 fueron asesinados y cuatro se encuentran con paradero desconocido, según un informe publicado por la Agencia Fides.
Cuatro astronautas despegaron este viernes a bordo de una cápsula de SpaceX rumbo a la Estación Espacial Internacional (EEI) para relevar a cuatro compañeros, entre ellos, Suni Williams y Butch Wilmore, que fueron por una semana a ese laboratorio espacial y han demorado cerca de nueve meses debido a las fallas de la nave de Boeing en la que llegaron.