25 feb. 2024

Elon Musk y miles de expertos se unen para frenar inteligencia artificial

El ahora propietario de Twitter y fundador de Tesla, Elon Musk; el historiador Yuval Noah Harari; el creador de Apple y miles de expertos alrededor del mundo se unieron para pedir el cese de las nuevas inteligencias artificiales durante por lo menos seis meses.

chatgpt.jpg

El sistema ChatGTP está disponible en Paraguay.

Foto: Archivo ÚH

Elon Musk, fundador de Tesla o SpaceX y dueño actual de la red social Twitter; el reconocido historiador y escritor israelí Yuval Noah Harari; el creador de Apple, Steve Wozniak, así como más de 1.000 investigadores y creadores digitales se unieron para pedir frenar la implementación de experimentos gigantes de inteligencia artificial (IA), como el caso del sonado ChatGPT.

Mediante una carta abierta en línea, dirigida a los laboratorios de IA y firmada por los expertos, piden suspender la implementación de las tecnologías más potentes durante al menos seis meses, debido a que consideran que suponen riesgos para la humanidad.

“Hacemos un llamado a todos los laboratorios de IA para que pausen inmediatamente durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes que GPT-4. Los sistemas de IA con inteligencia humano-competitiva pueden plantear riesgos profundos para la sociedad y la humanidad”, expresa el inicio del escrito.

Seguidamente, aseguran que una extensa y ya reconocida investigación recoge que la IA avanzada “podría representar un cambio profundo en la historia de la vida en la Tierra y debe planificarse y administrarse con el cuidado y los recursos correspondientes”.

Puede leer: Inteligencia artificial: Cómo ChatGPT facilita la vida de los delincuentes

Exponen que “desafortunadamente” no se están ejecutando con la planificación y gestión requeridas, pese a que en los últimos meses los laboratorios de inteligencia artificial entraron en “una carrera fuera de control para desarrollar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable”.

Además, recuerdan que dichos sistemas son una competencia para los seres humanos en tareas generales, por lo que es importante que los desarrolladores se preguntan si esto es conveniente.

“¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad? ¿Deberíamos automatizar todos los trabajos, incluidos los de cumplimiento? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, obsoletas y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?”, cuestionan.

Sostienen también que las herramientas de IA solo deben desarrollarse cuando haya seguridad de que los efectos serán positivos y de que los riesgos podrán ser controlados. Trabajar en que sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.

“Esta confianza debe estar bien justificada y aumentar con la magnitud de los efectos potenciales de un sistema. Deberían aprovechar esta pausa para desarrollar e implementar un conjunto de protocolos de seguridad compartidos para que sean rigurosamente auditados y supervisados por expertos externos independientes”, sugieren.

Además, reclaman que los protocolos de seguridad deben garantizar que todos los sistemas que operen sean seguros, aclarando que la solicitud no implica una pausa en el desarrollo de la IA en general, sino sobre los más potentes y de forma temporal.

“Simplemente un paso atrás de la carrera peligrosa hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes. Esta pausa debe ser pública y verificable e incluir a todos los actores claves. Si tal pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria”, añaden en la nota.

Lea también: ¿Cómo funciona la prueba gratis de ChatGPT en Paraguay?

La carta, a la cual se puede acceder ingresando a https://futureoflife.org/open-letter/pause-giant-ai-experiments/, ya fue firmada por más de 1.100 expertos de diversos sectores.

Este revuelo tecnológico se generó principalmente a causa de que la startup o empresa joven con gran potencial de crecimiento OpenAI desarrolló un sistema de conversación basado en la inteligencia artificial (IA) denominada ChatGPT.

Comprende un robot que está entrenado para mantener una conversación con un usuario humano que le hace preguntas. Asimismo, es capaz de admitir sus errores, cuestionar premisas incorrectas y rechazar solicitudes inapropiadas, de acuerdo con la página de su desarrollador.

En tanto, una controversia se generó en torno a la plataforma, debido a que especialistas señalan que no se puede determinar si las respuestas del chat son fiables o correctas, por lo que podrían convertirse en un recurso para fraudes y desinformación.

Además, sostienen que su capacidad para redactar textos muy realistas a gran velocidad lo hacen un aliado de ciberdelincuentes con pocos conocimientos técnicos al generar códigos en varios lenguajes de programación, según advirtió Europol.

Más contenido de esta sección
Un censo de plantas en la provincia china de Yunnan (sur) llevó al descubrimiento de un nuevo tipo de orquídea, que fue bautizada como calanthe yingjiangensis.
El papa Francisco suplicó este domingo durante el ángelus para “que se encuentre un poco de humanidad que permita crear las condiciones de una solución diplomática para buscar la paz en Ucrania”, al recordar el segundo aniversario del inicio de la invasión rusa.
El entusiasmo que despierta el experimento libertario del presidente Javier Milei en círculos empresariales y financieros contrasta con la conflictividad que provoca en las calles el ajuste fiscal.
El papa Francisco “tiene una ligera gripe y ha anulado por precaución las audiencias previstas” para este sábado, informó el Vaticano.
La plataforma de mensajería WhatsApp cumple este sábado 15 años, consolidándose como la herramienta de comunicación más popular del mundo, con más de 2.000 millones de usuarios que aprovechan su servicio gratuito y encriptado, algo que precisamente complica su rentabilidad.
Miles de personas marcharon el viernes en las principales ciudades de Argentina, para reclamar al Gobierno argentino asistencia alimentaria para comedores comunitarios y rechazar políticas de ajuste.