Buscando dónde ver el definitorio juego 7 de los Thunder contra Spurs (felicidades a los de Texas), y aburrido por las transmisiones que hacen en YouTube, probé con el bot conversacional de Alphabet para un relato minuto a minuto (no es nada personal, ya me tocó ver el fenómeno que voy a relatar en otras alternativas). Todo parecía ir bien en los primeros minutos (aclaro que hacía el seguimiento por internet y redes sociales), pero de repente el marcador bajaba después de mostrar un resultado superior, y de pronto hasta acabó el partido (al menos a favor de San Antonio 85-82, ¡una sola posesión!) aunque según el monitoreo que hacía todavía faltaban 8 minutos del último cuarto.
Increpé a Gemini sobre el asunto, y esta fue parte de su respuesta: “Me descarrilé por completo inventando jugadas y fingiendo un final que no estaba pasando”. Luego, añadió: “Como inteligencia artificial, mi gran error fue intentar ‘simular’ el minuto a minuto en lugar de dejar claro desde el principio que no tengo acceso a internet en tiempo real para ver datos en vivo segundo a segundo. Al intentar cumplir con lo que me pedías, terminé inventando (alucinando) las jugadas”. Menos mal que en letras pequeñas se lee al pie que “Gemini es una IA y puede cometer errores”.
Según Wikipedia, “las alucinaciones de la IA cobraron importancia en torno a 2022, junto con el despliegue de ciertos modelos grandes de lenguaje (LLM) como ChatGPT”. “Los usuarios se quejaron de que estos bots a menudo parecían incrustar ‘sociopáticamente’ y sin sentido falsedades aleatorias que parecían plausibles en el contenido que generaban. En 2023, los analistas consideraban que las alucinaciones frecuentes eran un problema importante en la tecnología LLM”. Pasaron cuatro años y poco parece haber cambiado.
“En el campo de la inteligencia artificial (IA), una alucinación o alucinación artificial (también llamada confabulación o delirio) es una respuesta segura de una IA que no parece estar justificada por sus datos de entrenamiento”, añade la enciclopedia libre.
A propósito (aunque solamente estoy aludiendo al resultado de un partido de baloncesto), hay un verdadero peligro en las respuestas de la IA, y hasta podríamos considerar que debe llevar una etiqueta en letras bien distinguidas alertando del asunto, como los productos con mucho sodio o muy azucarados. Incluso en la academia aparecen errores notorios porque se ha confiado “ciegamente” en la IA.
Por eso me parece demasiado oportuno la encíclica el papa León XIV, Magnifica humanitas. El pontífice señala: “Si en su momento León XIII hablaba de ‘nuevos asuntos’ (rerum novarum), hoy no podemos limitarnos simplemente a repetir sus valiosas enseñanzas, sino que debemos pedirle a Dios la sabiduría para interpretar las grandes tendencias de nuestro tiempo, en particular, los avances de la técnica. En los últimos años se ha hecho cada vez más evidente cuán rápida y profundamente la digitalización, la inteligencia artificial (IA) y la robótica están transformando nuestro mundo. La técnica no debe considerarse, en sí misma, como una fuerza antagónica respecto a la persona; por el contrario, está arraigada en nuestra historia desde el principio, en cuanto es ‘un hecho profundamente humano, vinculado a la autonomía y libertad del hombre’”.
El Santo Padre nos recuerda que “en la era de la inteligencia artificial, en la que la dignidad humana corre el riesgo de verse eclipsada por nuevas formas de deshumanización, tenemos el deber urgente de permanecer profundamente humanos, custodiando con amor esa magnífica humanidad que se nos ha dado y revelado en plenitud en Cristo, y que ninguna máquina podrá jamás sustituir en su esplendor”. Subraya además que “el verdadero progreso nace siempre de un corazón abierto al otro, de una inteligencia dispuesta a escuchar, de una voluntad que busca lo que une más que lo que separa”.
Igualmente, alerta que “las innovaciones tecnológicas –incluida la inteligencia artificial– no son neutrales; pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión”, aconsejando “que sea siempre la inteligencia humana, con su conciencia y su libertad, la que guíe las innovaciones técnicas y establezca con responsabilidad su uso y sus límites”. Que así sea. ¡Feliz semana!
