El extenso documento titulado Antiqua et Nova (en referencia a la sabiduría antigua y la nueva) es una reflexión de los ministerios vaticanos para Doctrina de la Fe, la Cultura y la Educación junto con las palabras del papa Francisco sobre el tema y nace ante la necesidad de “exhortar a cuantos tienen el encargo de transmitir la fe (padres, profesores, pastores y obispos) a dedicarse con cuidado y atención a esta cuestión urgente”.
El texto analiza los desafíos y oportunidades del desarrollo de la inteligencia artificial en los campos de la educación, la economía, el trabajo, la salud, las relaciones internacionales, las relaciones interpersonales o en las guerras.
“Ninguna máquina debería elegir poner fin a la vida de un ser humano”
Por ejemplo, se explica que “la facilidad con la que las armas, convertidas en autónomas, hacen más viable la guerra va en contra del principio mismo de la guerra como último recurso en casos de legítima defensa, aumentando los recursos bélicos mucho más allá del alcance del control humano y acelerando una carrera armamentística desestabilizadora con consecuencias devastadoras para los derechos humanos”.
Pues, añade, “los sistemas de armas autónomas letales, capaces de identificar y atacar objetivos sin intervención humana directa, son gran motivo de preocupación ética porque carecen de la exclusiva capacidad humana de juicio moral y de decisión ética” y concluye: “Ninguna máquina debería elegir jamás poner fin a la vida de un ser humano”.
Puede leer: Elton John y Paul McCartney piden al Gobierno británico que proteja a los artistas de la IA
En el documento se suscita además la preocupación del hecho de que “la mayor parte del poder sobre las principales aplicaciones de la IA se concentra en manos de unas pocas empresas poderosas”, lo que hace que “esta tecnología acaba siendo manipulada con fines personales o corporativos o para orientar la opinión pública hacia los intereses de un sector”.
El documento recuerda el grave riesgo de que la IA “genere contenidos manipulados e información falsa” y aún más preocupante “es cuando dicho contenido ficticio se utiliza intencionalmente con fines manipuladores. Por ejemplo, cuando se difunden intencionalmente imágenes, vídeos y audio deepfake (representaciones modificadas o generadas algorítmicamente) para engañar o dañar”.
Problemas para el crecimiento de los niños
En cuanto a las relaciones humanas, el documento observa que la IA puede, sí, “fomentar las conexiones” pero, al mismo tiempo, conducir a un “aislamiento perjudicial” y alerta de que ” también plantea problemas particulares para el crecimiento de los niños”.
Cita como ejemplo cuando se representa a la IA como una persona, “lo que es una grave violación ética”, o “utilizar la IA para engañar en otros contextos –como la educación o las relaciones humanas, incluida la esfera de la sexualidad– es profundamente inmoral y requiere una cuidadosa vigilancia”.
Asimismo, aunque “puede mejorar el acceso a la educación”, el documento vaticano lamenta que muchos programas “se limitan a dar respuestas en lugar de animar a los estudiantes a encontrarlas por sí mismos, o a escribir ellos mismos los textos y esto conduce “a una pérdida de formación para acumular información o desarrollar el pensamiento crítico” o divulgar “informaciones distorsionadas o artificiales” o “contenidos inexactos”.
Nota vinculada: Meta prevé invertir hasta USD 65.000 millones en IA en 2025
El documento insta a que “no debemos intentar sustituir cada vez más el trabajo humano por el progreso tecnológico” pues al hacerlo “la humanidad se perjudicaría a sí misma”.
El Vaticano también afirma que “la presunción de sustituir a Dios por una obra de las propias manos es idolatría” y que “la IA puede ser más seductora que los ídolos tradicionales”.
Y una de las conclusiones es que “la IA solo debe utilizarse como una herramienta complementaria a la inteligencia humana y no para reemplazar su riqueza”.
Fuente: EFE.
