09 feb. 2025

Vaticano publica texto sobre IA y advierte que está en manos de pocas y poderosas empresas

El Vaticano publicó este martes un documento que reflexiona sobre la Inteligencia Artificial (IA), en el que, aunque la considera “una oportunidad”, advierte de peligros como “que está en manos de pocas y poderosas empresas”, el uso equivocado que le pueden dar los estudiantes o aumentar la difusión de noticias falsas.

Vaticano

El Vaticano publicó un documento que reflexiona sobre la Inteligencia Artificial.

El extenso documento titulado Antiqua et Nova (en referencia a la sabiduría antigua y la nueva) es una reflexión de los ministerios vaticanos para Doctrina de la Fe, la Cultura y la Educación junto con las palabras del papa Francisco sobre el tema y nace ante la necesidad de “exhortar a cuantos tienen el encargo de transmitir la fe (padres, profesores, pastores y obispos) a dedicarse con cuidado y atención a esta cuestión urgente”.

El texto analiza los desafíos y oportunidades del desarrollo de la inteligencia artificial en los campos de la educación, la economía, el trabajo, la salud, las relaciones internacionales, las relaciones interpersonales o en las guerras.

“Ninguna máquina debería elegir poner fin a la vida de un ser humano”

Por ejemplo, se explica que “la facilidad con la que las armas, convertidas en autónomas, hacen más viable la guerra va en contra del principio mismo de la guerra como último recurso en casos de legítima defensa, aumentando los recursos bélicos mucho más allá del alcance del control humano y acelerando una carrera armamentística desestabilizadora con consecuencias devastadoras para los derechos humanos”.

Pues, añade, “los sistemas de armas autónomas letales, capaces de identificar y atacar objetivos sin intervención humana directa, son gran motivo de preocupación ética porque carecen de la exclusiva capacidad humana de juicio moral y de decisión ética” y concluye: “Ninguna máquina debería elegir jamás poner fin a la vida de un ser humano”.

Puede leer: Elton John y Paul McCartney piden al Gobierno británico que proteja a los artistas de la IA

En el documento se suscita además la preocupación del hecho de que “la mayor parte del poder sobre las principales aplicaciones de la IA se concentra en manos de unas pocas empresas poderosas”, lo que hace que “esta tecnología acaba siendo manipulada con fines personales o corporativos o para orientar la opinión pública hacia los intereses de un sector”.

El documento recuerda el grave riesgo de que la IA “genere contenidos manipulados e información falsa” y aún más preocupante “es cuando dicho contenido ficticio se utiliza intencionalmente con fines manipuladores. Por ejemplo, cuando se difunden intencionalmente imágenes, vídeos y audio deepfake (representaciones modificadas o generadas algorítmicamente) para engañar o dañar”.

Problemas para el crecimiento de los niños

En cuanto a las relaciones humanas, el documento observa que la IA puede, sí, “fomentar las conexiones” pero, al mismo tiempo, conducir a un “aislamiento perjudicial” y alerta de que ” también plantea problemas particulares para el crecimiento de los niños”.

Cita como ejemplo cuando se representa a la IA como una persona, “lo que es una grave violación ética”, o “utilizar la IA para engañar en otros contextos –como la educación o las relaciones humanas, incluida la esfera de la sexualidad– es profundamente inmoral y requiere una cuidadosa vigilancia”.

Asimismo, aunque “puede mejorar el acceso a la educación”, el documento vaticano lamenta que muchos programas “se limitan a dar respuestas en lugar de animar a los estudiantes a encontrarlas por sí mismos, o a escribir ellos mismos los textos y esto conduce “a una pérdida de formación para acumular información o desarrollar el pensamiento crítico” o divulgar “informaciones distorsionadas o artificiales” o “contenidos inexactos”.

Nota vinculada: Meta prevé invertir hasta USD 65.000 millones en IA en 2025

El documento insta a que “no debemos intentar sustituir cada vez más el trabajo humano por el progreso tecnológico” pues al hacerlo “la humanidad se perjudicaría a sí misma”.

El Vaticano también afirma que “la presunción de sustituir a Dios por una obra de las propias manos es idolatría” y que “la IA puede ser más seductora que los ídolos tradicionales”.

Y una de las conclusiones es que “la IA solo debe utilizarse como una herramienta complementaria a la inteligencia humana y no para reemplazar su riqueza”.

Fuente: EFE.

Más contenido de esta sección
El presidente de EEUU, Donald Trump, descartó estar interesado en echar de Estados Unidos al príncipe Enrique de Inglaterra si se demuestra que al solicitar el visado mintió sobre el consumo de drogas.
El grupo islamista Hamás, que gobierna en la Franja de Gaza, dijo este domingo que la retirada de las fuerzas israelíes del Corredor Netzarim, en el centro del enclave, confirma “el fracaso” de la ofensiva de Israel.
Una enorme “flor cadáver”, que abrió sus pétalos por primera vez en 15 años, se exhibe este domingo en el Jardín Botánico Nacional de Australia, en Camberra, a donde han acudido cientos de curiosos.
El papa Francisco interrumpió este domingo la lectura de su homilía por el Jubileo de las Fuerzas Armadas en la Plaza de San Pedro debido a “dificultades en la respiración”, según declaró él mismo.
El director ejecutivo del gigante tecnológico Amazon, Andy Jassy, anunció este jueves que planea aumentar el gasto de capital en 2025 para invertir en tecnología de inteligencia artificial.
El final de la ayuda humanitaria procedente de Estados Unidos, motor vital para el desarrollo de Afganistán, amenaza con iniciar un efecto dominó devastador para este país dominado por los talibanes, paralizando no solo su economía, sino también sectores como la educación o la salud, e incluso la retirada de minas que siguen activas desde la guerra en el país.