11 feb. 2025

Científicos alertan sobre el poder de la IA para lanzar campañas de desinformación

Un estudio de científicos de la Universidad de Zúrich ha mostrado el amplio potencial de la inteligencia artificial (IA) en campañas de información, por ejemplo en crisis sanitarias, pero también su poder para diseminar datos falsos sin que los receptores sepan su origen no humano.

Inteligencia Artificial_programa-puedes-chatear-inteligencia-artificial_40744225_40744726.jpg

La inteligencia artificial está acaparando el mundo entero y preocupa a las grandes compañías.

Archivo ÚH

La investigación, dirigida por Nikola Biller-Andorno (director del Instituto de Ética Biomédica de la universidad), Giovanni Spitale y Federico Germani, estudió en 697 participantes sus reacciones ante tuits escritos por humanos o por el modelo de lenguaje GPT-3 de OpenAI, sobre temas tales como las vacunas, el terraplanismo, el uso de homeopatía contra el cáncer o la crisis climática.

GPT-3 “mostró su habilidad para generar tuits acertados, y más claramente comprensibles que los de usuarios reales de Twitter”, señaló la universidad en un comunicado, pero “los investigadores también descubrieron que el modelo de lenguaje podía generar campañas de desinformación a gran escala”.

Lea más: “Inteligencia artificial impacta cada vez más en ámbito local”

Estas campañas producían información “muy persuasiva”, que además los participantes en el estudio, de forma inesperada, no sabían diferenciar de la generada por seres humanos.

Las conclusiones “muestran el poder de la inteligencia artificial tanto para informar como para desinformar”, admitió Germani.

En casos de crisis sanitarias públicas, como la reciente pandemia de covid-19, tanto uno como otro rol pueden marcar la diferencia, concluyen los expertos, advirtiendo de que “los sistemas con IA pueden ser usados para generar campañas de desinformación sobre virtualmente cualquier tema”.

Nota relacionada: "¿Por qué hay que repensar ahora la IA? No es catastrofismo, sino precaución”

Ello, “pondría en riesgo no solo la salud pública, sino también la integridad de ecosistemas informativos vitales para que las democracias funcionen”, alertaron los autores del estudio.

Estos piden a las autoridades que en consecuencia adopten regulaciones basadas en principios éticos y en datos objetivos con el fin de contrarrestar los posibles impactos negativos y “garantizar un uso responsable de la IA”.

Fuente: EFE

Más contenido de esta sección
El contrabandista más poderoso de Colombia, conocido como Papá Pitufo, protagonizó este lunes un nuevo escándalo del gobierno de Gustavo Petro, luego de que se conociera que uno de sus principales asesores le recibió dinero para la campaña presidencial de 2022.
Los dos aspirantes a secretario general de la Organización de los Estados Americanos (OEA), el ministro de Exteriores de Surinam, Albert Ramdin, y el de Paraguay, Rubén Ramírez, presentaron este lunes sus candidaturas, con posiciones encontradas sobre cómo abordar la situación en Venezuela y la relación con China.
El papa Francisco denunció este lunes la amenaza que suponen a los pueblos indígenas “el incremento del acaparamiento de las tierras de cultivo por parte de empresas multinacionales, los grandes inversores y los Estados”.
La posibilidad de impacto del asteroide 2024 YR4 contra la Tierra en el año 2032 aumenta a un 2,4%, 0,2 puntos más según los cálculos del viernes y un incremento de más de un punto porcentual con respecto a las estimaciones de finales de enero, según anunció este sábado la agencia estadounidense NASA.
El presidente de EEUU, Donald Trump, descartó estar interesado en echar de Estados Unidos al príncipe Enrique de Inglaterra si se demuestra que al solicitar el visado mintió sobre el consumo de drogas.
El grupo islamista Hamás, que gobierna en la Franja de Gaza, dijo este domingo que la retirada de las fuerzas israelíes del Corredor Netzarim, en el centro del enclave, confirma “el fracaso” de la ofensiva de Israel.