Mientras Grok lo incumpla, X también tendrá prohibido ofrecer los servicios de su asistente de IA en los Países Bajos.
Offlimits, centro neerlandés especializado en violencia en línea, llevó a las plataformas ante la justicia tras la introducción, hace unos meses, de una función en Grok que permitía a los usuarios crear montajes hiperrealistas (o deepfakes) de mujeres y niños desnudos a partir de fotos reales.
Grok y X afirmaron querer combatir este tipo de imágenes incluyendo prohibiciones en sus condiciones de uso y aseguraron haber tomado medidas para impedir su generación y difusión.
Nota relacionada: Grok creó 3 millones de imágenes sexualizadas, según investigación
“Según el juez, Offlimits demostró suficientemente la existencia de una duda razonable sobre la eficacia de las medidas adoptadas”, indicó el tribunal de Ámsterdam en su sitio web.
“A modo de ejemplo, Offlimits logró producir un video de una persona desnuda utilizando Grok poco antes de la audiencia”, detalló.
La prohibición se refiere tanto a la generación de imágenes de personas residentes en los Países Bajos como a la producción y su difusión en el país.
Lea más: La UE abre una investigación contra la red social X por los desnudos generados con IA
Cualquier infracción se sancionará con una multa de 100.000 euros por día (unos USD 115.900 diarios), hasta un máximo de 10 millones de euros (unos USD 11,59 millones).
Este jueves el Parlamento Europeo dio un paso más para prohibir en la UE los programas de inteligencia artificial que permiten “desnudar” a personas sin su consentimiento, una medida respaldada por los Estados miembros.
Fuente: AFP
