Experto propone regular la IA con un enfoque en las relaciones de poder

El secretario de la Sociedad Paraguaya de Inteligencia Artificial, Luis Benítez, le consultaron si le da cierta tranquilidad que en el Congreso Nacional se esté hablando sobre la regulación del uso de IA.

Al respecto, respondió que como Sociedad Paraguaya de Inteligencia Artificial no hay una postura oficial, pero se está discutiendo internamente para luego emitir un comunicado.

“Particularmente, yo te puedo dar mi opinión y apunta más a una cuestión de regular inteligencia artificial, un tema sumamente complejo donde, de alguna manera, el problema no está tanto en la tecnología en sí, sino en las estructuras de relaciones de poder que se tiene en quien controla la dirección que se con esta tecnología”, se explayó.

El experto siguió explicando que el problema está en el hecho de que existen dos formas de hacer inteligencia artificial, ya que se trata de un conjunto inmenso de cientos de algoritmos.

“En un caso particular, los llamados LLM (programas de IA) son los que permiten estas cuestiones que estamos viendo como ChatGPT o Gemini. Es una tecnología particular y allí hay varios que son propietarios, donde la comunidad académica ni siquiera sabe cómo están diseñados o entrenados para hacer lo que hacen”, acotó.

Se tratan de algoritmos que dirigen solamente los técnicos y las corporaciones donde nadie decidió las planificaciones.

Por otro lado, está la IA implementada por Meta, que es un algoritmo público. “Lo que está controlado es cómo aprende o los datos con lo que aprende y tiene determinadas restricciones”, describió.

Siguió indicando que los modelos abiertos podrían ser utilizados para cuestiones éticas o inmorales y advirtió que legislar únicamente sobre la manipulación de imágenes de figuras públicas resulta insuficiente.

Puede leer: Video: Tras ser víctima, Celeste pide regular IA y Bachi se muestra de acuerdo

“Sacar una ley que prohíba que figuras puedan ser manipuladas en un video, no tiene mucho sentido porque eso. En el mejor de los casos, se va a prohibir en ChatGPT, Gemini, entre otros, pero en el modelo de Meta no se va poder prohibir y yo voy a poder generar esos videos”, prosiguió.

Sobre la amenaza real de la IA, dijo que hay dos modelos dentro, uno empujado por empresas que, de alguna manera, plantean la transformación y dice que “quien tenga tecnología tiene que definir la dirección que tiene que tener el Estado”.

Mientras que hay otro grupo que plantea que “se tiene que tener la mejor tecnología para darle más potencia a nuestro Estado”.

“Son dos visiones diferentes y es la discusión que se tiene en Estados Unidos en materia de tecnología”, añadió y acotó que está cuestión que se está dando con la tecnología se refleja en la encíclica del Papa León XIV, donde se apunta a poner el foco en los riesgos y oportunidades que se ciernen sobre esta nueva revolución digital, como el control de sus algoritmos.

La senadora Celeste Amarilla denunció ante el Senado que fue víctima del uso de su imagen en un video con inteligencia artificial (IA) y el titular del Congreso, Basilio Bachi Núñez, manifestó su apoyo a la iniciativa de regulación.