13 abr. 2024

OpenAI anuncia herramienta potencialmente peligrosa

27433375

Generador de voz. OpenAI cuenta con un producto revolucionario y a la vez peligroso.

internet

La empresa de inteligencia artificial (IA) OpenAI dijo este lunes que mediante su modelo Voice Engine puede clonar voces humanas reproduciendo un sonido natural “emotivo y realista” usando una muestra de 15 segundos, pero que aún no lanzará la tecnología al público general, ya que sería demasiado arriesgado.

“Reconocemos que generar un discurso que se asemeja a las voces de las personas conlleva serios riesgos, que son especialmente importantes en un año electoral”, apuntó en un comunicado los creadores de ChatGPT.

Voice Engine es un nuevo modelo de IA que puede convertir texto a voz para crear voces sintéticas, que según la compañía, pueden permitir que los creadores de contenidos puedan traducir su trabajo en otras lenguas sin perder sus acentos nativos y ayudar a las personas con problemas de comunicación verbal a usar su voz para, por ejemplo, llamar por teléfono.

En uno de los ejemplos que da la empresa se puede escuchar como la voz de una anglosajona se tradujo al español, mandarín, alemán, francés y japonés conservando el acento nativo de la persona.

ACCESO LIMITADO. Por el momento, las empresas que pueden acceder a esta tecnología son la empresa de tecnología educativa Age of Learning, la plataforma de narración visual HeyGen, el fabricante de software de salud Dimagi, el creador de aplicaciones de comunicación de inteligencia artificial Livox y el sistema de salud Lifespan.

“Estamos adoptando un enfoque cauteloso e informado para una publicación más amplia debido al potencial de uso indebido de la voz sintética”, indicó la empresa en el comunicado donde además apunta que las empresas con las que trabajan han aceptado sus políticas de uso.

Entre esas reglas está que no se use la voz de alguien sin su consentimiento o que hay que indicar a los usuarios que son voces sintéticas.

“Finalmente, hemos implementado un conjunto de medidas de seguridad, que incluyen marcas de agua para rastrear el origen de cualquier audio generado por Voice Engine, así como un monitoreo proactivo de cómo se utiliza”, añadió OpenAI.

Este año electoral en Estados Unidos ya se han dado casos de llamadas automáticas con voces clonadas de políticos como el presidente Joe Biden. Otro gran problema es que los estafadores las podrían usar para acceder a cuentas bancarias que utilizan autenticación de voz.

Meta eliminará CrowdTangle La herramienta CrowdTangle, considerada vital para vigilar la desinformación en las redes sociales, será desmantelada por el grupo estadounidense Meta en los próximos meses. La empresa propietaria de Facebook e Instagram anunció que CrowdTangle dejará de estar disponible a partir del 14 de agosto, menos de tres meses antes de la elección en Estados Unidos. El gigante tecnológico planea sustituirla con una nueva herramienta que, advierten los investigadores, no posee las mismas funciones y no estará disponible de forma generalizada para las organizaciones periodísticas. La herramienta CrowdTangle permite seguir en tiempo real la proliferación de teorías de la conspiración y discursos de odio en las influyentes redes propiedad de Meta, incluidas Facebook e Instagram. AFP

Más contenido de esta sección
El directorio ejecutivo del Fondo Monetario Internacional (FMI) anunció este viernes que su directora gerente, Kristalina Georgieva, ha sido designada “por consenso” para un segundo mandato de cinco años.
Un equipo internacional de científicos, coliderado por el Barcelona Supercomputing Center (BSC) descubrió al menos 50 especies potencialmente nuevas para la ciencia en una de las zonas más inexploradas del planeta, en los montes submarinos de la costa de Chile.
El príncipe Guillermo hizo su primera aparición pública desde el anuncio del cáncer de su esposa, Catalina, a finales de marzo. Fue este jueves junto a su hijo mayor, Jorge, cuando asistieron al partido de fútbol Aston Villa-Lille, en Birmingham.
El príncipe Enrique y su esposa, la actriz estadounidense Meghan Markle, se encuentran produciendo dos series de no ficción con Netflix. Una es un programa de estilo de vida y otra es sobre el polo profesional, según comunicó el jueves su productora.
En octubre de 2022, un equipo de astrofísicos detectó la explosión de rayos gamma (GRB) más brillante jamás registrada, la GRB 221009A. Ahora, han descubierto que esa explosión histórica (o supernova) fue el colapso de una estrella masiva.
La Confederación General del Trabajo (CGT), la mayor central sindical de Argentina, convocó este jueves una nueva huelga general para el próximo 9 de mayo, la segunda en protesta contra las medidas impulsadas por el Gobierno que preside el ultraliberal Javier Milei.