16 sept. 2025

OpenAI anuncia herramienta potencialmente peligrosa

27433375

Generador de voz. OpenAI cuenta con un producto revolucionario y a la vez peligroso.

internet

La empresa de inteligencia artificial (IA) OpenAI dijo este lunes que mediante su modelo Voice Engine puede clonar voces humanas reproduciendo un sonido natural “emotivo y realista” usando una muestra de 15 segundos, pero que aún no lanzará la tecnología al público general, ya que sería demasiado arriesgado.

“Reconocemos que generar un discurso que se asemeja a las voces de las personas conlleva serios riesgos, que son especialmente importantes en un año electoral”, apuntó en un comunicado los creadores de ChatGPT.

Voice Engine es un nuevo modelo de IA que puede convertir texto a voz para crear voces sintéticas, que según la compañía, pueden permitir que los creadores de contenidos puedan traducir su trabajo en otras lenguas sin perder sus acentos nativos y ayudar a las personas con problemas de comunicación verbal a usar su voz para, por ejemplo, llamar por teléfono.

En uno de los ejemplos que da la empresa se puede escuchar como la voz de una anglosajona se tradujo al español, mandarín, alemán, francés y japonés conservando el acento nativo de la persona.

ACCESO LIMITADO. Por el momento, las empresas que pueden acceder a esta tecnología son la empresa de tecnología educativa Age of Learning, la plataforma de narración visual HeyGen, el fabricante de software de salud Dimagi, el creador de aplicaciones de comunicación de inteligencia artificial Livox y el sistema de salud Lifespan.

“Estamos adoptando un enfoque cauteloso e informado para una publicación más amplia debido al potencial de uso indebido de la voz sintética”, indicó la empresa en el comunicado donde además apunta que las empresas con las que trabajan han aceptado sus políticas de uso.

Entre esas reglas está que no se use la voz de alguien sin su consentimiento o que hay que indicar a los usuarios que son voces sintéticas.

“Finalmente, hemos implementado un conjunto de medidas de seguridad, que incluyen marcas de agua para rastrear el origen de cualquier audio generado por Voice Engine, así como un monitoreo proactivo de cómo se utiliza”, añadió OpenAI.

Este año electoral en Estados Unidos ya se han dado casos de llamadas automáticas con voces clonadas de políticos como el presidente Joe Biden. Otro gran problema es que los estafadores las podrían usar para acceder a cuentas bancarias que utilizan autenticación de voz.

Meta eliminará CrowdTangle La herramienta CrowdTangle, considerada vital para vigilar la desinformación en las redes sociales, será desmantelada por el grupo estadounidense Meta en los próximos meses. La empresa propietaria de Facebook e Instagram anunció que CrowdTangle dejará de estar disponible a partir del 14 de agosto, menos de tres meses antes de la elección en Estados Unidos. El gigante tecnológico planea sustituirla con una nueva herramienta que, advierten los investigadores, no posee las mismas funciones y no estará disponible de forma generalizada para las organizaciones periodísticas. La herramienta CrowdTangle permite seguir en tiempo real la proliferación de teorías de la conspiración y discursos de odio en las influyentes redes propiedad de Meta, incluidas Facebook e Instagram. AFP

Más contenido de esta sección
El primer ministro israelí, Benjamin Netanyahu, afirmó este martes que el ataque de Israel a miembros de Hamás en Catar estuvo “plenamente justificado” porque ese país, que ejerce como mediador entre Israel y el grupo islamista en Gaza, lo “alberga”, “organiza” y “financia”.
Hamás calificó este martes de “limpieza étnica” el avance de las tropas israelíes en la ciudad de Gaza y advirtió que la operación solo agravará la catástrofe humanitaria en la Franja.
El secretario de Estado estadounidense, Marco Rubio, llegó este martes a Doha, procedente de Israel, para abordar con los responsables cataríes la situación regional tras el ataque israelí de la semana pasada contra una delegación negociadora de Hamás en este país del golfo Pérsico.
El jefe de Derechos Humanos de la ONU advirtió el martes que el ataque de Israel contra líderes de Hamás en Catar la semana pasada amenaza la paz y la estabilidad de la región.
Nepal celebró este martes funerales multitudinarios por las víctimas del reciente levantamiento juvenil que dejó al menos 72 muertos en el país y más de un millar de heridos, mientras el Gobierno interino declaró para mañana, miércoles, una jornada de luto nacional y festivo oficial en su honor.
El presidente estadounidense, Donald Trump, anunció este martes una demanda por difamación contra The New York Times en la que pide 15.000 millones de dólares a ese diario, al que califica de “uno de los peores y más degenerados” de la historia del país.