Xataca publica la novedad: la IA ya puede clonar cualquier voz en 15 segundos. Sólo necesita una pequeña muestra.
El cronista levanta la supuesta preocupación de OpenAI, que destaca luego de referirse a los aportes «buenos» (que todos imaginamos de antemano y resultan obvios) , que tendrá este nuevo avance:
Allí se lee:
Los usos (potencialmente dañinos). Estos son solo algunos de los casos de uso expuestos por OpenAI, pero la realidad es que Voice Engine puede ser usado para cosas no tan bonitas. Podemos pensar en deepfakes y suplantaciones de identidad, y eso sin pensar demasiado. A efectos prácticos, bastaría con el audio de una historia de Instagram para clonar nuestra voz. OpenAI es consciente de los riesgos que esto supone y, precisamente por ello, no han desplegado el modelo. Sin ir más lejos, podemos pensar en el potencial uso dañino que tendría esta tecnología en plenas elecciones estadounidenses. En palabras de la organización:
«Creemos que cualquier despliegue generalizado de tecnología de voz sintética debe ir acompañado de experiencias de autenticación de voz que verifiquen que el hablante original está añadiendo su voz al servicio con conocimiento de causa, y de una lista de voces prohibidas que detecte e impida la creación de voces demasiado parecidas a figuras prominentes».
Un poco más adelante menciona, los malos usos posibles, por ejemplo, que podrían instrumentarse en las contiendas electorales…. Por ejemplo la próxima de EUA entre Biden y Trump…
En el momento del mundo que estamos viviendo… ¿Alguien duda de dónde irán a parar las apuestas de los inversores? ¿A qué objetivos apuntarán? ¿Para dónde el «mercado» orientará la búsqueda del desarrollo?
Que vayamos perdiendo la batalla no significa que hayamos perdido la capacidad de comprender lo humano feroz que está en juego.
El Tilo de Olivos 
Deja un comentario