Las voces clonadas con IA logran ser réplicas casi perfectas. Al grado, de que las personas no logran identificar si es real o no.
Hoy día, la tecnología, se enfoca en el aprendizaje automático, siempre depende de los datos con los que se le alimenta, y lo que hace es reconocer patrones eficazmente. Dado que la voz, es el principal fuente de patrones, la IA a logrado generar su duplicado.
La inteligencia artificial ha pasado del reconocimiento de la voz y su transcripción de texto a ser capaz de generar una voz humana y natural.
Personas son incapaces reconocer voz generada por IA
Un estudio realizado por Kimberly Mai en el University College London utilizaron un algoritmo de texto de voz entrenado en dos conjuntos de datos, y mostró que los humanos participantes solo fueron capaces de detectar la voz generada por IA al 73 por ciento.
“En nuestro estudio, demostramos que capacitar a las personas para detectar deepfakes no es necesariamente una forma confiable de ayudarlos a mejorar. Desafortunadamente, nuestros experimentos también muestran que, en este momento, los detectores automáticos tampoco son confiables“, dijo Mai.
¿Cómo encontraron el resultado?
Se crearon 50 muestras de voz falsificadas en inglés y en chino mandarín para determinar si las personas podían identificar las voces falsas.
En el primer grupo participaron 529 personas que escucharon a un hablante real leyendo oraciones genéricas en inglés o en chino mandarín, intercaladas con frases generadas por IA. Estas personas tuvieron que decidir si las muestras de voz eran reales o falsas, y lograron elegir correctamente en un 73 por ciento de las veces.
En el segundo grupo, los participantes escucharon pares de clips de audio, uno hablado por un humano y otro por inteligencia artificial, y tuvieron que elegir cuál era el clip de IA. En este caso, pudieron detectar la voz generada por IA en un 85 por ciento de las veces.
Aunque estos resultados parecen positivos, la realidad es que sólo pudieron detectarla por una capacitación que recibieron para reconocer características de las voces generadas por inteligencia artificial, lo que aumento su tasa de éxito.
Un problema social
A pesar de los resultados, es preocupante. Según Mai “son realmente buenos detectando deepfakes si han visto ejemplos similares durante su fase de entrenamiento, si el orador es el mismo o los clips se grabaron en un entorno de audio similar, por ejemplo. Pero no son confiables cuando hay cambios en las condiciones de audio de prueba, como si hubiera un altavoz diferente”.
Es decir, la inteligencia artificial de voz ha avanzado a pasos agigantados y está en constante evolución, al lograr generar voz igual a la humana, se abre la puerta no sólo a ayudar, también a perjudicar la seguridad de las personas, por varias razones.
- La posible suplantación de identidad para generar ‘fake news’. Una tecnología que logra reproducir con un alto grado de precisión las inflexiones y tono de una voz concreta, puede ayudar a generar ‘deepfakes’ que viralicen noticias falsas de personajes públicos (como, por ejemplo, la declaración de rendición de un falso presidente de Ucrania ante Rusia).
- Podría ser empleada por ciberdelincuentes para intentar suplantar la identidad de un usuario en el acceso a su cuenta bancaria con biometría de voz.
