Las tecnologías de falsificación de voz de inteligencia artificial son una herramienta bastante peligrosa: son capaces de reproducir de manera creíble una voz humana incluso con una muestra corta. El algoritmo AntiFake propuesto por científicos estadounidenses podrá impedir la creación de una falsificación artificial .
Los deepfakes son un fenómeno bastante peligroso: con su ayuda, puedes atribuir a un artista o político famoso una declaración que nunca hizo. También hubo precedentes en los que el perpetrador llamó a la víctima y le pidió en voz de un amigo que le transfiriera dinero urgentemente debido a alguna situación de emergencia. Ning Zhang, profesor asociado de informática e ingeniería en la Universidad de Washington en St. Louis, propuso una tecnología que hace mucho más difícil crear voces profundas.
El principio de funcionamiento del algoritmo AntiFake es crear condiciones en las que al sistema de inteligencia artificial le resulte mucho más difícil leer las características clave de la voz al grabar la conversación de una persona real. “La herramienta utiliza una técnica de IA adversaria que fue utilizada originalmente por los ciberdelincuentes, pero ahora la hemos vuelto en su contra. Distorsionamos ligeramente la señal de audio grabada, creando una perturbación en la medida en que suena igual para un humano, pero completamente diferente a la IA”, comentó el Sr. Zhang sobre su proyecto.
Esto significa que al intentar crear un deepfake basado en una grabación alterada de esta manera, la voz generada por la IA no se parecerá a la voz humana de la muestra. Como han demostrado las pruebas, el algoritmo AntiFake tiene una eficacia del 95% para impedir la síntesis de deepfakes convincentes. “No sé qué pasará con las tecnologías de IA de voz en el futuro; constantemente se desarrollan nuevas herramientas y funciones, pero sigo creyendo que nuestra estrategia de utilizar la tecnología del enemigo contra él seguirá siendo eficaz”, afirma el autor del proyecto. concluyó.
Aquí te dejamos una lista de noticias que de seguro vas a querer leer: