Desarrollan programa para identificar si una voz es real o generada por IA

Técnicos de la Universidad de Granada (UGR) diseñaron un método para detectar si un audio de voz es real, o fue generado mediante Inteligencia Artificial (IA). En la actualidad, los avances en el uso de redes neuronales profundas para la síntesis de audio permite obtener voces sintéticas (generadas mediante IA) cada vez más realistas. La síntesis de habla  se puede emplear para crear o manipular grabaciones de audio con fines maliciosos, como la suplantación de identidad.  La investigación es dirigida por los profesores Zoraida Callejas y David Griol.

Hasta ahora, el audio representa un problema menor para el flujo informativo mundial, en comparación con otros tipos de fake, como las fotografías o los vídeos. Sin embargo, en los últimos dos años aumentaron los casos, por lo que es preciso contar con herramientas que ayuden a la detección de audios falsos y puedan servir a los periodistas como una nueva fuente para la verificación de noticias.

Combatir la desinformación

Las líneas del estudio se aplicaron para la verificación de audios, con el fin de combatir la desinformación. “Hemos generado una herramienta que integra soluciones propias y de terceros para discernir si un audio es real o está generado con algoritmos de inteligencia artificial”, explican los investigadores. La herramienta entrena al sistema IA mediante voces generadas por los investigadores, para que el sistema pueda identificar la veracidad de la voz con gran precisión.

“Una de las novedades que introduce esta herramienta es que no solo integra modelos generales, sino también modelos específicos generados en la UGR para voces de personalidades que son objetivo frecuente de desinformación”, destacan. Durante la presentación del proyecto, los investigadores emplearon técnicas de IA para clonar, y posteriormente, identificar la falsedad; de voces de figuras políticas de España, tales como el Rey Felipe VI; el presidente del Gobierno, Pedro Sánchez, o la vicepresidenta Yolanda Díaz.

Actualmente, el equipo trabaja para superar la fase de verificación y desarrollar herramientas para los periodistas basadas en IA conversacional, que proporcionen interactividad, accesibilidad y personalización de contenidos informativos.

Fuente: SINC

VTV/DC/SB