Durante décadas, una grabación de voz ha sido considerada una de las formas más fiables de documentar una conversación, una declaración o un acontecimiento. Sin embargo, el auge de la inteligencia artificial generativa ha cambiado radicalmente esta realidad.
Hoy es posible crear en cuestión de minutos una voz sintética prácticamente indistinguible de la original utilizando apenas unos segundos de audio de referencia. Esta capacidad tecnológica, que puede tener aplicaciones legítimas en ámbitos como la accesibilidad, el doblaje o la producción audiovisual, también ha abierto la puerta a nuevas formas de fraude, manipulación, difamación y suplantación de identidad.
Cada vez es más frecuente encontrar audios difundidos en redes sociales, medios digitales o aplicaciones de mensajería que atribuyen declaraciones falsas a políticos, empresarios, periodistas o figuras públicas. En muchos casos, el objetivo es desacreditar a una persona, alterar la opinión pública o generar un daño reputacional difícil de revertir.
La pregunta ya no es si un audio puede ser falsificado, sino cómo podemos demostrar que es auténtico.
El riesgo para medios de comunicación y organizaciones
La velocidad con la que circula la información supera con frecuencia la capacidad de verificar su autenticidad. Un audio viral puede alcanzar millones de reproducciones antes de que se realice cualquier comprobación técnica.
Cuando un medio de comunicación publica una grabación sin haber validado adecuadamente su origen y autenticidad, asume riesgos significativos:
- Difusión involuntaria de información falsa.
- Daños reputacionales a terceros.
- Posibles responsabilidades legales.
- Pérdida de credibilidad y confianza por parte de la audiencia.
La misma situación afecta a empresas, instituciones públicas y organismos gubernamentales que reciben grabaciones como supuestas pruebas de hechos o declaraciones.
En un entorno donde la manipulación digital es accesible para cualquier usuario, la autenticidad debe convertirse en un requisito previo a la publicación.
El espejismo de las herramientas automáticas “one click”
Ante esta problemática han surgido numerosas plataformas comerciales que prometen detectar automáticamente voces sintéticas o deepfakes de audio.
Empresas como Resemble AI y otros proveedores tecnológicos, ofrecen servicios basados en algoritmos de inteligencia artificial capaces de estimar la probabilidad de que una grabación haya sido generada artificialmente.
Estas herramientas representan un avance importante y pueden constituir un primer filtro de análisis. Sin embargo, existe una peligrosa tendencia a considerar sus resultados como una prueba definitiva de autenticidad.
La realidad es mucho más compleja.
Estos sistemas automáticos basados en redes neuronales de aprendizaje profundo no basan sus conclusiones en un estudio completo de audio forense y pierden capacidad de análisis frente a falsificaciones de audio con varias capas de codificación o remuestreo digital (como en el caso de audios publicados en plataformas como Youtube ) .
Igualmente, no tienen la capacidad de detectar pequeñas inserciones de audio fake en grabaciones de voz reales.
Si además ese audio fake, ha sido reproducido y grabado de nuevo desde otro dispositivo , la probabilidad de falso negativo se incrementa notablemente.
En muchos casos, el usuario recibirá simplemente una puntuación o porcentaje de confianza sin conocer exactamente cómo se ha alcanzado ese resultado.
¿Qué aporta un análisis forense de audio frente a soluciones “one click”?
Detectar síntesis vocal significa responder a la principal pregunta: ¿existen indicios de ruptura en la integridad del audio? , ¿existe falsificación?
Un examen forense debe apoyarse en una metodología científica, reproducible y auditable, capaz de ser revisada por terceros y defendida ante un tribunal si fuera necesario.
Un análisis de autenticidad profundo de una grabación sonora requiere disponer de todo el contexto técnico que permita acreditar la integridad del audio:
- Estudio del dispositivo de grabación donde se aloja el archivo, incluyendo la extracción y cadena de custodia de la evidencia digital.
- Análisis binario de los metadatos y cabeceras.
- Búsqueda de samples o muestras con valor “cero”.
- Análisis spectral de la continuidad Sonora y espectrograma.
- Desajustes en el DC Offset y búsqueda de trazas de codecs
- Estudio del ruido ambiente y coherencia acústica
- Análisis comparativo de voces.
- Búsqueda de trazas de sintesis vocal y spoofgrama con estimaciones de probabilidad en intervalos cortos.
Ninguna herramienta de verificación automática “one click”, por avanzada que sea, puede sustituir por sí sola el criterio técnico de un especialista ni garantizar la validez probatoria de una grabación.
La tecnología puede asistir al perito, pero no reemplazar el proceso pericial forense, auditable y reproducible.
El ejemplo del Fraude del CEO mediante “voice cloning”
Con este ejemplo queremos mostrar los diferentes resultados que se pueden obtener con un análisis pericial forense del audio frente a las herramientas de verificación automática “one click” (en este caso verificado con Resemble AI)
Para ello hemos realizado un montaje de audio con un fragmento de voz clonada de un relevante empresario español y su voz natural, simulando una reunion del comité de dirección en un contexto conversacional y espontáneo.
Con el software gratuito Audacity hemos editado los fragmentos de voz sintetica y mezclado von voz natural (10% sintético y 90% real),incorporando además efectos y procesamiento de audio para simular el ambiente acústico en un despacho professional.
El análisis pericial forense realizado con la herramienta SIS (Ikarlab3) nos entrega los siguientes resultados:
- Detección de edición digital de audio en el minuto 0:37 (samples repetidos con valor cero)
- Trazas de codificación MP3 coincidente con el punto de inserción
Spoofgrama con estimación de probabilidad de voz sintetizada en el intervalo temporal 0:37s-1min
Falsificación mediante voz sintética con probabilidad del 83%. Probabilidad del 99% de sintesis vocal generada con ElevenLabs
En el caso de la detección de Deepfake con Resemble AI , la aplicación entrega un resultado totalmente diferente y ERRÓNEO:
- AUDIO REAL
- VOZ NATURAL
- NO HAY FALSIFICACIÓN
Hacia una cultura de la verificación
Nos encontramos en un momento histórico similar al que vivió la fotografía análogica con la llegada de las herramientas de edición digital.
Durante años, una imagen fue considerada prueba suficiente de un hecho. Hoy sabemos que una fotografía puede ser manipulada con enorme facilidad. Lo mismo está ocurriendo con el audio.
La sociedad, los medios de comunicación y las organizaciones deberán adaptarse a una nueva realidad donde la confianza no puede basarse únicamente en lo que escuchamos.
La pregunta correcta ya no es “¿suena auténtico?”, sino “¿puede demostrarse técnicamente que es auténtico?”.
Conclusión
Los deepfakes de voz representan uno de los mayores desafíos actuales para la gestión de la información y la protección de la identidad digital.
Las herramientas automáticas de detección pueden ser útiles como apoyo, pero no deben confundirse con una validación forense de autenticidad. Cuando la reputación de una persona, la credibilidad de una organización o incluso la estabilidad institucional pueden verse afectadas por una grabación, resulta imprescindible recurrir a metodologías técnicas rigurosas, transparentes y auditables.
En la era de la inteligencia artificial generativa, verificar un audio antes de publicarlo ya no es una opción. Es una necesidad.