Por qué la inteligencia artificial no puede sustituir la revisión profesional
La inteligencia artificial ha transformado en muy poco tiempo la forma en que trabajamos con documentos, imágenes y sonido. Entre sus aplicaciones más extendidas está la transcripción automática de audio: subir una grabación a una plataforma y obtener, en cuestión de minutos, un texto aparentemente ordenado y completo.
Para una reunión interna, una entrevista periodística o unas notas de trabajo, esta tecnología puede resultar extraordinariamente útil.
El problema aparece cuando el texto obtenido va a utilizarse en un procedimiento judicial.
En ese contexto, una transcripción no es simplemente un texto que «se parece» a lo que se escucha. Puede ser necesario determinar exactamente qué dijo cada persona, cuándo lo dijo, si hubo una interrupción, una vacilación, una palabra incompleta o incluso un fragmento que resulta imposible de entender.
Y ahí la diferencia entre una transcripción aproximada y una transcripción verdaderamente literal deja de ser una cuestión de estilo.
Puede convertirse en una cuestión probatoria.
Transcribir no es resumir
Una transcripción literal tiene un objetivo muy concreto: representar de la forma más fiel posible el contenido de una grabación.
Eso implica algo bastante diferente de lo que habitualmente hacen los modelos de inteligencia artificial generativa.
Un sistema diseñado para producir lenguaje puede intentar construir una frase coherente incluso cuando el audio original contiene ruido, palabras incompletas o fragmentos ambiguos. Desde el punto de vista lingüístico puede parecer una mejora. Desde el punto de vista de una transcripción destinada a un procedimiento judicial puede ser justamente lo contrario.
Una transcripción profesional debería distinguir entre:
«no se entiende», una palabra parcialmente audible, una frase dudosa, y una frase realmente pronunciada.
Una inteligencia artificial puede convertir esa incertidumbre en una oración aparentemente segura.
Ese es probablemente uno de los riesgos menos visibles de la automatización: el texto final puede resultar más claro que el propio audio.
Y precisamente por eso puede ser menos fiel.
Cuando una sola palabra cambia el significado
En un documento ordinario, sustituir accidentalmente «podría» por «puede» quizá no tenga demasiada importancia.
En una conversación relacionada con amenazas, consentimiento, instrucciones, acuerdos económicos, relaciones laborales o responsabilidades contractuales, la diferencia puede ser sustancial.
No es lo mismo:
«yo creo que lo sabía»
que:
«yo sabía que lo hacía».
Tampoco:
«no quería hacerlo»
que:
«quería hacerlo».
Los sistemas automáticos de reconocimiento de voz pueden equivocarse precisamente en palabras cortas, negaciones, nombres propios, cifras, tecnicismos o expresiones pronunciadas rápidamente.
También pueden tener mayores dificultades cuando existen varios interlocutores, conversaciones simultáneas, ruido ambiental, teléfonos con mala cobertura, grabaciones antiguas o diferencias importantes de volumen.
Por eso evaluar una herramienta únicamente por su porcentaje general de aciertos resulta insuficiente.
En una transcripción judicial, importa especialmente dónde se produce el error.
El problema de las llamadas «alucinaciones»
Existe además un riesgo característico de determinados sistemas de inteligencia artificial: generar contenido plausible que no estaba realmente presente en la fuente.
Aplicado a una transcripción, ese problema es especialmente delicado.
Ante un fragmento de baja calidad, la respuesta correcta puede ser:
[inaudible]
[no inteligible]
[se solapan varias voces]
o simplemente dejar constancia de que no resulta posible identificar con seguridad determinada palabra.
Completar automáticamente el hueco puede producir un texto más bonito, pero también crear una afirmación que nadie pronunció.
En un contexto judicial, la incertidumbre no debería ocultarse.
Debería documentarse.
Identificar correctamente quién habla tampoco es trivial
Otro problema habitual aparece en la denominada diarización: la identificación y separación de los distintos interlocutores.
En conversaciones largas es relativamente frecuente que los sistemas automáticos intercambien hablantes.
Una frase pronunciada por A puede aparecer atribuida a B.
Cuando se lee la transcripción sin escuchar simultáneamente el audio, el resultado puede parecer perfectamente coherente.
Pero la atribución puede ser incorrecta.
En determinados procedimientos, ese error puede tener mucha más importancia que una palabra mal transcrita.
Por ello, identificar interlocutores exige comprobar el contexto, las intervenciones anteriores y posteriores y, cuando sea necesario, escuchar repetidamente determinados fragmentos.
El problema empieza incluso antes de comenzar a transcribir
Existe otro aspecto que a veces recibe menos atención: qué ocurre con el audio cuando se entrega a una herramienta de inteligencia artificial.
Una grabación utilizada en un procedimiento judicial puede contener información extraordinariamente sensible:
nombres y apellidos,
números de teléfono,
direcciones,
información económica,
datos laborales,
información sanitaria,
datos de menores,
datos relativos a la vida sexual,
información sobre posibles delitos,
opiniones políticas,
relaciones personales,
o conversaciones privadas de terceros.
La propia voz constituye, con carácter general, un dato personal cuando permite identificar directa o indirectamente a una persona. La Agencia Española de Protección de Datos recuerda además que junto a la voz pueden tratarse otros datos y metadatos vinculados al servicio utilizado.
Por tanto, «subir el audio a una IA» no es una operación tecnológicamente neutra.
Es un tratamiento de información.
¿Dónde se almacena realmente la grabación?
Antes de utilizar cualquier sistema externo habría que poder contestar, al menos, algunas preguntas.
¿En qué servidores se procesa el archivo?
¿En qué país?
¿Cuánto tiempo permanece almacenado?
¿Puede acceder personal del proveedor?
¿Existen subencargados del tratamiento?
¿Se utiliza el contenido para mejorar o entrenar modelos?
¿Se conserva el audio después de generar la transcripción?
¿Se generan copias de seguridad?
¿Puede solicitarse efectivamente su supresión?
La AEPD señala expresamente que, cuando una organización contrata servicios de transcripción mediante IA, debe conocer cuestiones como la confidencialidad, los tratamientos adicionales, los plazos de conservación, la localización de los datos, los encargados implicados y las condiciones de un eventual reentrenamiento de los modelos.
Hay un detalle especialmente relevante: algunos sistemas pueden utilizar muestras para mejorar sus modelos y ese proceso puede incluir supervisión humana. La propia AEPD advierte de que, en determinadas configuraciones, personas vinculadas al proveedor podrían llegar a escuchar fragmentos de voz durante los procesos de ajuste del sistema.
En una conversación confidencial o vinculada a un procedimiento judicial, esta cuestión no puede considerarse secundaria.
Confidencialidad profesional y secreto de las comunicaciones
Un despacho profesional, un perito, una asesoría o cualquier organización que gestione documentación judicial no debería evaluar una herramienta únicamente por su facilidad de uso o por la calidad aparente de sus transcripciones.
Debe analizar también qué relación jurídica mantiene con el proveedor tecnológico.
Cuando una empresa externa procesa información personal por cuenta de otra organización, pueden existir obligaciones propias de la figura del encargado del tratamiento. La AEPD recuerda que estas obligaciones deben formalizarse adecuadamente y que el responsable debe seleccionar proveedores que ofrezcan garantías suficientes.
En otras palabras, contratar una aplicación no elimina la responsabilidad sobre los datos introducidos en ella.
No toda inteligencia artificial funciona de la misma manera
También conviene evitar una simplificación frecuente.
Utilizar IA no significa necesariamente enviar el audio a un chatbot público.
Existen arquitecturas muy diferentes.
Un sistema puede procesar archivos completamente en servidores de terceros.
Otro puede operar en una nube privada.
Y determinados modelos de reconocimiento de voz pueden ejecutarse incluso de forma local dentro de una infraestructura controlada por la propia organización.
Desde el punto de vista de la confidencialidad, las diferencias pueden ser enormes.
Por ello, el debate realmente útil no debería formularse como:
«¿Podemos utilizar inteligencia artificial para realizar transcripciones judiciales?»
La pregunta correcta es:
¿qué herramienta, sobre qué infraestructura, con qué garantías, para qué fase del trabajo y bajo qué supervisión?
La exactitud no puede medirse solo estadísticamente
Un proveedor puede anunciar tasas de precisión muy elevadas.
Eso no significa necesariamente que una transcripción concreta sea suficientemente fiable para un determinado procedimiento.
La propia AEPD ha insistido en que el principio de exactitud debe analizarse durante todo el tratamiento de los datos: entradas, procesos y resultados. Un algoritmo técnicamente preciso puede producir resultados inadecuados si los datos de entrada presentan problemas o si no existen mecanismos suficientes de verificación.
En una grabación real pueden aparecer:
acentos,
muletillas,
nombres extranjeros,
abreviaturas,
jerga profesional,
interrupciones,
personas hablando simultáneamente,
ruido de tráfico,
televisión de fondo,
eco,
cortes,
mensajes reproducidos por altavoz
o fragmentos grabados desde otro dispositivo.
La tasa media de precisión de un modelo dice poco sobre lo que ocurrirá precisamente en esos segundos conflictivos.
El riesgo de «mejorar» demasiado la transcripción
Uno de los mayores errores consiste en pedir posteriormente a una inteligencia artificial generativa:
«Corrige esta transcripción.»
«Mejora la redacción.»
«Pon bien las frases.»
«Elimina repeticiones.»
«Ordena el diálogo.»
Para una entrevista destinada a publicación puede ser útil.
Para una transcripción literal puede destruir precisamente aquello que se pretende conservar.
Una repetición puede ser significativa.
Una frase mal construida puede ser exactamente la frase pronunciada.
Una pausa puede cambiar la interpretación.
Una rectificación espontánea puede ser importante.
Incluso una contradicción gramatical puede formar parte del contenido original.
La función de una transcripción literal no es hacer que una persona parezca expresarse mejor.
Es documentar lo que dijo.
La cadena de custodia digital también importa
[Inferencia] Cuando una transcripción se prepara para apoyar el análisis de una prueba de audio, resulta recomendable separar claramente tres elementos:
el archivo original,
la copia de trabajo,
y la transcripción.
El archivo original debería mantenerse sin modificaciones.
Sobre la copia pueden realizarse operaciones técnicas necesarias para facilitar la escucha, siempre que queden documentadas.
Y la transcripción debería poder relacionarse constantemente con momentos concretos de la grabación mediante marcas temporales.
De esta forma es posible volver al audio y verificar cada pasaje controvertido.
Una transcripción que ha pasado sucesivamente por varios programas, conversiones de formato, herramientas de limpieza, plataformas de IA y editores automáticos sin documentación sobre esos procesos puede generar dudas innecesarias sobre cómo se obtuvo el texto final.
La inteligencia artificial sí puede ser útil
Todos estos riesgos no significan que la IA tenga que excluirse del proceso.
Puede ser una herramienta extremadamente valiosa.
Especialmente como primera capa de trabajo.
Por ejemplo, un sistema automático puede generar un borrador inicial, separar aproximadamente los interlocutores y colocar códigos de tiempo.
Después comienza el trabajo realmente importante.
Escuchar.
Comparar.
Corregir.
Identificar dudas.
Comprobar nombres y cifras.
Revisar cambios de interlocutor.
Marcar fragmentos imposibles de comprender.
Y volver nuevamente al audio original.
La diferencia fundamental está en considerar el resultado automático como un borrador susceptible de error, no como la transcripción definitiva.
Un posible protocolo profesional de trabajo
[Inferencia] Un procedimiento razonable para incorporar tecnología de reconocimiento de voz a este tipo de trabajo podría estructurarse así:
- Analizar previamente la grabación.
Determinar procedencia, calidad, número de interlocutores, duración y sensibilidad de la información.
- Evaluar la herramienta antes de introducir datos.
Revisar condiciones contractuales, ubicación del procesamiento, conservación, uso para entrenamiento, subencargados, seguridad y posibilidades de eliminación.
- Aplicar minimización de datos.
Procesar únicamente la información estrictamente necesaria. El RGPD incorpora expresamente los principios de minimización, limitación de finalidad, exactitud, integridad y confidencialidad.
- Mantener intacto el archivo original.
Trabajar sobre una copia claramente identificada.
- Utilizar la IA exclusivamente para generar un borrador.
Nunca asumir que la salida automática es correcta.
- Revisar el texto escuchando nuevamente el audio.
Especialmente nombres propios, números, negaciones, fechas, cantidades, términos jurídicos y fragmentos de baja calidad.
- Verificar la identidad de los interlocutores.
No confiar exclusivamente en la separación automática de voces.
- Documentar las incertidumbres.
Cuando algo no pueda entenderse con suficiente seguridad, indicarlo expresamente en lugar de reconstruirlo.
- Mantener marcas temporales.
Permiten localizar rápidamente cada intervención en la fuente original.
- Realizar una revisión humana final completa.
La comprobación debe efectuarse contra el audio, no únicamente corrigiendo el texto generado automáticamente.
¿Y qué ocurre con las grabaciones oficiales de los juicios?
Aquí aparece una cuestión jurídica adicional.
En España, la Ley de Enjuiciamiento Civil establece que las actuaciones orales se registran mediante sistemas de grabación de imagen y sonido. Desde la reforma que entró en vigor en marzo de 2024, el artículo 147 señala además que las actuaciones y vistas grabadas y documentadas en soporte digital no podrán transcribirse salvo en aquellos supuestos en que una ley así lo determine.
Por tanto, debe distinguirse entre la documentación oficial de una actuación judicial y otros trabajos de transcripción sobre grabaciones, conversaciones o materiales que pueden utilizarse en un procedimiento.
No son jurídicamente situaciones equivalentes.
También existen supuestos específicos en la legislación procesal penal en los que la propia ley contempla expresamente transcripciones. Por ejemplo, determinadas medidas de investigación relativas a grabaciones de conversaciones prevén que la Policía Judicial entregue a la autoridad judicial las grabaciones junto con la transcripción de las conversaciones consideradas relevantes.
Por eso siempre es necesario determinar primero qué tipo de grabación se está transcribiendo y con qué finalidad procesal.
El Reglamento Europeo de Inteligencia Artificial añade otra capa
El Reglamento Europeo de Inteligencia Artificial presta una atención especial a determinados sistemas utilizados en la Administración de Justicia.
Considera de alto riesgo, entre otros, determinados sistemas destinados a ser utilizados por autoridades judiciales o en su nombre para ayudar a investigar e interpretar hechos y Derecho y aplicar la ley a casos concretos. El propio Reglamento distingue estos usos de otras actividades administrativas meramente accesorias.
Eso no significa que cualquier software de transcripción utilizado en un contexto jurídico pase automáticamente a ser un sistema de alto riesgo.
[Inferencia] Su clasificación dependerá, entre otros factores, de la finalidad concreta para la que haya sido diseñado y utilizado.
Pero sí refleja una idea fundamental: cuanto mayor sea la influencia de un sistema de IA sobre la valoración de hechos o derechos, mayores deben ser las garantías sobre su funcionamiento y supervisión.
La cuestión no es si usamos IA, sino cómo la usamos
La automatización permitirá reducir enormemente el tiempo necesario para trabajar con grandes cantidades de audio.
Pero una transcripción destinada a un procedimiento judicial no debería evaluarse por su velocidad.
Debería evaluarse por su fidelidad.
La tecnología puede identificar palabras.
Puede separar voces.
Puede localizar fragmentos.
Puede generar borradores extraordinariamente útiles.
Lo que no debería hacer es convertir una duda en una certeza sin que nadie lo compruebe.
Por eso el modelo profesional probablemente no será «persona contra inteligencia artificial».
Será:
inteligencia artificial para acelerar el trabajo, procedimientos técnicos para controlar el tratamiento de la información y revisión humana para verificar el resultado.
Porque cuando una conversación puede terminar siendo leída ante un juez, una palabra no debería aparecer porque estadísticamente era la más probable.
Debería aparecer porque realmente se escucha en la grabación.