La línea entre el contenido digital real y el manipulado por inteligencia artificial es cada vez más difusa. Los deepfakes, que imitan rostros y voces con asombrosa precisión, ya forman parte de nuestra cotidianidad. Ante este escenario, la búsqueda de herramientas tecnológicas para verificar la autenticidad se ha vuelto una necesidad urgente. Sin embargo, ¿qué tan efectivas son realmente estas soluciones?
Para responder a esto, en Palabras Saan Palabras de Radio Futuro conversamos con Juan Pablo Figueroa, periodista, magíster en políticas públicas y director del Laboratorio de Ciudadanía, Información y Verificación. El especialista analizó los límites de la tecnología actual y entregó recomendaciones claves para no caer en engaños.
Un caso real puesto a prueba
Recientemente, un video altamente sospechoso comenzó a difundirse en las redes sociales chilenas. En el registro, aparecía el periodista Daniel Matamala anunciando un supuesto video póstumo del empresario Horst Paulmann. En dicho clip manipulado, Paulmann prometía repartir su herencia entre ciudadanos afortunados.
Figueroa utilizó este alarmante caso como un experimento para evaluar los motores de detección disponibles en el mercado. En primer lugar, subió el archivo a reconocidas plataformas de análisis como Deepware, Deep Fake Detection y Gemini, el potente motor de Google. Sin embargo, los resultados fueron decepcionantes.
El límite de los detectores automáticos
A pesar de las altas expectativas, ninguna de las herramientas arrojó un resultado concluyente sobre la falsedad del video. En este sentido, Figueroa es categórico al definir la capacidad real de estas plataformas: “Ninguna te va a decir ‘esto es real o no’. Lo que te verifican es el porcentaje de probabilidad de que ese contenido haya sido generado por inteligencia artificial”.
En el caso de la herramienta de Google, el porcentaje de sospecha reportado fue de apenas un 15%, mientras que los otros motores tampoco superaron el 50% de probabilidad. Esto se debe a que muchos de estos sistemas solo buscan sus propios rastros digitales. Al respecto, el experto detalla que “Gemini, que es de Google, solamente identifica el sello de SynthID, que es el que ellos ponen”.
Por lo tanto, la ausencia de una alerta no garantiza que un archivo sea auténtico. El especialista añade que “cuando lo identifica quiere decir que sí lo está, pero cuando no lo identifica no quiere decir que sea falso, quiere decir que simplemente no tiene el sello de ellos”. Además, pequeñas modificaciones como capturas de pantalla eliminan los metadatos de origen, haciendo que los sistemas fallen en la detección.
Inteligencia artificial como aliada de análisis
A pesar de estas fallas en la detección multimedia, la inteligencia artificial puede ser una aliada metodológica. Frente a videos largos que mezclan datos reales y conspiraciones falsas, modelos de lenguaje como ChatGPT ofrecen un gran soporte analítico.
Sin embargo, el usuario debe guiar el proceso con instrucciones claras y objetivas. Figueroa explica su metodología de trabajo de la siguiente forma: “La inteligencia artificial nunca es un verificador, sí es una herramienta para verificar. Por supuesto, yo no le dije ‘identifícame lo que es real o falso’. Le pedí: ‘extráeme los datos, clasifica su comparabilidad, contrástalo con otras fuentes académicas’”. Gracias a este método estructurado, es posible obtener un informe preliminar de alta utilidad para iniciar un contraste profundo.
Herramientas recomendadas para la verificación
Para combatir la desinformación en imágenes y videos fuera de contexto, existen alternativas muy accesibles. En primer lugar, la búsqueda inversa es fundamental para rastrear el origen de una fotografía. Herramientas sencillas como Google Lens permiten subir una imagen sospechosa para verificar si corresponde a un evento pasado. Asimismo, plataformas como TinEye ofrecen búsquedas de alta precisión para este propósito.
En el ámbito audiovisual, el software WeVerify de la plataforma InVid es uno de los recursos más complejos. Este sistema descompone los videos en fotogramas clave y realiza una búsqueda inversa de cada uno de ellos para rastrear su origen histórico en la red.
La última línea de defensa: el criterio humano
A pesar del avance tecnológico, la herramienta más poderosa sigue estando en nuestra propia mente. Figueroa enfatiza que “la inteligencia artificial todavía no tiene una herramienta concreta que nos permita identificar, que la metamos y nos diga ‘esto es verdadero, esto es falso’. Entonces, con ese tipo de videos todavía tenemos que depender de nuestro criterio y entrenar el ojo”.
Finalmente, el periodista hace un llamado a mantener una actitud reflexiva en el entorno digital. De acuerdo con su visión, “lo importante siempre es afinar la mirada, estar atento, cuestionarlo todo y dudar. No sospechar, porque eso nos lleva a una desconfianza que nos paraliza. Cuestionemos para dudar y empezar a buscar respuestas”.