La inteligencia artificial resulta una gran herramienta para facilitar tareas diarias, pero su uso también se ha aprovechado para acciones menos éticas, como la creación de archivos digitales que falsifican el aspecto, la voz y los gestos de una persona para hacerlos parecer reales. Te explicamos qué es un deepfake y cómo se detecta.
Manipular imágenes para hacer creer a terceros que una persona dice y hace algo que no es real se ha vuelto sencillo ante la proliferación de las IA. Sin embargo, ¿el deepfake se considera un delito? ¿Se puede usar este contenido como prueba en un juicio?
¿Qué es un deepfake?
El deepfake es una simulación realista en la que aparece una persona haciendo o diciendo algo que no ocurrió. Se presentan en archivos digitales creados con inteligencia artificial, lo que permite imitar la apariencia y la voz de alguien.
La palabra deepfake se traduce como falsificación profunda. Para conseguir imitaciones realistas, se utiliza tecnología que analiza las características de una persona, como su voz y sus gestos, para replicarlos en una nueva imagen.
La creación de este tipo de archivos se ha convertido en un riesgo, ya que pueden llegar a ser muy realistas y generar desinformación. Además, hay casos en los que se ha utilizado para extorsionar, acosar y cometer fraudes.
Un perito informático es capaz de analizar los archivos para determinar si son reales o no, siguiendo las pistas que puede dejar la IA. Tener el informe pericial es fundamental para utilizarlo como prueba ante los tribunales.
Tipos de deepfake
El deepfake se clasifica según el formato de contenido que generan. De manera que podemos encontrar los siguientes tipos:
- Deepfake de vídeo: se puede decir que es uno de los más conocidos. Se reemplaza el rostro de una persona con otro, sincronizando los movimientos y expresiones faciales, y manipulando el lenguaje corporal.
- Deepfake de audio: crea mensajes de voz y conversaciones falsas. Se logra al clonar la voz de una persona. También se modifica lo que ha dicho, tomando palabras o frases para crear un discurso falso.
- Deepfake de imagen: consiste en manipular fotografías para modificar la apariencia de una persona y alterar sus expresiones.
- Deepfake de texto: se utilizan modelos de lenguaje para crear mensajes y publicaciones falsas, y simular comunicaciones personales.
A la combinación de los distintos formatos se le conoce como deepfake multimedia. Mediante esta práctica se pueden conseguir conversaciones completas con movimientos faciales realistas, vídeos y audios sincronizados.
¿Cómo se hace un deepfake?
Para crear un deepfake hay que pasar por cuatro fases principales:
En primer lugar está la fase de entrenamiento, que consiste en alimentar la base de datos de los algoritmos de aprendizaje. Para ello se le proporcionan imágenes o vídeos del sujeto objetivo de donde se extraen los patrones biométricos faciales.
Después de alimentar la base de datos, comienza el entrenamiento de las redes neuronales. Esto se hace mediante codificadores automáticos y redes generativas antagónicas. Estas redes son capaces de crear contenido falso y a la vez intentan detectar la falsificación, lo que permite crear resultados realistas.
La tercera fase consiste en el mapeo de las características faciales. El algoritmo ajusta las expresiones faciales, movimientos oculares, cambios de iluminación y movimientos labiales para sincronizarlos sobre el vídeo.
Por último, se corrigen los colores y la integración de los bordes para eliminar artefactos visuales. En esta fase se busca una transición perfecta entre la cara sintetizada y el cuerpo del vídeo original.
Cómo detectar un deepfake
La tecnología permite crear deepfakes realistas; sin embargo, es posible identificar el contenido manipulado. Para detectar estas falsificaciones, se combina el análisis visual y el técnico.
Señales visuales
Lo primero que se hace es un análisis visual en el que se buscan las siguientes señales:
- Anomalías en el parpadeo: por lo general, en los vídeos manipulados, los intervalos en el parpadeo son irregulares o demasiado consistentes.
- Inconsistencias de iluminación: es difícil replicar la iluminación de un entorno con precisión. Un deepfake puede quedar en evidencia por errores en los reflejos en los ojos, las sombras y la dirección de la luz, entre otras señales.
- Bordes deficientes: los límites entre el rostro manipulado y el fondo original suelen presentar inconsistencias, halos de color o cambios en la nitidez.
- Expresiones faciales y movimientos: se busca detectar inconsistencias entre el movimiento de los labios y el sonido, expresiones faciales que no corresponden al contexto emocional, entre otros.
Análisis técnico y de metadatos
En el proceso de detección también se recurre al análisis técnico, en el que se verifican aspectos como los metadatos. Al analizar esta información, se puede conocer el origen, la fecha de creación, el software de edición y la coherencia de información embebida.
También se pueden estudiar las huellas que deja la IA durante el proceso de creación, realizar análisis de frecuencia y comparación de los patrones faciales con videos auténticos conocidos.
Herramientas de detección
Se han creado herramientas tecnológicas con las que se pueden detectar anomalías en los píxeles, errores de compresión, irregularidades en los movimientos faciales y características propias de los contenidos generados por IA.
Existen modelos de machine learning entrenados para identificar deepfakes. Además de software para examinar elementos visuales, de audio y metadatos conjuntamente.
Deepfakes y delitos
No existe el delito de deepfake en España; sin embargo, se encuadra dentro de otros delitos penales existentes. Por ejemplo, suplantación de identidad, extorsión y ciberextorsión, desinformación y acoso.
¿Son válidos los deepfakes como prueba en un juicio?
Un deepfake se puede utilizar como prueba de difamación, fraude o suplantación solo si se acredita su autenticidad. Para ello debe cumplir con una serie de requisitos que incluyen verificación técnica, el informe pericial y pruebas complementarias.
Cómo certifica un perito informático un vídeo manipulado
El perito informático es quien se encarga de analizar archivos digitales para detectar si son auténticos o manipulados. Para ello sigue un proceso riguroso que se resume en:
- Recopilación y preservación de evidencia.
- Análisis técnico profundo (codificación, análisis de tramas, luces, sombras, sincronización labial y audio).
- Análisis biométrico (reconocimiento facial, movimientos corporales, biomecánica).
- Análisis mediante herramientas especializadas.
- Elaboración del informe pericial.
Si necesitas la certificación de imágenes y vídeo, contáctanos y, como peritos informáticos, analizaremos tu caso. Con los avances tecnológicos es complicado detectar vídeos e imágenes falsificados. Por ello, es importante tener claro qué es un deepfake y cómo se detecta. De esta manera es posible prevenir fraudes, acoso o desinformación.
Referencias:
- https://www.beedigital.es/inteligencia-artificial/que-es-deepfake-y-como-detectarlo/
- https://tirant.com/noticias-tirant/noticia-deepfakes-y-responsabilidad-penal-como-afrontarlo/
- https://www.incibe.es/node/504092
