Qué son y cómo se detectan los deepfakes de IA
Los deepfakes de inteligencia artificial son uno de los peligros invisibles que representa el entorno negativo de la IA. Esta tecnología permite crear videos y audios falsos muy, muy realistas, donde una persona parece estar diciendo o haciendo algo que en realidad nunca ocurrió. Los deepfakes se basan en redes neuronales que, como he explicado en un anterior artículo, son un tipo de inteligencia artificial que aprende y replica patrones complejos a partir de grandes volúmenes de datos.
Lo que hace a los deepfakes tan inquietantes es su capacidad de engaño, junto con la velocidad a la que han evolucionado. Hace apenas unos años, estas manipulaciones eran más “cutres” y fácilmente detectables. Hoy en día, gracias al avance del aprendizaje automático y la capacidad de procesamiento, los deepfakes pueden llegar a ser prácticamente indistinguibles de los videos genuinos. Este nivel de sofisticación ha metido en problemas legales a muchos usuarios inocentes, ya que cualquier persona podría ser víctima de desinformación o difamación tras usar cualquier parte de su cuerpo o la voz para hacerse pasar por un hecho real.
No obstante, detectar este tipo de estafas mediante los deepfakes se ha convertido en una prioridad entre los desarrolladores. A medida que los algoritmos se perfeccionan para hacer deepfakes más realistas, los investigadores también desarrollan herramientas más eficaces para identificarlos. Uno de los métodos más comunes para detectarlos es el análisis de inconsistencias en el parpadeo y los movimientos faciales, dado que a menudo luchan por replicar de manera convincente el movimiento de los ojos y otros “imperceptibles” movimientos de un rostro. Es decir, un video donde una persona parpadea con menor frecuencia de lo normal o donde los movimientos faciales parecen un poco rígidos puede ser un indicio de manipulación.
Otro enfoque se centra en el análisis de la calidad de los píxeles. A pesar de la alta resolución, los deepfakes tienen artefactos de imagen que pueden ser detectados por algoritmos especializados. Estos artefactos pueden incluir bordes irregulares, cambios sutiles en la textura de la piel o en la iluminación y las sombras. Los expertos también recurren al análisis forense digital, que implica examinar los metadatos de los archivos de video y las señales digitales en busca de cualquier rastro de edición o manipulación. O también, otra técnica emergente en la detección de deepfakes es el uso de IA entrenada específicamente para identificar estas falsificaciones. Estas IA pueden analizar millones de cantidades de datos en busca de patrones y características que los humanos podrían pasar por alto.
Además del análisis técnico, la concienciación pública es fundamental para frenar los deepfakes. La sociedad debe aprender a ser más escéptica y crítica con el contenido digital que consume, especialmente en redes sociales donde la información falsa puede propagarse rápidamente.
¿Alguna vez has visto un deepfake? ¿Cómo reaccionarías si tu imagen fuera usada para hacer un deepfake?
