Los ratones pueden ser la solución contra los deepfakes

Instituciones gubernamentales e investigadores de varias Universidades como la Universidad de Washington, la Universidad de Stanford y el Instituto Max Planck de Informática están experimentando con tecnología de falsificación profunda (Deepfake) para estudiar cómo usar la tecnología GAN y a su vez entender y saber cómo combatirla.

Los algoritmos de alimentación de video falso y real, esperan ayudar a las computadoras a identificar cuándo algo es falso. Pero los investigadores han llegado a la conclusión de que puede que la tecnología no sea la solución para identificar y combatir los deepfakes que tanta confusión causan por su apariencia real.

Aunque suena un poco loco, los investigadores del Instituto de Neurociencia de la Universidad de Oregon piensan que "un modelo de ratón, dadas las poderosas herramientas genéticas y electrofisiológicas para explorar los circuitos neuronales disponibles para ellos, tiene el potencial de aumentar poderosamente una comprensión mecanicista de la percepción fonética".

Es decir, los ratones podrían informar algoritmos de próxima generación para detectar videos y audios falsos.

El equipo, liderado por Jonathan Saunders, entrenó a los ratones de la investigación para entender pequeños grupos de fonemas y encontrar diferencias entre ellos.

Estos fonemas que en la mayoría de los casos los humanos pasan por alto fueron detectados por los ratones y fueron condicionados con recompensas cada vez que identificaban correctamente los sonidos, obteniendo una tasa de éxito superior al 80%.

Así pues, si los ratones son capaces de detectar estas pequeñas variaciones de fonemas, los investigadores confían en que podrán entrenarlos para distinguir entre un discurso creado por software y uno realizado por un humano y así contrarrestar a los deepfakes.

¿Qué es un deepfake?

El deepfake es una tecnología en su mayor parte basada en redes generativas de confrontación (GAN), inventada en 2014 por Ian Goofellow, Ph.D. estudiantes que ahora trabaja en Apple.

Las GAn permiten que los algoritmos vayan más allá de la clasificación de datos para generar o crear imágenes. Esto ocurre cuando dos redes generativas de confrontación intentan engañarse mutuamente para pensar que una imagen es “real”.

Con tan solo una imagen, una GAN experimentada puede crear un videoclip de la persona que aparece en ella.

"Demostramos que este enfoque es capaz de aprender modelos de cabezas parlantes altamente realistas y personalizados de nuevas personas e incluso pinturas de retratos", dicen los investigadores del Centro IA de Samsung.

Esto quiere decir que las falsificaciones profundas ponen a las personas, a las empresas y al gobierno en riesgo tras estas mentiras disfrazadas que han afectado a muchos al parecer “ser verdad”.