Nuevas herramientas para detectar deepfakes, el objetivo en el que Facebook invertirá más de 10 millones de dólares

Aunque su faceta lúdica es innegable, hoy en día los deepfakes constituyen también una de las aplicaciones más amenazantes de la inteligencia artificial, por su potencial repercusión sobre la reputación de las personas o sobre la misma esfera pública. Por eso, cada vez surgen más iniciativas para luchar contra esta amenaza… recurriendo a las mismas tecnologías que permitieron crearla. Combatir el fuego con fuego, que suele decirse.

La mejor forma de limitar los efectos negativos de los deepfakes pasa por detectarlo lo antes posible, antes de que alcances una gran difusión. Pero los sistemas de detección de estas falsificaciones van siempre por detrás de los dedicados a su creación, constituyendo un constante juego del gato y el ratón.

Mike Schroepfer, CTO de Facebook, afirma que hoy en día ya es relativamente sencillo para un algoritmo detectar un deepfake… cuando el sistema ya ha tenido ocasión de analizar el vídeo original, pero si alguien graba un video original y luego lo manipula, la tarea se convierte en algo mucho más complejo.

Por ello, Facebook (con la colaboración de otras compañías e instituciones, como Microsoft o el MIT) ha decidido trabajar para dar un empujón a la evolución de las tecnologías de detección de deepfakes. Y eso se ha traducido en dos decisiones: crear un dataset… y convocar un concurso. Y la compañía de Zuckerberg piensa dedicar «más de 10 millones de dólares» a financiar ambas iniciativas.

Un dataset y un concurso para animar a salir a la caz del deepfake

No sería muy útil recurrir al aprendizaje automático para detectar deepfakes si no se contara con un gran almacén de los mismos al que recurrir para entrenar a los algoritmos. Por eso, Facebook ha decidido tomar la iniciativa de crear no ya sólo el dataset, sino los propios deepfakes que lo conformarán, contratando a actores que consientan en ceder su imagen para los mismos.

«Es importante contar con datos disponibles gratuitamente para que la comunidad pueda usarlos, con participantes que consientan claramente, y con pocas restricciones de uso».

Pero una vez que este dataset esté en marcha, será necesario animar a la comunidad de desarrolladores a que lo use para lograr, cuanto antes, avances en la tarea de detectar deepfakes. Y ahí es donde entra el concurso, bautizado como Deepfake Detection Challenge (DFDC), que Facebook piensa convocar para premiar económicamente a los mejores desarrollos.

El objetivo del DFDC será crear herramientas de código abierto que tanto empresas, como instituciones y medios de comunicación puedan usar para detectar con mayor precisión cuándo un video ha sido manipulado.

¿De cuánta precisión estamos hablando? El pasado mes de junio, el Information Sciences Institute de la Universidad del Sur de Californio anunció que, gracias a un dataset de 1000 vídeos manipulados, había sido capaz de crear un algoritmo de detección de vídeos deepfake que mostraba una precisión de hasta el 96%. Es de esperar que la tasa de éxito de los algoritmos creados gracias al DFDC sea aún mayor.

En cualquier caso, desde Facebook dejan claro que la meta de todo esto no es crear un sistema que detecte todo deepfake imaginable, sino tan sólo encontrar formas de hacer que sea mucho más complejo y costoso crear deepfakes realistas.