TecnoXplora » Internet

Internet

Desarrollan un software capaz de identificar deepfakes de una manera rápida y fiable

Los deepfakes se han convertido en una amenaza para la credibilidad de muchos contenidos en internet, por lo que contar con herramientas para detectarlos es fundamental.

Los deepfakes se crean cargando imágenes para que un software pueda imitar sus rasgos

LLC Los deepfakes se crean cargando imágenes para que un software pueda imitar sus rasgos

Publicidad

Mientras nos hemos movido por el terreno de los memes, las bromas y otros contenidos burlescos que circulan por internet con el ánimo de poner en evidencia a un personaje público (político, artista, deportista, intelectual, etc.), la cosa podríamos considerar que está controlada y se mueve dentro de unos límites aceptables de la crítica... pero en el caso de los deepfakes, la cosa cambia.

Y lo hace porque gracias al desarrollo de las tecnologías de inteligencia artificial, existen formas de crear imágenes y vídeos donde es posible situar a esas personas protagonizando hechos, o afirmando ideas, que nunca realizaron ni salieron de su boca. Por lo que entramos en prácticas de desinformación, fake news y propaganda donde un contendiente político, por ejemplo, podría intentar legitimar sus ideas a través de mentiras.

Como os podéis imaginar, lejos de divertirnos ver a Tom Holland convertido en Marty McFly en "Regreso al Futuro", lo que verdaderamente preocupa de los deepfakes es que los usuarios de internet lleguen a dar credibilidad a contenidos fake sin darse cuenta de que son falsos, por lo que era previsible que muchas compañías relevantes, como Facebook y Twitter, hayan iniciado una carrera por el desarrollo de herramientas que sean capaces de identificar todos estos contenidos que solemos recibir a través de apps de mensajería, o ver en publicaciones de algunas redes sociales.

Herramientas para los usuarios

Con todo lo anterior en mente, Microsoft presentó hace escasas horas dos nuevas tecnologías que son capaces de identificar estos deepfakes en informar de ello al usuario. Una de ellas, la llamada "Video Authenticator", analiza tanto fotografías como secuencias de vídeo para ofrecernos un "porcentaje de probabilidad" de acierto, o puntuación de confianza, que nos señala si podemos fiarnos de eso que estamos viendo. Si es real o no.

Detrás de este software se encuentra un algoritmo que es capaz de detectar los distintos elementos que forman parte de la imagen y analizarlos de manera combinada, poniendo el acento en localizar esos detalles que se escapan de nuestra vista y que tienen que ver con la aparición de patrones con escalas de grises, o los propios límites de las formas que integran el conjunto.

Imagen real (i) vs deepfake (d) | Microsoft


Como veis, este "Video Authenticator" se centra en analizar lo que vemos, aunque la segunda alternativa que ofrece Microsoft para identificar estos deepfakes tiene que ver con la creación de lo que llaman "hashes y certificados digitales", que se implementarían como metadatos tanto en el navegador como en las imágenes y vídeos. Se trataría de una herramienta que formaría parte del servicio en la nube de los de Redmond, Azure, y que permitiría a través de una extensión del browser certificar la veracidad de ese contenido para mostrárselo al usuario o no.

Aunque estas herramientas abren un camino de esperanza de cara al futuro, donde convivirán contenidos reales con otros generados gracias a inteligencias artificiales, lo cierto es que las compañías tienen un enorme trabajo por delante ya que van a requerir de una actualización constante para ser capaces de superar la velocidad con la que se mejoran unos deepfakes que cada día parecen más y más reales. ¿Vosotros seríais capaces de identificarlos?

Publicidad