¿Qué es un deepfake? ¿Se puede usar en estafas?

Los avances en tecnología, así como la capacidad de cálculo de nuestros ordenadores, nos permiten avanzar en las empresas y en nuestro día a día. Pero la innovación también tiene un lado más oscuro cuando se utiliza de forma fraudulenta para engañar al usuario. Hoy vamos a explicar qué es el deepfakey descubrir cómo se utiliza para realizar estafas o para obtener datos de empresas para futuras acciones delictivas, como ocurre en el caso de phishing.
Índice
- Qué es el deepfake
- Peligros del deepfake: ¿cómo lo usan para estafar?
- ¿Cómo identificar un deepfake?
- Qué hacer si sospechamos que nos están atacando con un deepfake
Qué es el deepfake
El deepfake es una técnica de inteligencia artificial que permite editar vídeos y audios falsos de personas para aparentar que son reales. A través de la manipulación del material audiovisual se hace creer al usuario que lo que está viendo o escuchando es cierto, cuando realmente es una imitación creada digitalmente.
El término deepfake hace alusión a los términos ingleses deep learning -aprendizaje profundo- y fake -falso-. Para desarrollar esta ficción, y lograr que parezca auténtica, los estafadores utilizan lo que se conoce como redes generativas antagónicas (RGAs), que son una clase de algoritmo que pueden crear nuevos tipos de datos a partir de otros conjuntos que ya existen.
Para la creación de estos vídeos o audios manipulados se necesita disponer de grabaciones de voz o vídeos en los que aparezca la persona a la que se quiere suplantar. Con ese material, la inteligencia artificial es capaz de construir una conversación nueva para que diga lo que los ciberdelincuentes quieren. Con el vídeo la estructura es similar aunque el proceso es tecnológicamente más complejo.

Peligros del deepfake: ¿cómo lo usan para estafar?
Por la complejidad del diseño de la estafa no se considera una amenaza que permita lanzar ataques generalizados contra el tejido empresarial. El esfuerzo tecnológico que requiere, el tiempo que hay que dedicar y la necesidad de dirigir el objetivo a una persona concreta, aquella a la que suplantamos la identidad, hacen que sean las grandes compañías las que, sobre todo, puedan sufrirlo.

Se trata de una tecnología que en las estafas empresariales principalmente intenta suplantar a altos directivos, aquellos que con una orden pueden mover grandes cantidades de dinero, lo que hace rentable el ataque realizado. No son muy abundantes, pero ya existe constancia de este tipo de ataques a compañías.
El objetivo es que, con una llamada telefónica, el deepfake de audio es más probable, la suplantación de la identidad de este directivo haga que la persona que está al otro lado del teléfono acabe por realizar lo que se le pide sin mayores comprobaciones. Por lo general el modus operandi siempre es similar. Ha surgido un problema y es necesario realizar una transferencia de dinero importante a la mayor brevedad. Pero también para conseguir datos bancarios de la compañía. Es una técnica un poco más compleja que el vishing, ya bastante utilizada para obtener datos e información de las empresas.
La estafa también se puede ejecutar a través de un vídeo, una videoconferencia o similar. El objetivo es el mismo, aunque con mayor complejidad tecnológica. Además, requiere tener una elevada cantidad de imágenes de la persona a la que se va a suplantar, algo que no siempre está al alcance de la mano.
Por otra parte, esta tecnología también se puede utilizar para generar fake news -noticias falsas-, lo cual puede suponer un importante riesgo reputacional para las compañías. En este sentido, será de gran ayuda diseñar previamente una estrategia de comunicación que permita reaccionar de forma eficaz ante potenciales campañas de desprestigio que pueda sufrir la empresa. De este modo, podremos ofrecer una respuesta adecuada en el menor tiempo posible para así reducir (o evitar) los daños que la publicación pueda ocasionar.
¿Cómo identificar un deepfake?
Detectar si un audio o un vídeo son un deepfake es posible si conocemos su funcionamiento y estamos atentos a determinadas señales. Hay ciertas cuestiones que nos pueden llevar a sospechar, como que se siga un determinado patrón en la expresión facial, que se repitan determinados tics o que el cuerpo y la cara no sigan exactamente los mismos movimientos. Si estamos en una conversación telefónica, que se haya caído en alguna incoherencia o no se responda exactamente a lo que preguntamos.
En un vídeo es algo más sencillo porque podemos ver movimientos poco naturales, pequeños fallos de sincronización entre audio e imagen, fotogramas o sombras algo distorsionadas, etc. De hecho, la mala conexión es muchas veces la coartada de los ciberdelicuentes para tratar de hacer parecer real aquello que no lo es.
Si se analizan a nivel tecnológico el vídeo o el audio, rápidamente se puede comprobar que no se trata de una grabación continua, sino que la conversación, por ejemplo, está formada por palabras unidas para crear un discurso ficticio. El problema es que para todo esto se necesita tiempo y, precisamente, eso es lo que tratan de evitar los ciberdelincuentes.
Qué hacer si sospechamos que nos están atacando con un deepfake
Hoy por hoy tendríamos que sospechar de por sí de cualquier petición inusual que requiera un envío o una transferencia de dinero importante. Sobre todo si es urgente. En estos casos la mejor medida es devolver la llamada a la persona, utilizando el contacto habitual que tengamos guardado, para comprobar la veracidad de la petición. Podemos utilizar cualquier excusa cortar la llamada y realizar la comprobación, o incluso colgar directamente.
Es aquí donde, en el caso de una suplantación de identidad, se va a acabar por descubrir que estamos sufriendo un ataque de deepfake. También es interesante introducir en la conversación algún dato que nosotros sepamos que solo conoce el directivo o la persona que nos está pidiendo realizar la transferencia.
Por último, una medida muy eficaz contra este tipo de estafas, que es ya utilizada por muchas empresas, es implantar como política empresarial una doble verificación para realizar este tipo de transacciones, de manera que se necesite la aprobación de dos personas para hacer una transferencia a partir de una determinada cantidad.
Al margen de estos consejos que se aplican al deepfake, si hablamos de ciberseguridad se recomienda intentar mantenerse actualizado de las noticias que afectan al sector cibernético, así como realizar periódicamente pequeños test que permitan comprobar que no existen brechas que faciliten la entrada de los ciberdelincuentes en nuestra infraestructura digital.