Caso: Cómo Ferrari frenó a un CEO ‘deepfake’

En julio de 2024, un ejecutivo de Ferrari recibió varios mensajes que parecían haber sido enviados por el CEO Benedetto Vigna a través de WhatsApp. Los mensajes, que procedían de un número desconocido, hacían referencia a una importante adquisición inminente, instaban al ejecutivo a firmar inmediatamente un acuerdo de confidencialidad y afirmaban que el regulador y la bolsa italianos ya habían sido informados de la transacción.

A pesar de lo convincentes que resultaban los mensajes, con una foto de perfil de Vigna ante el logotipo de Ferrari, el ejecutivo empezó a sospechar. Aunque la voz imitaba el acento del sur de Italia de Vigna, el ejecutivo notó ligeras incoherencias en el tono durante una llamada posterior en la que se le instó de nuevo a colaborar en la realización de una transacción financiera confidencial y urgente.

Intuyendo que algo no cuadraba, el ejecutivo le hizo una pregunta cuya respuesta solo Vigna podía conocer: el título de un libro que le había recomendado unos días atrás. Incapaz de responder a la pregunta, el estafador finalizó bruscamente la llamada. La sencilla prueba del ejecutivo evitó lo que podría haber sido una importante pérdida financiera y un daño reputacional para Ferrari.

 

Comprender los ‘deepfakes’ Ese intento de engañar a Ferrari es un ejemplo de deepfake: un vídeo, imagen, texto o voz de gran realismo que ha sido generado total o parcialmente mediante algoritmos de inteligencia artificial, técnicas de aprendizaje automático y redes generativas adversariales (GAN por sus siglas en inglés).

Las GAN son un tipo de modelo de IA en el que dos redes neuronales –una que genera contenidos y otra que los evalúa– compiten para crear vídeos o audios de gran verosimilitud que imitan a individuos reales. Una red, conocida como la generadora, crea el contenido falso, mientras que la otra, llamada discriminadora, evalúa si el contenido generado parece auténtico o falso. Este proceso continúa hasta que la red generadora produce materiales tan realistas que la discriminadora ya no puede discernir si son verdaderos o falsos.

Los estafadores generan deepfakes utilizando grandes conjuntos de datos que incluyen fotos, grabaciones de audio y vídeos de la persona a la que quieren suplantar. Cuantos más datos haya disponibles, más realista resultará ese deepfake. Por ese motivo, celebridades, políticos y figuras públicas con amplia presencia en los medios d...