¿Qué son los deepfakes?
Los deepfakes son videos, imágenes o audios generados con inteligencia artificial que imitan la apariencia y la voz de una persona con tal precisión que pueden engañar tanto a las personas como a los algoritmos.
Suelen crearse en tiempo real y aparecen con frecuencia en videos y filtros de realidad aumentada. Muchas aplicaciones de consumo emplean esta tecnología con fines de entretenimiento, como FaceSwap, pero su creciente accesibilidad también ha abierto la puerta a usos malintencionados.
¿Cómo funcionan los deepfakes?
El término «deepfake» combina el aprendizaje profundo, una rama del aprendizaje automático, con la palabra inglesa «fake» (falso), y describe contenido generado mediante técnicas de inteligencia artificial.
Los deepfakes se producen con aprendizaje profundo y redes generativas antagónicas (GAN), que operan a través de dos redes neuronales:
- Generador: crea imágenes, audios o videos sintéticos.
- Discriminador: evalúa esos resultados e intenta distinguirlos de los datos reales.
El proceso se repite hasta que el generador produce contenido tan convincente que el discriminador ya no puede identificarlo como falso de forma fiable.
En un inicio, los deepfakes exigían grandes volúmenes de datos de entrenamiento, por lo que las celebridades eran objetivos habituales. Hoy los avances permiten crearlos a partir de una sola imagen o un breve clip de audio, lo que amplía enormemente el número de posibles víctimas.
¿Por qué son peligrosos los deepfakes?
Los deepfakes no siempre son malintencionados, pero su uso indebido plantea riesgos graves. Se han empleado en fraudes, desinformación, extorsión y pornografía de venganza.
Un estudio de 2019 reveló que el 96% de los deepfakes detectados eran pornográficos, afectando principalmente a mujeres. También se han usado para extorsionar víctimas y explotar menores con contenido sintético explícito.
En política, los deepfakes manipulan la opinión pública y socavan la democracia. Además, afectan la seguridad digital, comprometiendo sistemas biométricos como el reconocimiento facial y de voz.
Los deepfakes son una amenaza para los procesos de verificación de identidad y onboarding de clientes en negocios. Descubre cómo gestionarlos y prevenir fraudes.
Lee más
3 ejemplos de deepfakes
Aquí te presentamos tres ejemplos destacados de deepfakes.
1. El video de Obama/Jordan Peele de Buzzfeed
Uno de los ejemplos más famosos de deepfakes que puso esta tecnología en el centro de atención fue un video lanzado en abril de 2018 por Buzzfeed. En él, aparece un Barack Obama sintético con la voz auténtica de Jordan Peele. Hasta la fecha, ha acumulado más de 8.7 millones de vistas en YouTube.
2. Personas (y gatos) que no existen – Ejemplo de imágenes deepfake
El sitio web This Person Does Not Exist genera un rostro humano nuevo utilizando GAN cada vez que lo actualizas. Aunque la mayoría de los resultados son convincentes, algunos presentan errores o un efecto inquietante propio del «valle inquietante». Este sitio es tan popular que ha inspirado versiones similares, como This Cat Does Not Exist, dedicado a crear gatos ficticios.
3. Una app que intercambia tu rostro con el de una celebridad
Disponible en la App Store y Google Play, la aplicación móvil Reface, desarrollada por Neocortext, Inc., cuenta con una calificación promedio de 4.8/5 en iOS y 4.5/5 en Android. La app permite a los usuarios intercambiar sus rostros con los de celebridades en videos, gifs y memes. Su biblioteca de contenido es en gran parte creada por la comunidad.
¿Cómo funciona el fraude con deepfakes?
El fraude con deepfakes se apoya en tecnología que permite al estafador hacerse pasar por otra persona, casi siempre alguien de confianza para la víctima: un gerente, el director general de la empresa o un familiar. Son figuras a las que la víctima no quiere contradecir, pero con las que no interactúa lo suficiente como para notar diferencias sutiles en sus gestos o su voz.
Con el rostro y la voz de esa persona, el estafador instruye a la víctima para que transfiera dinero, comparta datos sensibles u otorgue accesos no autorizados.
El caso más citado ocurrió en 2024, cuando un empleado de la firma de ingeniería Arup en Hong Kong realizó 15 transferencias por un total de 25 millones de dólares tras participar en una videollamada en la que todos los «colegas» presentes, incluido el director financiero, eran deepfakes generados con IA.
Años antes, un caso pionero de clonación de voz ya había engañado a un directivo para transferir 240,000 dólares a un supuesto proveedor en otro país.
Cómo detectar la tecnología de deepfakes
Un deepfake suele provocar una sensación inquietante y revela pequeñas imperfecciones que delatan su falta de autenticidad. Entrenar el ojo humano para reconocer estas inconsistencias, y combinarlo con técnicas de verificación fiables, ayuda a separar el contenido manipulado del genuino.
Señales visuales que pueden indicar manipulación:
- Color de labios que no coincide con el rostro.
- Piel demasiado lisa o arrugada, o una edad que no encaja con el cabello.
- Sombras anómalas alrededor de los ojos.
- Reflejos incoherentes en los lentes.
- Vello facial o lunares poco naturales.
- Parpadeo irregular, muy frecuente o casi inexistente.
- Movimientos de labios extraños o zonas de la boca poco realistas.
Sin embargo, revisar el video a simple vista ya no basta. Los fraudes actuales rara vez muestran el deepfake ante una cámara: lo inyectan directamente en el flujo de verificación.
¿Cómo detectan los deepfakes los ataques de inyección?
Un ataque de inyección inserta un video o una imagen sintética directamente en el flujo de captura, sin pasar por la cámara real, para superar la prueba de vida durante el onboarding.
Conviene distinguir dos problemas complementarios:
- Detección de deepfakes: analiza el contenido del rostro para determinar si es sintético.
- Detección de ataques de inyección: valida cómo llegó la imagen y confirma que procede de una cámara real, no de una cámara virtual, un emulador o un flujo manipulado.
Analizar solo la imagen no basta, porque un rostro real inyectado a través de una cámara falsa puede parecer legítimo. La detección más eficaz suma señales del dispositivo y del entorno de captura, y las combina con el historial digital de la persona: un deepfake puede imitar una cara, pero no años de presencia en línea. Empezar por la persona, y no por la foto, frena estos ataques antes de que superen la verificación.
¿Cómo impacta el fraude con deepfakes a las empresas?
A medida que la tecnología de deepfakes se vuelve más accesible, los estafadores pueden hacerse pasar por ejecutivos, empleados o clientes con una precisión alarmante, generando vulnerabilidades significativas para las empresas. Una investigación de Regula destaca el impacto financiero, reportando pérdidas promedio de $450,000 dólares por empresa en varios sectores.
Más allá de las pérdidas financieras directas, el daño reputacional puede ser igual de grave. Los medios manipulados pueden perjudicar la imagen de una empresa, y aunque el fraude sea desmentido, el daño ya está hecho. Industrias basadas en la confianza, como las finanzas, el derecho y la salud, son especialmente vulnerables.
Con el aumento en la sofisticación de estos fraudes, los costos para las empresas también se incrementan. Ahora deben destinar recursos significativos a medidas de ciberseguridad, herramientas de detección de fraudes basadas en IA y programas de capacitación para empleados, con el fin de mitigar este riesgo creciente.
Los deepfakes son esencialmente suplantaciones, lo que los convierte en un método popular para el fraude de CEO utilizando voces sintéticas.
Los consumidores y empleados también pueden ser afectados por intentos de phishing con deepfakes, o incluso ser víctimas de robo de identidad, ya que los estafadores podrían usar esta tecnología para superar procesos de verificación KYC basados en reconocimiento facial u otras verificaciones biométricas.
Además, los criminales continúan encontrando nuevas formas de usar deepfakes, incluyendo extorsión, chantaje y espionaje industrial. Es crucial que empresas, organizaciones y particulares permanezcan alertas.
Fuentes
- Arxiv: Am I a Real or Fake Celebrity?
- Arvix: Generative Adversarial Networks
- Deepfakesweb: Online Deepfake Maker
- This Person Doesn’t Exist: Home Page
- EU Observer: ‘Deepfakes’ – a political problem already hitting the EU
- Regmedia: The State of Deepfakes
- This Cat Doesn’t Exist: Home page
Traducido y revisado por el equipo hispanohablante de SEON.
