El arte de engañar al ojo humano

El arte de engañar al ojo humano

¿Que es un Deepfake? ¿Que tecnología hay detrás?

Un deepfake es un tipo de contenido audiovisual generado artificialmente mediante algoritmos de aprendizaje automático, específicamente a través de redes neuronales generativas adversarias (GAN). Las GAN son un enfoque de inteligencia artificial que involucra dos redes neurales: un generador y un discriminador.

El generador toma como entrada una serie de imágenes o videos de una persona objetivo y aprende a generar nuevas imágenes o videos que imitan su apariencia facial y movimientos. Por otro lado, el discriminador se entrena para distinguir entre las imágenes o videos generados por el generador y los reales.

A medida que el generador y el discriminador se entrenan en conjunto, se produce un proceso de retroalimentación en el que el generador busca mejorar su capacidad para generar imágenes o videos cada vez más realistas, mientras que el discriminador se vuelve más hábil para distinguir entre lo real y lo generado.

El resultado final es un video deepfake en el que se superponen los rasgos faciales de la persona objetivo en el video original, creando la ilusión de que la persona objetivo es quien realmente está hablando o actuando en el video.

Este proceso de creación de deepfakes implica la recopilación de una gran cantidad de datos de entrenamiento, incluyendo imágenes y videos de la persona objetivo y el uso de algoritmos complejos para aprender a generar una representación convincente de su rostro.

Riesgos y estafas

Los deepfakes presentan una serie de riesgos y amenazas en el ámbito de la ciberseguridad, incluyendo posibles estafas y engaños. A continuación, exponemos algunos de los principales riesgos asociados con los deepfakes:

Manipulación de información y desinformación: Los deepfakes pueden ser utilizados para crear videos falsos de políticos, celebridades u otras figuras públicas, lo que plantea un riesgo significativo de manipulación de información y desinformación. Estos videos manipulados pueden difundirse ampliamente en línea y tener un impacto negativo en la reputación de las personas afectadas o incluso influir en el resultado de eventos importantes, como elecciones.

Phishing y estafas basadas en deepfakes: Los ciberdelincuentes pueden aprovechar los deepfakes para llevar a cabo ataques de phishing más sofisticados. Por ejemplo, pueden crear videos falsos de un CEO de una empresa solicitando transferencias de dinero o divulgar información confidencial. Estas estafas basadas en deepfakes pueden engañar a los empleados y causar pérdidas financieras significativas.

Suplantación de identidad: Los deepfakes también pueden utilizarse para suplantar la identidad de una persona, creando videos falsos en los que parezca que están diciendo o haciendo algo que no hicieron. Esto puede tener un impacto devastador en la vida personal y profesional de alguien, ya que su reputación y credibilidad pueden ser socavadas.

Difamación y acoso: Los deepfakes también pueden ser utilizados para difamar o acosar a personas, ya sea creando videos falsos comprometedores o alterando imágenes y videos existentes para dañar la imagen de alguien. Esto puede tener consecuencias emocionales y psicológicas graves para las víctimas.

Aquí algunos ejemplos de estafas reales:

  • https://www.incibe.es/empresas/blog/historias-reales-deepfake-mi-jefe-circulando-red
  • https://businessinsider.mx/roban-600000-dolares-empresario-china-estafa-deepfake_tecnologia/
  • https://es.gizmodo.com/estafa-deepfake-ia-video-china-1850464320

Detección e identificación

En el ámbito de la ciberseguridad, la detección e identificación de deepfakes se ha convertido en un desafío crucial para proteger la integridad de la información y mitigar los riesgos asociados. Los profesionales y expertos en ciberseguridad están trabajando arduamente para desarrollar estrategias efectivas que permitan detectar y combatir esta forma de manipulación audiovisual.

Una de las técnicas utilizadas es el análisis forense digital, donde se examinan cuidadosamente los metadatos, el ruido digital y las anomalías visuales presentes en los videos sospechosos. Estos investigadores buscan patrones de pixelación, inconsistencias en el movimiento facial y alteraciones en la iluminación y las sombras que puedan indicar la presencia de un deepfake.

Otro enfoque se basa en el uso de redes neuronales convolucionales (CNN), poderosas herramientas de aprendizaje automático. Estas redes se entrenan con grandes conjuntos de datos para identificar características únicas de los deepfakes, como artefactos visuales y anomalías en la distribución de texturas. A través de este proceso, los modelos de CNN pueden distinguir entre imágenes y videos auténticos y aquellos generados por algoritmos de deepfake.

La autenticidad basada en la firma es otra estrategia utilizada para detectar deepfakes. Se comparan las características visuales distintivas de una persona con las presentes en un video sospechoso para identificar inconsistencias que puedan revelar manipulación. Estas firmas pueden incluir rasgos faciales, movimientos oculares y expresiones únicas, lo que permite una evaluación más precisa de la autenticidad del contenido.

La comunidad de ciberseguridad se esfuerza por fomentar la colaboración y el desarrollo continuo en la detección de deepfakes. Se promueven competencias y desafíos que reúnen a investigadores, expertos en ciberseguridad, gobiernos y la industria, con el objetivo de mejorar los algoritmos de detección y enfrentar de manera conjunta esta amenaza creciente.

Legislación y regulaciones

Dentro de España y la Unión Europea (UE), se ha reconocido la necesidad de establecer legislaciones y regulaciones que aborden los desafíos planteados por los deepfakes. Estas medidas legales y normativas tienen como objetivo proteger la integridad de la información y minimizar los riesgos asociados con esta tecnología de manipulación audiovisual.

En este sentido, se han promulgado leyes y reglamentos clave que buscan salvaguardar la privacidad de las personas y prevenir el mal uso de los deepfakes. Entre ellos, destaca el Reglamento General de Protección de Datos (RGPD), que establece disposiciones para garantizar un procesamiento justo y transparente de los datos personales en la UE. Asimismo, en España se encuentra la Ley Orgánica de Protección de Datos Personales y Garantía de los Derechos Digitales (LOPDGDD), que complementa las disposiciones del RGPD y protege los derechos digitales de los individuos.

En el ámbito de la propiedad intelectual, la Ley de Propiedad Intelectual (LPI) en España desempeña un papel importante al salvaguardar los derechos de los creadores y regular la explotación de sus obras. Esta ley puede aplicarse para proteger los derechos de imagen y otros derechos relacionados con la creación original frente a la manipulación de deepfakes.

A nivel de la UE, la Directiva sobre los Derechos de Autor en el Mercado Único Digital (DMCA) busca armonizar las leyes de derechos de autor en el entorno digital. Esta directiva establece medidas para prevenir la infracción de derechos de autor en línea y puede resultar relevante en la protección de obras originales frente a la manipulación mediante deepfakes.

Es fundamental que la comunidad de ciberseguridad esté al tanto de estas legislaciones y regulaciones en constante evolución. La educación y la conciencia sobre los riesgos asociados con los deepfakes son esenciales para garantizar un uso responsable y ético de esta tecnología. Además, la colaboración entre expertos en ciberseguridad, gobiernos y la industria es fundamental para promover la mejora de estas regulaciones y adaptarlas a los desafíos emergentes.

En última instancia, la protección contra los deepfakes requiere una combinación de medidas legales, técnicas y educativas. La comunidad de ciberseguridad juega un papel crucial al impulsar la investigación y el desarrollo de tecnologías de detección, así como al promover la conciencia pública y la adopción de buenas prácticas para proteger nuestra seguridad y privacidad en un mundo digital en constante evolución.

Conclusión

En resumen, los deepfakes representan una amenaza creciente para la ciberseguridad. Su capacidad para manipular y falsificar contenido audiovisual plantea riesgos significativos para la privacidad, la integridad de la información y la confianza en el entorno digital. La detección y la identificación de deepfakes, junto con la implementación de legislaciones y regulaciones adecuadas, son fundamentales para abordar esta problemática. La colaboración entre la comunidad de ciberseguridad, los gobiernos y la industria, junto con la educación y la concienciación pública, son elementos clave en la lucha contra los deepfakes y en la protección de nuestra seguridad online.

Pablo Arrabal Espinosa
Pablo Arrabal Espinosa Experto en ciberseguridad y OSINT, formador de empresas y divulgador. Apasionado de las ciberinvestigaciones. Autodidacta y Perfil Público en MyPublicInbox.
comments powered by Disqus