Con el firme propósito de generar conciencia sobre los peligros de la manipulación de contenidos digitales, la Agencia Española de Protección de Datos (AEPD) ha presentado su nueva campaña denominada ‘Los deepfakes no son una broma’. Esta iniciativa busca incentivar una postura de extrema prudencia entre los usuarios de internet frente a las crecientes capacidades de la inteligencia artificial.
¿Qué es un deepfake y por qué es peligroso?
De acuerdo con la información proporcionada este martes por la AEPD, los deepfakes son archivos multimedia generados mediante sofisticados algoritmos de Inteligencia Artificial (IA). Estos sistemas son capaces de replicar con un realismo sorprendente el rostro, los gestos y la voz de individuos reales. Si bien la entidad admite que esta tecnología tiene aplicaciones legales, alertó que
«puede ser utilizada de forma inadecuada para intentar suplantar, humillar o desacreditar a una persona»
.
La campaña tiene como eje central un video didáctico que utiliza un ejemplo práctico para demostrar cómo la IA puede convertir una simple fotografía en un video hiperrealista. Mediante una simulación de pantalla dividida, se evidencia la capacidad de transformación tecnológica, aclarando que, en el caso del video promocional, se trata de un montaje realizado bajo consentimiento.
Responsabilidad y ética en el uso de la IA
El presidente de la AEPD, Lorenzo Cotino, ha sido enfático en señalar que el avance tecnológico debe ir de la mano con la ética. Según sus declaraciones:
«la inteligencia artificial es una herramienta que puede contribuir al progreso social, pero su utilización debe ir acompañada de información y responsabilidad»
Cotino también advirtió que el uso de estas herramientas para alterar imágenes de otras personas no es un acto inofensivo, sin importar el contexto. Al respecto, señaló:
«Manipular imágenes de terceros con IA no es algo neutro, incluso en contextos aparentemente banales, y exige una valoración rigurosa. Este vídeo es una invitación a reflexionar y actuar con prudencia en el entorno digital»
Guía de acción para la ciudadanía
La Agencia insiste en la importancia de conocer el funcionamiento de la IA y sus consecuencias legales, considerando el impacto negativo que un deepfake puede provocar en la vida profesional, personal y social de las víctimas. Para mitigar estos riesgos, se recomienda:
- Solicitar siempre el consentimiento expreso antes de utilizar datos personales o imágenes de terceros.
- Realizar una verificación rigurosa de los contenidos antes de compartirlos para evitar la propagación de noticias falsas.
- Informarse sobre las implicaciones legales de la creación y difusión de material manipulado.
Este lanzamiento complementa otros recursos informativos previos de la AEPD, tales como ‘El uso de imágenes de terceros en sistemas de inteligencia artificial y sus riesgos visibles e invisibles’, donde se analizan los efectos de transformar fotos ajenas, y la guía ‘Cuidado con lo que le confÍAs’, que ofrece pautas para un uso consciente y seguro de las nuevas tecnologías.
Fuente: Fuente