Deepfakes y la ley: ¿el Salvaje Oeste digital ha terminado?

El rápido avance de la IA ha introducido una profunda pregunta en nuestra vida diaria: ¿qué es real? Con la inteligencia artificial generativa ahora capaz de crear imágenes, audio y vídeos que son prácticamente indistinguibles del contenido genuino, el concepto mismo de verdad digital está bajo asalto. Esto no es meramente un debate académico; tiene consecuencias tangibles, a menudo devastadoras, desde la injerencia electoral hasta la proliferación de imágenes íntimas no consentidas, lo que obliga a la sociedad a lidiar con nuevos dilemas legales y éticos a un ritmo sin precedentes.

Los incidentes de deepfakes aumentaron un asombroso 257 % en 2024, y el primer trimestre de 2025 por sí solo vio un 19 % más de incidentes que todo el año anterior. Esta proliferación no se trata solo de engaños sofisticados; se trata de alterar la percepción a un nivel fundamental, amenazando con erosionar la confianza fundamental en lo que vemos y oímos. El sistema legal, tradicionalmente lento para adaptarse, ahora se esfuerza por establecer barreras contra esta amenaza en rápida evolución, pero el camino está lleno de desafíos y dilemas éticos.

Armando la percepción: los deepfakes en política

La arena política ha demostrado ser un terreno fértil para los deepfakes, donde el contenido fabricado puede sembrar la desconfianza e influir en la opinión pública con alarmante rapidez. La IA generativa puede imitar convincentemente a líderes electos, sintetizar audio con la voz de cualquier persona y generar imágenes o vídeos realistas. Este contenido engañoso es especialmente peligroso en el período previo a una elección, cuando hay poco tiempo para desmentirlo antes de que los votantes acudan a las urnas. La historia reciente ofrece advertencias claras.

En los días previos a las elecciones eslovacas de octubre de 2023, grabaciones de audio deepfake, que aparentemente mostraban a Michal Šimečka, líder del partido prooccidental Eslovaquia Progresista, discutiendo sobre el amaño de las elecciones y la duplicación de los precios de la cerveza, se hicieron virales en las redes sociales. Si bien algunos clips incluían descargos de responsabilidad, a menudo aparecían 15 segundos después en audios de 20 segundos, lo que llevó a los investigadores a sugerir un engaño deliberado. El partido de Šimečka finalmente perdió unas elecciones reñidas, lo que generó especulaciones de que estos deepfakes de última hora influyeron en el resultado, un precedente preocupante para las democracias de todo el mundo.

Estados Unidos ya está viendo la influencia de la IA en las campañas. El ciclo electoral de 2024, por ejemplo, vio a candidatos de las primarias republicanas emplear la IA en anuncios de campaña. La campaña del gobernador de Florida, Ron DeSantis, lanzó famosamente imágenes generadas por IA del expresidente Donald Trump abrazando a Anthony Fauci, una figura que se ha convertido en un blanco de críticas entre muchos votantes republicanos. A medida que las herramientas de IA se vuelven más sofisticadas, podemos esperar una afluencia aún mayor de comunicaciones engañosas en las contiendas políticas, lo que exige una respuesta legal y social sólida.

El flagelo de las imágenes no consentidas

Más allá de la manipulación política, uno de los usos más extendidos y atroces de la tecnología deepfake es la creación de imágenes íntimas no consentidas (NCII). Un asombroso 96 % de los vídeos deepfake en línea son pornografía no consentida, siendo las mujeres las víctimas abrumadoramente. Esto representa una nueva y horrible forma de abuso de género que despoja a las personas de su privacidad y dignidad, a menudo haciendo que sea casi imposible para las víctimas eliminar estos vídeos explícitos falsos de internet. Este problema ha impulsado a los legisladores a la acción, lo que ha llevado a algunas de las leyes sobre deepfakes más concretas hasta la fecha.

En EE. UU., la Ley TAKE IT DOWN (Ley de Herramientas para Abordar la Explotación Conocida Inmovilizando Deepfakes Tecnológicos en Sitios Web y Redes) fue promulgada por el presidente Donald Trump el 19 de mayo de 2025. Este proyecto de ley bipartidista, defendido por el senador Ted Cruz después de un incidente que involucró a estudiantes de secundaria de Texas, criminaliza la publicación de NCII, con penas de hasta dos años de prisión para las víctimas adultas y sentencias más severas para las imágenes que involucran a menores. La ley también exige que los sitios web y los servicios de redes sociales eliminen dichas imágenes dentro de las 48 horas posteriores a la solicitud de una víctima. La primera condena en virtud de la Ley ocurrió en abril de 2026, sentenciando a un hombre de Ohio a 15 años por crear y compartir NCII de adultos y niños.

El mosaico de leyes y los desafíos que se avecinan

Si bien la Ley TAKE IT DOWN marca un paso federal significativo, el enfoque general de EE. UU. para la regulación de los deepfakes sigue siendo complejo y no hay una normativa federal exhaustiva, lo que deja a los estados individuales la tarea de promulgar sus propias leyes. Mientras que la UE y el Reino Unido están a la vanguardia de la legislación con actos como la Ley de IA de la UE, que impone requisitos de transparencia y responsabilidad, la ley estadounidense es un mosaico de estatutos estatales y precedentes judiciales, lo que genera inconsistencias y lagunas que los malhechores pueden explotar.