CREADOR DE DEEPFAKE

Si estás usando Kapwing con una cuenta gratuita, todas las exportaciones —incluyendo el Deepfake Maker de Kapwing— tendrán una marca de agua. Una vez que mejores a una cuenta Pro, la marca de agua se quitará por completo de tus creaciones.

El término 'deepfake' es una combinación de 'deep learning' (un subconjunto de IA) y 'fake', reflejando el método usado para crear el contenido y su naturaleza engañosa. Los avances en tecnología de IA han permitido la creación de imágenes, videos y audio súper realistas que parecen auténticos pero están manipulados o completamente inventados. En formato de video y audio, los deepfakes suelen implicar reemplazar o cambiar el rostro, la voz o los movimientos de una persona de manera que parezca que está diciendo o haciendo algo que nunca realmente hizo. Aunque los deepfakes se usan a menudo para propósitos creativos, de entretenimiento y educativos, también generan preocupaciones éticas y legales debido a su capacidad para difundir desinformación y violar la privacidad. Por esta razón, Kapwing garantiza que todo el contenido de deepfake esté claramente etiquetado con una marca de agua no removible de 'generado por IA'.

No, los videos deepfake no son ilegales y no existe legislación federal en Estados Unidos que los prohíba o regule. Sin embargo, diez estados de EE. UU. tienen legislación que se enfoca específicamente en quienes crean y comparten contenido deepfake explícito, incluyendo California, donde Kapwing está ubicada.

En enero de 2024, Taylor Swift fue víctima de una filtración de deepfake. Videos falsos que engañaron al público en general se extendieron por redes sociales, con un video que llegó a 47 millones de vistas en X (Twitter) antes de ser eliminado. El incidente provocó una protesta de políticos estadounidenses pidiendo nueva legislación. Sin embargo, siete meses después, en agosto de 2024, Donald Trump compartió una colección de imágenes generadas por IA que falsamente mostraban a Taylor Swift y sus fans respaldando su campaña presidencial. La investigación de IA de Kapwing también encontró que Taylor Swift ocupa el tercer lugar entre las 10 celebridades más deepfakeadas en internet.

Kapwing apoya el control y la seguridad del contenido deepfake, y nuestros ingenieros trabajan duro para garantizar que el contenido de IA no pueda usarse para temas explícitos, engañosos o inapropiados.

Consulta nuestros Términos de Servicio para leer más sobre cómo nos aseguramos de que el contenido de IA no cause daño.

Es súper difícil para el usuario promedio de social media detectar contenido deepfake: solo el 17% de las personas han completado Kapwing's AI Quiz que requiere identificar si los discursos de celebridades son reales o falsos. Algunos de los indicios más obvios son: discurso desincronizado, detalles de fondo inconsistentes, movimientos raros de brazos o cara, fallas de video y desenfoque. Investigadores, empresas tecnológicas y expertos en video usan análisis fotograma por fotograma junto con software de detección de deepfake para ayudar a identificar contenido deepfake y mantener internet como un espacio seguro. También puedes reportar contenido deepfake dañino en la aplicación o sitio web donde aparezca.

La historia de los deepfakes se puede rastrear hasta principios de los 90, cuando el desarrollo de CGI actuó como catalizador para su camino. Sin embargo, no fue hasta finales de 2017 cuando un usuario de Reddit acuñó el término 'deepfake', compartiendo videos generados por IA que reemplazaban caras normales con las de celebridades. Ese fue el momento en que los deepfakes se hicieron conocidos.

Puedes usar la sección 'Educativa' de Kapwing para entender mejor cómo se genera contenido deepfake usando las últimas tecnologías de sincronización labial de código abierto. Celebridades como Taylor Swift, Elon Musk y Donald Trump han sido seleccionados como casos de estudio. Los usuarios solo pueden publicar videos de Persona usando personas de las que tengan permiso. Usa un video tuyo, elige una Persona de stock aprobada, o consigue permiso explícito al usar un video de otra persona para entrenar como Persona. Usar a una celebridad o a cualquier otra persona sin permiso está prohibido y va contra los Términos de Servicio de Kapwing.

La tecnología deepfake usa IA súper avanzada, especialmente algoritmos de aprendizaje profundo como las Redes Generativas Antagónicas (GANs), para crear videos, imágenes o audio falsos increíblemente realistas. Funciona entrenando un modelo con un montón de datos del rostro o voz de una persona, lo que le permite copiar sus expresiones, movimientos y forma de hablar. El resultado es contenido que parece o suena como la persona real, aunque esté completamente inventado.

Claro, los deepfakes están ganando popularidad en todo el mundo. Kapwing analizó el interés global en los deepfakes y descubrió que Corea del Sur (13,399), República Checa (11,356) y Suecia (10,443) fueron los únicos países con más de 10,000 búsquedas relacionadas con deepfakes por millón de habitantes.