Mientras tanto, recuerda que todo está previsto para que tengas un día ¡de bien para arriba!
La llegada de la tecnología deepfake ha provocado un nuevo paradigma con importantes ramificaciones sociales, sobre todo en estos tiempos actuales caracterizados por los rápidos avances de la inteligencia artificial (IA) y sus diversas aplicaciones, esto demanda acciones proactivas tanto desde al ámbito académico como de los responsables políticos, debido a los múltiples desafíos que presenta a diferentes industrias.
De acuerdo con un estudio desarrollado por iProov, el 71% de los encuestados a nivel global no sabe qué es un deepfake y el 43% admite que no podría detectar uno, mientras, la tecnología para crearlos es cada vez más sofisticada y accesible, ampliando la posibilidad de que los ciberdelincuentes usen estas voces y rostros para suplantar identidades y generar contenido malicioso, en ese contexto, vale la pena profundizar un poco en el asunto.
De acuerdo al portal: www.fundeu.es/ (Fundación del español urgente) señala que el término ultrafalso es una alternativa al anglicismo deepfake, que se está empleando sobre todo para referirse a los vídeos que no son reales, pero que lo parecen gracias a una manipulación extrema, esta palabra alude a los sistemas informáticos que permiten, mediante técnicas de inteligencia artificial, desarrollar vídeos manipulados extremadamente realistas, aunque también es frecuente que se aplique a los videos así creados, el realismo es tal que puede ser imposible saber que ha sido falseado, lo que sirve, por ejemplo, para propagar noticias falsas, este es su uso original, pero en ocasiones se utiliza para manipulaciones similares, como en audio.
Durante el año 2022 vivimos una explosión de inteligencias artificiales generativas que, empleando ‘machine learning’ y tras un entrenamiento, aprendemos a generar de manera autónoma imágenes con gran riqueza de detalles, canciones de todos los estilos musicales y ‘chatbots’ como ChatGPT, que ante cualquier pregunta ofrecen una respuesta enriquecida, compleja y coherente.
Por otro lado, la Revista de la OMPI (Organización Mundial de la Propiedad Intelectual) señala que el término “deepfake” se refiere a una técnica basada en la IA, que procesa imágenes y sonidos y que entraña la superposición de rasgos humanos en el cuerpo de otra persona -y/o la manipulación de sonidos- para generar una experiencia humana realista y como ejemplo refiere al actor Val Kilmer que perdió su característica voz en 2015 a causa de un cáncer de garganta, y la tecnología de ultrafalsos de Sonantic se utilizó recientemente para que Kilmer pudiera “hablar“.
Aunque los deepfakes son cada vez más sofisticados, hay pistas que puedes buscar para detectarlos, especialmente si no son de altísima calidad, por ejemplo, las inconsistencias visuales que puedes encontrarlos observando los bordes del rostro: a veces se ven borrosos o no encajan bien con el cuello o el fondo o en el parpadeo: los deepfakes más básicos pueden olvidar simular parpadeos naturales o exagerarlos.
Se pueden apreciar movimientos extraños en los labios o gestos faciales pueden no sincronizarse perfectamente con el audio, también los detalles en el fondo, también se pueden apreciar cambios raros en la iluminación o sombras que no coinciden con el movimiento de la persona, u objetos que se deforman o “tiemblan” ligeramente sin razón aparente, otra pista es el audio imperfecto, ya que la voz puede sonar artificial, con cambios de tono raros o pausas poco naturales, se puede escuchar si hay ruido de fondo inconsistente o cortes abruptos, obviamente si el contenido parece demasiado sorprendente o fuera de carácter para la persona (por ejemplo, un líder mundial diciendo algo absurdo), podría ser falso.
También es importante verifica la fuente: ¿viene de un medio confiable o de un lugar dudoso?, actualmente existe software en desarrollo para detectar deepfakes, como los que analizan patrones de píxeles o irregularidades que el ojo humano no capta, empresas como Deepware o Microsoft han lanzado herramientas experimentales para esto.
Hoy en día, la tecnología de deepfakes sigue avanzando, y los mejores son casi indetectables sin herramientas especializadas, sin embargo, los creadores también dejan huellas: errores humanos, prisas o falta de recursos, además, el uso de deepfakes para desinformación, fraudes o revenge porn ha llevado a que gobiernos y plataformas como X estén más atentos, implementando políticas y sistemas de detección.
Por todo lo ya referido, es importante saber que a la fecha en nuestro país no existe un término legal específico ni una ley exclusivamente dedicada a los deepfakes como tal, sin embargo, hay avances y propuestas en el marco legal que buscan proteger a las personas contra el uso indebido de esta tecnología, especialmente cuando afecta derechos como la privacidad, el honor o la intimidad.
Lo que se puede hacer en caso de que seamos afectados, en primera instancia, puede proceder una denuncia penal si somos víctimas de un deepfake que nos difame, acose o afecte la intimidad, se puede presentar una denuncia ante la Fiscalía General de la República o la fiscalía estatal, aludiendo violencia digital, daño moral o usurpación de identidad, también procede una acción civil que consiste en una demanda por daño moral ante un juez civil para buscar una indemnización, también se puede realizar un reporte en plataformas, muchas redes sociales, como X o YouTube, tienen políticas contra contenido falso o dañino. Se puede reportar el deepfake para que lo eliminen.
