- Urge fomentar la regulación y ética: UPAEP
Clase Turista
Las personas deben estar mejor informadas ante la implementación de la Inteligencia Artificial (IA) en la creación de deepfakes, fenómeno que ha ganado notoriedad en redes sociales y televisión.
Los deepfakes, derivados del término «fake» y del aprendizaje profundo conocido como Deep Learning, utilizan algoritmos basados en redes neuronales generativas adversariales. Este tipo de tecnología ha evolucionado a partir de las fake news, siendo en el 2017 cuando captó la atención del público, gracias a la difusión de material pornográfico falso con rostros de celebridades, explicó Lorna Verónica Rosas Téllez, profesora de la Facultad de Tecnologías de Información y Ciencias de Datos de la UPAEP.
La especialista señaló dos categorías principales de deepfakes: los «big boys«, enfocados en generar audios falsos para simular declaraciones inexistentes, y los «deepface«, centrados en manipular imágenes para crear videos con información falsa. Uno de los primeros delitos cibernéticos notorios, en 2019, involucró el uso de «big boys» para convencer a ejecutivos de transferir dinero mediante la simulación de llamadas.
Rosas Téllez alertó sobre el potencial destructivo de esta tecnología, destacando que el 96% de los 15 mil videos de deepfakes encontrados por la firma de Inteligencia Artificial deep trace en 2019 estaban relacionados con pornografía. Sin embargo, también resaltó usos positivos en entretenimiento, como la recreación de Salvador Dalí en un museo.
Aunque la IA deepfake puede tener aplicaciones benéficas, Rosas Téllez subrayó preocupaciones éticas y legales, como la difusión de información falsa y el consentimiento en su uso. Además, advirtió sobre el aumento de fraudes, manipulación financiera y la importancia de la alfabetización digital para detectar y prevenir la propagación de deepfakes.
Dijo que la implementación de la IA deepfake plantea desafíos y oportunidades. Mientras se exploran regulaciones y se promueve la alfabetización digital, la tecnología ofrece posibilidades creativas, pero también requiere una gestión responsable para evitar consecuencias negativas en la sociedad.
Por su parte, Yareli Elizeth Delgado Bacilio, estudiante destacada de la Facultad de Tecnologías de Información y Ciencias de Datos del Decanato de Ingenierías de la UPAEP, ahondó en la técnica detrás de la creación de deepfakes, específicamente explorando las redes adversarias generativas.
Explicó que estas redes, también conocidas como GANs (Generative Adversarial Networks), fueron creadas en 2014 por Ian Goodfellow y sus colegas de la Universidad de Montreal. Las GANs utilizan dos redes, una generadora y otra discriminadora, para manipular fotos, imágenes, videos y audio, en un constante juego de evolución.
Delgado Bacilio detalló el proceso de entrenamiento de estas redes, que comienza con la creación de una base de datos con imágenes reales. La red generadora intenta engañar a la red discriminadora para que clasifique la imagen generada como real. Este ciclo se repite hasta que se logra engañar a la red discriminadora.
Lo más interesante de estas redes es que ambas evolucionan continuamente; la generadora busca mejorar en el arte de engañar, mientras que la discriminadora busca mejorar en la detección de imágenes falsas. Este constante enfrentamiento entre ambas crea deepfakes cada vez más convincentes.
Delgado Bacilio señaló que, aunque la creación de deepfakes puede parecer compleja, existen plataformas y software en línea que permiten a los usuarios inyectar imágenes y generar deepfakes sin necesidad de conocimientos avanzados en programación. Esto plantea preocupaciones sobre la accesibilidad y la posibilidad de que cualquier persona, sin experiencia profesional, pueda manipular imágenes y videos de manera inapropiada.
La estudiante también destacó que hay medidas para detectar deepfakes, como software especializado que se entrena para identificar movimientos de ojos, sincronización con el audio, movimiento de labios y otros detalles que podrían revelar la falsedad de un video. Estas herramientas representan un esfuerzo para combatir la propagación de noticias falsas y desinformación.
Delgado Bacilio enfatizó que la detección y prevención de deepfakes es un área de oportunidad para aquellos interesados en carreras relacionadas con la tecnología. Además, instó a los jóvenes a no temer a los avances tecnológicos, sino más bien a abrazarlos y contribuir al desarrollo ético y responsable de la inteligencia artificial.
Mientras que Laura Morfiss Gómez, estudiante de la Facultad de Tecnologías de Información y Ciencias de Datos de la UPAEP, Habló sobre la regulación y ética en la implementación de la IA Deepfake, resaltando la importancia de ser éticos y responsables en el desarrollo tecnológico.
Morffis Gómez manifestó la existencia de normas y estándares a nivel mundial, como la norma ISO 23001, ISO 27001 e ISO 30000, que regulan la seguridad informática. No obstante, indicó que cada país o región tiene sus propias leyes para abordar este fenómeno. En México, citó la Ley Federal de Protección de Datos Personales en Posesión de Particulares, que establece reglas para la recopilación y tratamiento de datos personales.
También mencionó la limitación de la legislación actual en términos de derechos de autor, señalando que estas leyes protegen solo lo creado por humanos y no abordan de manera específica los contenidos generados por IA. En este sentido, resaltó la necesidad de implementar nuevas leyes que regulen y favorezcan las generaciones de información a través de la inteligencia artificial.
Laura Morffis hizo hincapié en la falta de regulación específica para la generación de deepfakes con fines ilícitos, como la pornografía generada artificialmente. Explicó que las leyes existentes se enfocan mayormente en proteger a personas vulnerables, pero no abordan de manera exhaustiva la protección de adultos frente a este tipo de contenidos.
Morffis Gómez dirigió un mensaje a los usuarios de redes sociales y televisión, instándolos a ser éticos con la tecnología. Resaltó que, si bien la tecnología ha contribuido en diversos campos como la medicina y el campo aeroespacial, por mencionar, es crucial utilizarla de manera ética para avanzar y no retroceder en el desarrollo tecnológico.
En este contexto, subrayó la importancia de fomentar un uso responsable de la tecnología y promover prácticas éticas en la creación y difusión de información, especialmente en un mundo donde la IA Deepfake plantea desafíos éticos y legales.
