Mentira profunda

Todos nos hemos topado más de alguna vez con noticias, imágenes o videos falsos, que mientras circularon como verdaderos causaron miedos, escándalos sociales y políticos, destruyeron familias y reputaciones, o influyeron significativamente en el resultado de elecciones supuestamente democráticas.

Es tal la cantidad de fotografías, videos y noticias falsas que circulan que cuesta trabajo saber qué es cierto y qué no lo es.

Y para complicar aún más las cosas, ha surgido ahora una nueva tecnología llamada "Deepfake", capaz de distorsionar la realidad a niveles nunca antes vistos.

Este término se ha traducido al español como "Ultrafalso", sin embargo y para explicar mejor el concepto, yo le llamaría "Mentira profunda".

Deepfake puede definirse como "la habilidad de la inteligencia artificial para fabricar videos aparentemente reales que muestran personas haciendo y diciendo cosas que nunca hicieron o dijeron". Personas reales en eventos irreales.

Estas tecnologías normalmente nacen en el mundo de la investigación y encuentran luego aplicaciones prácticas, con fines nobles o meramente lúdicos, como cuando en el cine se hacen escenas con actores que ya fallecieron, o para la recreación de personajes de la vida real, históricos o imaginarios que hablan, leen historias o dan clases como si estuvieran presentes o vivos.

Para comprender mejor lo que Deepfake es, les recomiendo ver la TED conference (https://youtu.be/o2DDU4g0PRo) que explica el origen y funcionamiento de esta tecnología.

Lo preocupante del Deepfake, lo Ultrafalso, o las Mentiras Profundas, como quieran llamarle, son las implicaciones y graves perjuicios que pueden causar a las vidas personales y a la vida política de una sociedad. Ejemplo de ello son los videos Deepfake que se han hecho con falsificaciones pornográficas de celebridades, o la producción de declaraciones o entrevistas falsas.

Por ello el Gobierno británico y el Congreso de Estados Unidos han comenzado a ver la manera de regular esta tecnología.

Pensar que en México podamos tener en el futuro cercano una legislación al respecto es iluso, particularmente por el desprecio e ignorancia que el Gobierno actual ha mostrado hacia todo lo que tiene que ver con la ciencia y el conocimiento. Seguramente tienen otros datos y otros algoritmos para eliminar la posibilidad de que los mexicanos seamos víctimas de mentiras profundas.

Sitios de Internet como "ThisPersonDoesNotExist.com", cuyo solo título es suficiente para poner los pelos de punta, muestran cómo utilizando algoritmos especiales llamados "Generative Adversarial Networks" (GANs), la inteligencia artificial es capaz de hacernos creer cualquier cosa.

Otro sitio denominado ThisArticleDoesNotExist.com, utilizando tecnología para modelos de lenguaje, toma cada 30 minutos los encabezados de las noticias de última hora y crea artículos noticiosos sin intervención humana.

Sandra Wachter, profesora de leyes y ética de inteligencia artificial del Instituto de Internet de Oxford, apunta que la preocupación por el Deepfake radica no en la proliferación de videos y noticias falsas, lo cual no es nada nuevo, sino en la velocidad y el nivel de sofisticación con la que información falsa puede crearse y difundirse y la incapacidad de la sociedad para analizarla y discriminarla.

En el pasado podíamos propagar mentiras, pero nuestro alcance era limitado.

Antes había chismes y rumores, hoy hay imágenes "ultrafalsas" que siembran mentiras profundas.Antes bastaba ver para creer, hoy ya no podemos afirmar que algo es cierto porque lo vimos fotografiado o grabado en un video.

Para tranquilidad de todos, es necesario mencionar que al tiempo que aparece la tecnología de Deepfake, en paralelo se está desarrollando tecnología para detectar qué es real y qué es falso.

Mientras eso ocurre, la desconfiada frase atribuida a Santo Tomás de "ver para creer" tenemos que cambiarla por "investigar para creer", y de esa manera filtrar todo lo que perciben nuestros sentidos y finalmente comprender a fondo el universo de Platón, quien afirmaba que las cosas que vemos son sólo una representación de la realidad, pero no la realidad misma (Mito de la Caverna).