Verdad y deseo

Querido/a cibernauta:

Estate atento, porque la realidad que te rodea o, más bien, la idea de verdad que asocias a esa realidad, se está derrumbando. Vengo a advertirte del deepfake, tecnología que en un futuro se nutrirá de la evolución en la producción de imágenes y sonidos mediante inteligencia artificial (IA), de los contenidos publicados en redes sociales y plataformas digitales, de grandes bases de datos (big data), de la memoria audiovisual colectiva y de la arquitectura sociomediática de la posverdad.

De manera simplificada, el deepfake es un producto de la IA que aplica el deep learning para crear redes neuronales profundas capaces de generar de manera artificial y automática contenidos audiovisuales hiperrealistas que el ojo humano no es capaz de identificar como falsos. Dentro de unos años, será Ian Goodfollow el que hará posible esta tecnología gracias a las redes generativas antagónicas (GAN). Para que una red neuronal sea capaz de generar una imagen hiperrealista, no solo tiene que analizar millones de imágenes, sino que también tiene que saber si lo que ha creado está bien o no. Por ello, Goodfollow propondrá las GAN, donde hay dos redes, una generadora y otra discriminadora, que entablan una competencia. Dicha competencia hace que las redes neuronales mejoren sus tareas hasta que, por fin, una consiga engañar a la otra.

En una entrevista con la MIT Technology Review, Goodfollow admite que no habrá solución técnica al problema de la autenticación, sino que será un requisito social educar y concientizar a la población sobre los peligros de esta tecnología y la posibilidad de que las imágenes que observamos pueden o no ser reales. Es aquí, querido/a cibernauta, donde se encuentra el debate. Los deepfake harán que muchas mujeres sean protagonistas de escenas pornográficas en las que no han participado, que un político en Nueva Delhi envíe su campaña electoral por whatsapp hablando en idiomas que no conoce y que podamos ver a Cristina Kirchner como una Drag Queen de Rupaul. De todos estos acontecimientos, lo único que podemos extraer es que habrá una crisis en torno al contrato verificador que mantenemos con las imágenes como forma de conocimiento.

Hoy parece que la imagen es la única forma de verificar una correspondencia con lo real. La cámara, aunque atravesada por la percepción de quien la sostiene, no deja de grabar algo que es real y tangible. Pero el hiperrealismo de las imágenes artificiales que pronto crearán los deepfake debilitará el acceso a la realidad y disipará la formación de un mínimo consenso intersubjetivo sobre el mundo, que estará orientado hacia la producción‐satisfacción de un deseo.

Toda representación es, en sí misma, una manipulación, en tanto que filtrada por la percepción. Dicha representación mantiene la creencia en una materia prima (realidad) que puede ser capturada en una imagen (verdad). La aparición de representaciones, en cuya producción ya no está involucrada la realidad (deepfake), contribuye al desplazamiento de los conceptos de realidad y verdad asociados a la imagen. Esto hará que poco a poco la sociedad vincule la consolidación de la verdad a sus propios marcos emocionales, pues todo, a partir del deepfake, podrá ser verosímil. Así pues, la verdad se convierte en una correspondencia entre la representación y el deseo. Será verdad lo que, al verlo, se corresponda con lo que yo quiero ver. Nos creemos lo que deseamos creer. Por lo tanto, la clave está en conocer y controlar lo que deseamos.