infoLibre
Las imágenes sintéticas alteran nuestra percepción de la realidad . Los periódicos publican fotos de hospitales bombardeados sin tiempo de verificar su origen. Los jefes de Estado comparten escenas de arrestos que no han tenido lugar. La propaganda se mezcla con el fotorreportaje en redes sociales administradas por algoritmos optimizados para amplificar el impacto, favoreciendo lo emocionante por encima de lo real. Hasta el jefe de Instagram admite que no podemos creer nada de lo que vemos. La sensación es de colapso: si todo es mentira, todo es verdad . Todo se desmorona, como en el poema que escribió Auden en 1919: “ El centro no se sostiene (…) los mejores carecen de toda convicción y los peores están llenos de pasión intensa ”. ¿Hay esperanza de certeza después del túnel o seremos arrollados por el tren de la inteligencia artificial? Los humanos somos criaturas del mundo. Estamos como dice Heidegger in-der-Welt-sein , en el mundo mismo, atrapados en él. Vemos y percibimos el universo sentados en una de sus ramas, y el mundo se revela desde nuestra perspectiva, un punto de vista que es único porque es el nuestro , necesariamente subjetivo y por lo tanto ideológico. Pero tenemos la certeza de que fuera de nosotros hay algo llamado realidad que, como dice Philip K. Dick, es aquello que no desaparece cuando dejamos de creer en ella, y tampoco desaparece cuando dejamos de existir. Para eso inventamos el lenguaje; para nombrar esto y aquello y estar seguros de que hablamos de las mismas cosas y, uniendo nuestras diferentes perspectivas, reconstruir la realidad. Pero el lenguaje es una herramienta imperfecta. Nuestra percepción interna, un proceso de interpretación que depende de nuestras células y sensores, pero también nuestros recuerdos y el estado de nuestra población intestinal es tan inestable que ni siquiera vemos los colores de la misma forma. Hasta Terence Tao, el matemático más importante de nuestro tiempo, suspendía exámenes por describir el mundo de la forma que consideramos intuitiva. “Me pidieron escribir sobre mi casa y no supe qué querían decir así que hice una lista de las habitaciones y de todos los muebles que había en cada una”. Por eso inventamos objetos técnicos capaces de describir el mundo desde fuera de nuestra subjetividad. Entre ellos, la fotografía ocupa un lugar único. Tenemos relojes para medir el tiempo porque sabemos que es relativo. Una hora puede ser un suspiro o una eternidad dependiendo de cómo y con quién estamos. Tenemos termómetros para detectar la fiebre con independencia de nuestra propia temperatura corporal. Usamos metros para que un cuarto tenga las mismas dimensiones para los muy altos como para los bajitos. Sabemos que vivimos en mundos diferentes pero compartimos una realidad, con la sagrada convicción de que los ojos no mienten. Que nuestra retina registra lo que sucede realmente, aunque luego no acertemos a describirlo exactamente y la fotografía es la prueba literal de algo que pasó “de verdad” . Una imagen vale más que mil palabras Hasta hace poco, la foto era una prueba literal de la realidad retratada. La luz rebota sobre la superficie del mundo y la imagen reflejada entra por el ojo de la cámara, y se quema sobre un material sensible, dejando una copia exacta de sí misma que amplificamos al imprimir sobre un papel. Por eso la sentimos más “objetiva” que una descripción verbal o un registro sonoro. Que los ojos no mienten es una convicción que comparten todas las culturas. Que las palabras engañan, también. Por supuesto que la fotografía puede ser artística y reflejar emociones pero en general pensamos que hacer bien una foto es captar de forma literal lo que captura el ojo, antes de ser procesado por nuestro cuerpo, produciendo subjetividad. Que la cámara no interpreta el mundo, sólo lo registra. Es plateada y exacta, como dice el poema de Sylvia Plath, y no tiene prejuicios. Todo lo que veo me lo trago inmediatamente tal como es, sin empañarlo de amor ni rechazo. No soy cruel, solo soy veraz, el ojo de un pequeño dios. Como consecuencia de su objetividad irreprochable, adquiere más autoridad como memoria que la nuestra, tan imperfecta. Guardamos fotos, películas y otras pruebas forenses de la realidad en archivos, museos y bibliotecas como una memoria expandida y colectiva de lo que realmente pasó. Naturalmente que la ilusión es inestable. Como explica Sontag en su famoso ensayo sobre la fotografía, las imágenes fotográficas también son una manera de organizar, seleccionar y dar sentido a esa realidad. La prueba más sangrante está en los archivos coloniales y la imposibilidad de reconstruir la historia de los que fueron conquistados, silenciados y, a menudo, exterminados. Pero, si incluso esa legitimidad está siendo destruida por las imágenes generadas por IA, es porque la traición había empezado mucho antes. La cámara digital no era una simple continuación de la anterior, sino que reemplaza el instrumento fotográfico por un sistema que interpreta la luz interpolando datos . Los algoritmos no son testigos de un hecho sino que proyectan una nueva subjetividad. Corregir la Luna En algún momento de 2022, Samsung decidió corregir la Luna . El fabricante de móviles coreano observó que es prácticamente imposible capturar una noche de luna sin acabar con una mancha borrosa porque es una forma retroiluminada rodeada de oscuridad. Demasiado contraste. Entonces integró un programa dentro del software de la cámara que detectaba la Luna y, comparándola con una base de datos de imágenes de lunas, interpoló la mancha con un compuesto de detalles lunares apropiados, como cráteres y texturas, generando una luna perfecta en alta resolución. Samsung aseguró que era la misma luna, pero optimizada con una “mejora computacional basada en múltiples exposiciones y aprendizaje”. Es seguro que se parecía más a la que quería retratar el fotógrafo. En ese sentido, se acercaba más a la realidad. Pero a los usuarios no les gustó nada porque, al alterar sus fotos, Samsung estaba manipulando la realidad. La luna que habían retratado, aunque borrosa e imperfecta, era la suya, y había sido alterada sin permiso por el fabricante. Me gusta esta anécdota aparentemente banal porque es la prueba de un cambio, no de tecnología sino de paradigma: la cámara es un instrumento que refleja los movimientos del fotógrafo. Podemos aprender a manejarla porque es predecible. La cámara digital es un sistema que parece una cámara, pero que proyecta una interpretación del mundo que es dictado desde el servidor de una empresa, por un software que cambia su comportamiento de forma invisible para el usuario. Ya no es un reflejo fiable, pero seguimos sacando fotos y pensando que sí lo es. La fotografía digital manipula la realidad sin que nos demos cuenta . Cada vez que Samsung –o Apple– actualiza su software , la lente fotográfica altera su proyección de la realidad. Si la cámara digital manipula la imagen que entra por la lente antes de que se registre en el servidor, la IA se desvincula completamente de la realidad. Es como el ángel de la historia de Walter Benjamin, que sólo puede mirar el mundo hacia atrás. Contempla una única y gigantesca realidad que acumula dato sobre dato, y con ellos construye una realidad convincente que nos arrastra. Como explica astutamente Carissa Veliz en su último libro, esa proyección estadística de una realidad probable funciona como una forma moderna de adivinación. El contenido sintético es una profecía que borra la distancia entre pasado y futuro para organizar el presente, alterando nuestra visión. No hace falta que sea inteligente. Si un algoritmo calcula que alguien tiene “alto riesgo” de impago, probablemente no reciba el préstamo y su riesgo de impago se convierte en realidad. Por la misma lógica, borra la distancia entre lo imaginado y lo sucedido. Si calcula que un candidato a un trasplante es susceptible de morir en el quirófano, probablemente no reciba el órgano y muera, ratificando la tesis de que estaba demasiado débil para sobrevivir al quirófano, sin que podamos saber realmente si el resultado de su cálculo estaba bien. Desde un punto de vista filosófico, la inestabilidad de la realidad podría ser un problema fundacional de nuestro siglo . Tenemos ansia de certeza, pero, cuanto más sabemos, más tiembla el universo bajo nuestros pies. “El principal acontecimiento de la era moderna es la conquista del mundo como una imagen”, dice Heidegger en 1938. Está señalando una alteración profunda de la realidad. El cambio de siglo ha sido un momento de enorme efervescencia científica, con la física liderando un cambio de perspectiva fundacional. Gracias al conocimiento derivado de los instrumentos técnicos, vemos por primera vez el mundo como un objeto que podemos conocer, calcular, medir y predecir . Su perspectiva es positiva. En Un verdor terrible , el autor chileno Benjamín Labatut lo describe como una catástrofe existencial: “el momento en el que dejamos de comprender el mundo”, porque la profundidad y el alcance de la ciencia, derivado de los objetos técnicos, nos ofrece una explicación del mundo muy diferente a nuestra experiencia de la realidad. El universo percibido de los objetos y fenómenos visibles es una tapadera para un universo de partículas subatómicas que no se rigen por las leyes de la física, pero que rigen sobre todo lo que hay. Nos pareció ver el mundo desde lo alto de una rama, pero la física cuántica nos devolvió a la cueva. La realidad se expande y se esponja como los pulmones metálicos de un acordeón. Tenemos más datos que nunca, pero naufragamos en la desinformación . Quizá porque los datos no nos sirven. “Tenemos acceso a más información que cualquier otro ser humano en la historia de la humanidad y la usamos para pelear con desconocidos en pequeños rectángulos luminosos propiedad de multimillonarios calvos, que descubrieron que podían monetizar la miseria humana, la vanidad y la inestabilidad emocional –dijo recientemente la activista ambiental australiana Natalie Kyriacou–. Teníamos datos científicos sólidos y los usamos para formar teorías de conspiración, negar el cambio climático y perfeccionar técnicas de cirugía estética. Construimos un sistema económico que prosperó gracias a los derrames de petróleo, la guerra, el cáncer, la adicción a las drogas, el juego, las adicciones y las crisis de salud mental, pero no tuvimos en cuenta la salud humana o ambiental”. Las instituciones que se dedican a verificar los acontecimientos del mundo desarrollan protocolos forenses para determinar el origen de las imágenes, para seguir componiendo una visión objetiva del mundo. Creando nuevos protocolos y consorcios de verificación, fabricantes, programadores e instituciones colaboran en la creación de sellos, marcas de agua y algoritmos que registran el historial de cambios que sufre una imagen en cadenas de blockchain . Son soluciones técnicas pensadas para mantener una ilusión de certeza del mundo, sin alterar su enfermedad: no somos criaturas racionales que viven de acuerdo con la realidad del mundo. Colaboramos voluntariamente con la manipulación. Un ejemplo fácil. El software que corrige la luna en los móviles de Samsung es idéntico al algoritmo que suaviza nuestras ojeras y nos hace más atractivos en los selfis, y que funciona en todos los teléfonos modernos, sin permiso y sin agitación. Sin embargo, no sentimos que nuestra imagen haya sido manipulada, sino que ha habido un proceso de selección genética. Que, de todas las partículas de luz que han reflejado nuestro rostro, la cámara ha elegido simplemente la mejor versión. Eso es porque la imagen propia es parte de la proyección del ego, y el ego es un gran manipulador de realidad. Por eso somos tan vulnerables a la propaganda sintética: cuando niega nuestra percepción del mundo es propaganda. Cuando la confirma, es la verdad . *Marta Peirano es periodista especializada en relaciones entre poder y tecnología informática. Su último ensayo es ‘Contra el futuro. Resistencia ciudadana frente al feudalismo climático’ (Debate, 2022).
Go to News Site
