Lo que la historia de la “fotografía espiritual” presagia para el futuro de los videos deepfake
Los videos engañosos de hoy pueden ser francamente desagradables. Pero los creadores de imágenes han engañado a los espectadores desde el principio.
Diciembre de 2021
Clive Thompson
Ilustración de Kotryna Zukauskaite
Hace dos años, Noelle Martin descubrió que alguien había hecho un video “deepfake” sobre ella. Martin es una licenciada en derecho australiano de 26 años que ha presionado a gobiernos y corporaciones para que tomen medidas contra el acoso en línea de mujeres. Ahora, alguien en Internet había decidido atacarla a través de una técnica que usa inteligencia artificial para cambiar la cara de una persona por el cuerpo de otra.
Los expertos que estudian este fenómeno han descubierto que más del 90 por ciento de los videos deepfake involucran rostros intercambiados en escenas pornográficas; la gran mayoría son mujeres, la mayoría de las veces celebridades, pero también políticos, activistas o mujeres no famosas. Eso es lo que alguien había hecho con Martin. El video, pensó, era un intento de hacer que detuviera su trabajo de defensa avergonzándola. “Fue absolutamente armado”, me dijo recientemente. Cuando vio el video que circulaba en línea, sintió una punzada de furia: “La audacia de esta gente de hacerme eso”, dijo. Tampoco pudo evitar preguntarse: ¿las personas que lo vieron realmente creerían que era ella?
Los videos de deepfake presentan una nueva fase inquietante en la evolución de los medios. Manipular videos solía ser tremendamente costoso, la provincia de los maestros de efectos especiales. Pero la nueva tecnología de inteligencia artificial lo ha hecho mucho más fácil. De hecho, una pieza de software de uso común para hacerlo, que utiliza una forma de inteligencia artificial de “aprendizaje profundo”, de ahí el “Deep” de deepfakes, se lanzó de forma anónima en línea de forma gratuita en 2018.
En diciembre de 2020, Sensity, una empresa de detección de fraudes, encontró 85,047 videos deepfake circulando en línea, un número que se había duplicado aproximadamente cada seis meses; ahora es probable que existan cientos de miles. Algunos son inofensivos: la cara de Nicolas Cage cambió a escenas de películas en las que no estaba, digamos. Pero “la mayoría de los deepfakes creados por expertos son maliciosos”, dice Giorgio Patrini, CEO de Sensity.
A muchos observadores les preocupa que los deepfakes puedan convertirse en una gran amenaza en la política, utilizados para humillar a figuras políticas y defensores como Martin o incluso hacer que parezcan decir cosas que nunca dijeron. “Lo que podría hacer para la diplomacia y la democracia: estamos conteniendo la respiración”, dice Danielle Citron, profesora de derecho en la Facultad de Derecho de la Universidad de Virginia. Es un momento inquietante, donde nuestra capacidad para discernir lo que es real se siente nuevamente en peligro.
De hecho, estas ansiedades se hacen eco de los primeros días de la fotografía. Entonces, como ahora, a través de falsificaciones de vanguardia, se falsificaron figuras públicas importantes y surgieron preguntas sobre si una nueva tecnología poderosa hacía imposible confiar en lo que veía.
En cierto sentido, la manipulación de fotografías comenzó tan pronto como lo hizo la fotografía. Las primeras tecnologías de captura de imágenes eran toscas: las imágenes no tenían color y las velocidades de obturación lentas borraban los detalles, de modo que los cielos, por ejemplo, parecían “espantosos, sin vida”, se quejó un fotógrafo.
Así que los fotógrafos desde el principio trabajaron duro para alterar las imágenes. Pintarían sobre colores o mejorarían los detalles dibujando en una imagen con tinta y pintura. Rápidamente dieron con la técnica de los compuestos: para crear hermosos paisajes marinos, el fotógrafo francés Gustave Le Gray tomaría fotos de océanos barridos por las olas y empalmaría en fotos separadas de nubes, incluso reutilizando las mismas nubes en diferentes fotos. En 1857, el fotógrafo George Washington Wilson creó falsas fotos grupales de la alta sociedad tomando fotos individuales de sujetos, recortando sus imágenes y reuniéndolas en una multitud, luego fotografiando el collage resultante.
Los espectadores fueron engañados. “Tuve numerosas preguntas sobre cuándo y dónde se habían reunido y fotografiado a todas estas personas”, dijo el galerista de Wilson.
Los fotógrafos encontraron emocionantes las manipulaciones, una nueva técnica artística. “Creo que eran como cualquiera que experimentara con un arte nuevo; hay una cierta cantidad de simplemente, ¿no es genial que podamos hacer esto?” dice Peter Manseau, curador de historia religiosa estadounidense en el Museo Nacional de Historia Estadounidense y experto en manipulación fotográfica temprana.
Las firmas de retratos comerciales emplearon a legiones de mujeres como artistas de retoques, suavizando arrugas y remodelando rasgos en los precursores del siglo XIX a los filtros de Instagram. “A cualquiera que ingrese a un estudio de retratos probablemente le pregunten: ‘¿Le gustaría que le retoquemos esto y, ya sabe, que le hagamos la nariz más pequeña?’”, dice Mia Fineman, curadora de fotografía en el Museo Metropolitano de Arte. en la ciudad de Nueva York y autora de Faking It: Manipulated Photography Before Photoshop.
La falsificación pronto entró en la política, ya que los fotógrafos intentaron generar imágenes patrióticas o conmovedoras. Para crear una “foto” de Ulysses S. Grant con sus tropas, el fotógrafo Levin Corbin Handy pegó la cabeza de Grant en el cuerpo de otro hombre y luego pegó esa composición en una imagen de prisioneros de guerra confederados. Incluso hubo parodias parecidas a memes. Cuando corrieron rumores falsos de que el presidente confederado Jefferson Davis había intentado escapar de la captura en 1865 vistiendo enaguas de mujer, los fotógrafos produjeron alegremente fotografías compuestas que pegaron su cabeza a la imagen de una mujer.
Jefferson Davis con ropa de mujer en una falsificación de los hermanos George y William Slee. Cortesía de ICP
¿Sabía el público que estas imágenes eran falsas? Los historiadores no están seguros. Incluso si lo supieran, no está claro que les importara. La fotografía aún no se veía como un verdadero documento de la realidad. “No se entendía que una imagen debería ser objetiva”, dice Manseau.
Pero la manipulación de fotografías provocó un debate particularmente candente en un campo: la “fotografía de espíritus”.
En medio del movimiento espiritista después de la Guerra Civil, muchos estadounidenses en duelo se convencieron de que podían comunicarse con sus seres queridos fallecidos. Llevaban a cabo sesiones espiritistas, instando a los muertos a golpear las mesas o hablarles a través de médiums. Los fotógrafos afirmaron que podían captar imágenes de los muertos. En los Estados Unidos, el deepfaker espiritualista más famoso fue William Mumler de Boston, quien en 1862 comenzó a crear imágenes que parecían mostrar sujetos humanos vivos acompañados de fantasmas translúcidos. Muchos de los sujetos de Mumler proclamaron con entusiasmo que había fotografiado a uno de sus parientes muertos. “Qué alegría para el corazón atribulado”, como escribió Mumler en un folleto promocional, “saber que nuestros amigos que han fallecido pueden regresar”.
Una imagen de 1902 del general Ulysses Grant hecha a partir de tres fotografías. Biblioteca del Congreso
Pero el debate se enfureció. Los fotógrafos escépticos sospechaban que las imágenes de Mumler eran meras exposiciones dobles: dos negativos expuestos en una sola hoja de fotos, con el “fantasma” expuesto sólo parcialmente, para que fuera traslúcido. Sin embargo, cuando algunos escépticos lo acompañaron al cuarto oscuro, no pudieron deducir cómo lo estaba logrando. Aun así, en 1869, el alguacil de la ciudad de Nueva York acusó a Mumler de fraude después de que un periodista presentara una denuncia en el Ayuntamiento, y el juicio que siguió llegó a titulares explosivos: “La ciencia del mundo contra la teoría espiritista”, proclamó el New York Herald. La ciudad incluso trajo al showman P. T. Barnum para que testificara contra Mumler; Barnum mostró a la corte una fotografía de un espíritu falso que él mismo había montado, para demostrar con qué facilidad se podía hacer tal falsificación. Aún así, después de más de un mes de juicio, el juez dejó en libertad a Mumler, diciendo que la fiscalía no había probado que “el prisionero haya practicado trucos y engaños”.
La foto de Mumler de Mary Todd Lincoln con el “fantasma” de su marido. Cortesía del programa de contenido abierto de Getty
Manseau, quien escribió The Apparitionists, un libro de 2017 sobre el juicio de Mumler, no puede estar seguro de cuántas personas creían que las fotos de espíritus eran reales. Él cree que muchos se los tomaron en serio, pero no literalmente: las fotos dieron consuelo, y eso fue suficiente. Después del juicio, Mumler todavía tomó alguna que otra fotografía espiritual. Su más famosa fue una de Mary Todd Lincoln junto a una imagen traslúcida de su marido asesinado.
“Fue un verdadero consuelo para ella tener esta imagen”, señala Manseau, aunque no está claro si Mary Todd realmente creía que era el fantasma de Lincoln.
Arthur Conan Doyle, el famoso creador de Sherlock Holmes, se convirtió en un seguidor de la fotografía de espíritus, a pesar de haber hecho su fortuna escribiendo cuentos sobre deducciones empíricas despiadadas. En 1920, fue engañado por un par de chicas en Cottingley, Inglaterra, que falsificaron un conjunto de cinco fotos que pretendían mostrar hadas retozando. Conan Doyle publicó las imágenes en la revista Strand, y en un libro de 1921, The Coming of the Fairies, se entusiasmó con las imágenes: “Qué alegría hay en el completo abandono de sus pequeñas y gráciles figuras”.
1/5
La primera de las cinco fotografías de las hadas de Cottingley, tomada por Elsie Wright en 1917, muestra a Frances Griffiths con las supuestas hadas. Wiki Commons
Aún así, el público se estaba familiarizando con los trucos de la fotografía compuesta. “Pobre Sherlock Holmes, ¿desesperadamente loco?” publicó un titular de 1922 sobre Conan Doyle. “Lo pusieron en la picota, y eso no ayudó a su carrera”, dice Andrew Lycett, autor de El hombre que creó a Sherlock Holmes. “Pero a él realmente no le importaba”. El autor se fue a la tumba creyendo que esas fotos de hadas y espíritus eran reales.
¿Cuántos de nosotros seremos engañados hoy de la misma manera por los videos deepfake?
Por un lado, dicen los expertos, es posible que nos engañen con menos facilidad porque somos más conocedores de la manipulación de imágenes, y usamos regularmente aplicaciones de teléfonos inteligentes y computadoras para modificar nuestras propias imágenes y videos. Pero los video deepfakes siguen siendo novedosos y aún no hemos aprendido a saber si se ha cambiado una cara.
Para proteger a los blanco de los deepfakes hostiles (de nuevo, por ahora, en su mayoría mujeres), los juristas como Mary Anne Franks de la Universidad de Miami están proponiendo leyes para criminalizar las “falsificaciones digitales” o deepfakes que parecerían auténticos a una persona razonable. Los usos no malévolos, como la sátira o la comedia, seguirían siendo legales, dice Franks.
Concedido, agrega, tales leyes contra las falsificaciones son solo “una herramienta contundente”. De hecho, las personas que hacen deepfakes pornográficos a menudo no intentan engañar a nadie. Muchos se deleitan abiertamente con el hecho de que están usando una falsificación para humillar a una celebridad femenina.
Los deepfakes aún no son comunes en la política, posiblemente porque todavía requieren más habilidad técnica de la que suelen poseer los comerciantes de información política errónea. Pero en tres a cinco años, dice Hany Farid, experto en imágenes digitales de la Universidad de California en Berkeley, podrá crear deepfakes realistas en su iPhone; los rudimentarios ya son posibles.
Los deepfakes también pueden convertirse en un nuevo lienzo para los artistas. Stephanie Lepp, una videoartista, creó recientemente “Deep Reckonings”: videos sorprendentemente realistas de figuras públicas que lamentan sus acciones, incluido un Mark Zuckerberg increíblemente creíble que se disculpa por la supuesta promoción de Facebook de “propagandistas odiosos” y “violencia étnica”. Cuando Lepp los publicó, marcó explícitamente los videos como deepfakes, pero los espectadores dijeron que aún era estimulante ver a estas figuras luchar con su impacto público, aunque fuera de manera ficticia.
Para Lepp, los deepfakes son una herramienta para ayudar a imaginar un mundo diferente y mejor. Pueden evocar “ese camino hacia el futuro al que aspiramos”, me dice. A veces, solo una falsificación puede expresar nuestros verdaderos deseos.
Faking It
Una historia recortada de engaños visuales por Ted Scheinman
Drowned Sorrow
(Wiki Commons) Hippolyte Bayard afirmó haber inventado la fotografía, pero después de que su compatriota francés Louis Daguerre consiguiera una patente, en 1839, Bayard mostró su angustia al poner en escena la primera fotografía falsa conocida: el cuerpo de Bayard, supuestamente después de su suicidio por ahogamiento. De hecho, vivió hasta 1887.
Hot Air
(Cortesía de Nobel Numismatics PTYL LT) En 1933, Betty Archer convenció al editor inglés William Heinemann de que publicara un libro de fotografías notables supuestamente tomadas por su esposo durante la Primera Guerra Mundial, y ganó 20,000 dólares. No fue hasta 1984 cuando los archiveros del Smithsonian descubrieron que el esposo de Archer, un ex piloto de la Fuerza Aérea de los EE. UU. que hacía accesorios y decorados para películas, había organizado la acción usando modelos de aviones.
Feature Creature
(Wiki Commons) Esta “evidencia” ampliamente distribuida de 1934 del monstruo del lago Ness fue creada como una broma de Robert Kenneth Wilson y sus amigos durante un viaje de pesca en Escocia. En 1975, el hijo de uno de los conspiradores admitió que la fotografía no era más que un juguete a la deriva en el agua.
Ghost in the Machine
(Wiki Commons) Hubert Provand afirmó en 1936 haber fotografiado a “la Brown Lady”, un espíritu que se dice que acecha a Raynham Hall en Norfolk, Inglaterra. Muchos espectadores lo vieron como una prueba de que los fantasmas son reales. En 1984, se reveló como una mera composición de dos fotografías.