El nuevo invento de Amazon podría permitirle “hablar” con los muertos, pero ¿debería hacerlo?
Amazon, Microsoft y otros gigantes tecnológicos se están acercando a la inmortalidad digital.
29 de julio de 2022
Sofia Quaglia
El día 2 de su conferencia de inteligencia artificial de 2022, entre la revelación de un robot doméstico impulsado por Alexa llamado Astro y una presentación del director de la Iniciativa de Exploración Espacial del MIT, Amazon reveló algo extraño.
“¿Puede la abuela terminar de leerme El mago de Oz?” pregunta un niño cuando la demostración técnica comienza a reproducirse. “Está bien”, responde Alexa con su típica voz alegre y artificial. Luego, un segundo después, una voz diferente emerge de la máquina, esta suena mucho más humana. Pero no lo es. Es una réplica generada por IA de la abuela muerta del niño.
Hablando en el escenario, el vicepresidente senior de Amazon y científico principal de Alexa Rohit Prasad explicó que la voz se generó utilizando “menos de un minuto de grabación” de la voz real de la abuela. La implicación es obvia.
“Estos atributos se han vuelto más importantes en estos tiempos de pandemia en curso, cuando muchos de nosotros hemos perdido a alguien que amamos”, dijo Prasad. “Si bien la IA no puede eliminar el dolor de la pérdida, definitivamente puede hacer que sus recuerdos perduren”.
Por ahora, esto es solo una demostración técnica. Poco más se sabe sobre el proyecto, excepto por el hecho de que los ingenieros de Alexa lo lograron tratando esto como una “tarea de conversión de voz y no como una tarea de generación de voz”. Amazon se negó a comentar sobre las preguntas sobre cómo funciona la función, cuándo se implementará o quién tendrá acceso a ella.
“Sin duda, estamos viviendo en la era dorada de la IA, donde nuestros sueños y la ciencia ficción se están convirtiendo en realidad”, dijo Prasad en la conferencia. Pero, ¿esa tecnología realmente mejorará nuestras vidas, o conducirá a nuevas pesadillas?
“¿QUÉ PUEDE SALIR MAL?”
¿Su Amazon Echo eventualmente podrá replicar la voz de sus parientes muertos? Washington Post/Washington Post/Getty Images
Maura Grossman, profesora de investigación en la Facultad de Ciencias de la Computación de la Universidad de Waterloo y experta en ética de la IA, ve tanto el potencial bueno como el malo.
“Puedes ver el riesgo de falsificaciones profundas, alguien tomando tu voz, y de repente me estás diciendo que transfiera dinero de tu cuenta o lo que sea”, le dice a Inverse. “Así que creo que hay que preguntarse: ‘¿Qué podría salir bien con esto y, la pregunta más importante, qué podría salir mal con esta tecnología?’”.
Sin embargo, también existe la posibilidad para el bien. Grossman tiene una querida amiga cuyo esposo falleció y que acude a un médium para conectarse con él. Si bien Grossman originalmente estaba asustada y preocupada de que su amiga fuera defraudada o sufriera algún trauma psicológico, la médium terminó ayudándola a procesar la pérdida.
“¿Era tan malo visitar a una médium cada dos semanas y conversar con su difunto esposo?” pregunta Grossman. “Por un lado, es una distorsión de la realidad. Por otro lado, la ayudó a superar esto”.
No todo el mundo puede permitirse visitar a un psíquico (o cree en el concepto en primer lugar), pero una IA capaz de imitar a la perfección a un ser querido muerto podría proporcionar una experiencia similar para cualquier persona que lucha con la pérdida de un ser querido.
A Angela Sheldon, una mujer de sesenta y dos años del norte de Virginia, le encantaría usar a Alexa para conversar con su madre fallecida, con quien trata de hablar ahora todos los días de todos modos. “Tal como está ahora, no obtengo respuesta”, le dice Sheldon a Inverse. “Entonces, incluso si solo escuchara ‘Sí, entiendo’… probablemente sería feliz”.
Pero la emoción no es tan abundante en todos los ámbitos. Para muchos, este invento se siente como algo sacado de la antología de ciencia ficción distópica de Netflix, Black Mirror. En el episodio de la temporada 2, “Be Right Back”, una mujer interpretada por Hayley Atwell paga a una empresa para crear una réplica de IA de su novio muerto (cuerpo real y todo). Al principio, parece una copia perfecta, pero ella se frustra cada vez más por las pequeñas diferencias y finalmente termina encerrándolo en el ático.
“SÍ, ES PERTURBADOR”
Desde la invención de las computadoras, la inmortalidad digital ha intrigado a los humanos y, a medida que la IA avanza, el concepto de repente parece estar a nuestro alcance. Grossman me señala la historia de un hombre que graba la historia de su padre moribundo para recrearlo usando IA mediante la creación de un “Dadbot”.
Del mismo modo, la periodista convertida en empresaria tecnológica Eugenia Kuyda usó una red neuronal de Google para desarrollar Luka, un bot que extrajo imágenes, textos y audio de un amigo que había muerto trágicamente en un accidente automovilístico para recrear una versión de él con el que ella podría llorar. Este proyecto personal se convirtió en una aplicación llamada Replika, en la que cualquiera puede ingresar información personal para recrear a alguien como un “amigo virtual de IA”. Como regalo de cumpleaños, Kanye West le consiguió a Kim Kardashian una visita de su difunto padre a través de un holograma parlante.
En 2020, a Microsoft se le otorgó una patente para crear un sistema similar utilizando imágenes, datos de voz, publicaciones en redes sociales, mensajes electrónicos y cartas escritas para crear un chatbot que pueda actuar en la voz de alguien, replicando cómo se comportaría. La patente dice: La persona específica puede corresponder a una entidad pasada o presente (o una versión de la misma), como un amigo, un pariente, un conocido, una celebridad, un personaje ficticio, una figura histórica, una entidad aleatoria, etc. también menciona el uso de modelos 2D o 3D para hacer que estos bots cobren vida.
Sin embargo, parece que Microsoft en realidad no tiene ningún plan para seguir adelante con este proyecto. Después de que la patente fuera noticia en 2021, Tim O’Brien, Defensor ético de la IA en Microsoft, publicó en Twitter que se presentó en 2017, lo que significa que “es anterior a las revisiones de ética de la IA que hacemos hoy”. Agregó, “y sí, es inquietante”.
Angeliki Kerasidou, profesora asociada del Centro Ethox de la Universidad de Oxford, señala otro problema simple con el uso de IA para reemplazar a personas individuales.
“Una persona no deja de crecer”, dice. “El bot siempre será estático, incluso si puedes aprender de las interacciones. No estamos hablando de algún tipo de súper inteligencia aquí. Así que podríamos ser capaces de reproducir ciertas acciones activas, pero no creo que podamos reproducir a la persona en sí misma”.
https://www.inverse.com/innovation/amazon-alex-ai-dead-relatives-chat-bot
Tech companies still think Black Mirror is a blueprint, not a cautionary tale. https://t.co/IyPG8anLuf
— Surveillance Killjoy (@hypervisible) January 22, 2021