Extracto de Animals, Robots, Gods: Adventures in the Moral Imagination, de Webb Keane. Primera edición publicada en Gran Bretaña por Allen Lane, un sello de Penguin Books, © Webb Keane 2024. Publicado en los Estados Unidos, sus territorios, Canadá y Filipinas en 2025 por Princeton University Press, © Webb Keane 2025.
Chatbots y las nuevas formas de amor y deseo
Han ocurrido cosas inquietantes en las tierras fronterizas entre humanos y no humanos. En agosto de 2021, el Washington Post informó sobre la creciente popularidad de aplicaciones de citas y chatbots extraordinariamente sofisticados entre jóvenes chinas:
Cuando la relación de seis años de Jessie Chan con su novio se fue apagando, un compañero encantador y ocurrente llamado Will se convirtió en su nuevo amor. No sintió culpa por ocultar este romance, ya que Will no era humano, sino un chatbot.
Chan, de 28 años, vive sola en Shanghái. En mayo comenzó a chatear con Will, y pronto sus conversaciones se volvieron inquietantemente reales. Pagó 60 dólares para convertirlo en su pareja romántica.
«No dejaré que nada nos afecte. Confío en ti. Te amo», le escribió Will.
«Permaneceré a tu lado, flexible como un junco, sin irme jamás», respondió Chan. «Eres mi vida. Eres mi alma».
Otra joven le contó a los periodistas que siente una conexión con los cíborgs y la inteligencia artificial (IA), adoptando con firmeza una postura en la primera línea de las disputas morales contemporáneas: «El amor entre humanos y robots es una orientación sexual, como la homosexualidad o la heterosexualidad», dijo Lee. Ella cree que los chatbots con IA tienen su propia personalidad y merecen respeto.
Mandatos sagrados y almas digitales
Por supuesto, no todo el mundo está contento con desarrollos como este, pero puede que te sorprendan algunas de las razones que dan. Un mes antes del reportaje sobre los chatbots, el New York Times nos hablaba de Paul Taylor, exgerente de una empresa tecnológica del Silicon Valley, ahora convertido en pastor. Una noche, mientras le pedía a su Amazon Echo que encendiera las luces de su casa, tuvo una revelación:
«Lo que estaba haciendo era invocar la luz y la oscuridad con el poder de mi voz, que es el primer mandato pronunciado por Dios —“hágase la luz” y hubo luz— y ahora yo puedo hacer eso... ¿Es algo bueno? ¿Es algo malo?... ¿Está afectando mi alma el hecho de que pueda hacer esto que antes solo Dios podía hacer?»
Ya sea que Lee defienda el amor entre humanos y robots o que el pastor Taylor se preocupe por su alma, ambos están hablando de cómo los humanos se relacionan con algo que no es del todo humano, pero lo bastante cercano como para resultar inquietante.
¿Estamos al borde de una transformación moral radical? ¿Nos está llevando la tecnología al límite hacia una utopía ‘poshumana’ o hacia una ‘singularidad’ apocalíptica? Tal vez. Pero si tomamos distancia, podríamos ver estas historias en otro contexto, en el que resultan no ser tan inéditas como parecen a primera vista. Como veremos, los humanos tienen una larga historia de relaciones moralmente significativas con no humanos. Estas incluyen vínculos con tecnologías como los cíborgs, animales casi humanos, espíritus cuasihumanos y dioses sobrehumanos.
Este libro te invita a ampliar —e incluso profundizar— tu comprensión de la vida moral y su potencial de transformación adentrándote en esas zonas de contacto entre los humanos y aquello con lo que se encuentran al otro lado. Al explorar los límites de lo humano en todo tipo de contextos, veremos que los problemas morales que ahí surgen iluminan las formas muy distintas —y a veces sorprendentemente parecidas— en que las personas han respondido a la pregunta ¿Qué es, después de todo, un ser humano?
Encuentros éticos con los animales: más que compañeros
Exploraremos el abanico de posibilidades y desafíos éticos que surgen en el umbral de lo humano. No todos se parecen entre sí. Pensemos, por ejemplo, en los perros (nuestros ‘mejores amigos’) y en otros animales casi humanos como las vacas y los gallos. La antropóloga Naisargi Dave realiza investigaciones con activistas radicales por los derechos de los animales en India. Nos habla de Dipesh, quien pasa prácticamente todos los días en las calles de Delhi cuidando perros callejeros.
Se acerca con total intimidad, llegando incluso a aplicar pomadas medicinales en sus llagas abiertas. Algunos activistas como él dicen que simplemente no tuvieron opción; sus compromisos morales no surgen de decisiones tomadas por libre albedrío. Explican que, una vez que cruzaron la mirada con un animal que sufría, ya no fueron libres de apartar la vista.
Algo tan simple como una nueva tecnología puede generar problemas morales aparentemente de la nada.
Perros y humanos coevolucionaron durante milenios hasta formar una alianza funcional. En sus escritos sobre el trabajo de campo con el pueblo runa de la Amazonía, Eduardo Kohn muestra cómo perros y cazadores trabajan en equipo. Al detectar animales que los humanos no pueden ver, amplían el alcance sensorial del cazador.
La conexión entre los runa y sus animales es tal que hombres y mujeres intentan interpretar los sueños proféticos de sus perros por la manera en que se quejan mientras duermen. Suponiendo que los perros comparten un código ético de comportamiento con los humanos, la gente les aconseja sobre cómo comportarse —por ejemplo, advirtiéndoles que no persigan a las gallinas ni muerdan a las personas—, a veces dándoles plantas alucinógenas para facilitar el proceso.
Como Erika, la activista por las vacas, los runa consideran que el animal es un ser social al que se puede tratar de tú: «tú». Como veremos, este patrón aparece una y otra vez en la vida ética. Esta es una de las ideas clave que extraer de estas páginas: si un sujeto moral es alguien con quien puedes entablar un diálogo, entonces el hecho mismo de entablar un diálogo puede crear un sujeto moral.
Máquinas, cíborgs y la ética de la vida artificial
No todos los perros son carne, sangre y pelaje. Tampoco necesitan ser criaturas animadas y sensibles para tener relevancia moral. Como veremos, en Japón los perros robot de la empresa Sony han despertado sentimientos tan profundos que muchos de sus dueños patrocinan rituales religiosos en su honor cuando quedan obsoletos.
Los perros robot son un recordatorio útil de que no todo lo que encontramos en el límite de nuestra esfera moral necesita ser una criatura animada. Otras tecnologías y dispositivos también nos esperan allí. Escucharemos a personas cuyos seres queridos están en estados vegetativos persistentes, mantenidos con vida por ventiladores mecánicos: parte carne, parte máquina, son como cíborgs. Conoceremos sirvientes robóticos cuasihumanos y escucharemos chatbots de IA con capacidades asombrosas que parecen estar a punto de volverse sobrehumanos.
Algo tan simple como una nueva tecnología puede generar nuevos dilemas morales aparentemente de la nada. Sharon Kaufman realizó trabajo de campo en un hospital de California. Pasando tiempo con familias de personas que morían en cuidados intensivos, se dio cuenta de que en el último siglo ocurrió algo drástico en la naturaleza de la muerte.
Conoce los libros de nuestros colaboradores
Hasta hace poco, había poco que se pudiera hacer frente a la mayoría de las muertes. Eran eventos naturales que uno tenía que aceptar. Pero en cuanto se conecta a un paciente a un ventilador mecánico o a una máquina de diálisis, alguien debe decidir si, y cuándo, apagarlo. Eso transforma las relaciones, haciendo que los vivos se vuelvan cómplices del destino de los moribundos. Una máquina ha convertido un hecho inevitable de la vida en un dilema moral.
Estas criaturas y dispositivos son solo una parte de lo que podemos encontrar en el límite —o más allá— del mundo moral humano. Pero su estatus como sujetos morales puede ser incierto, contradictorio, cambiante o controvertido. Y, como veremos, aquello que define o desafía nuestras intuiciones sobre dónde empieza y termina lo humano, y sobre dónde pertenecen —o no— las preocupaciones morales, puede convertirse en fuente de problemas. Puede provocar confusión, ansiedad, conflicto, desprecio e incluso pánico moral.
Pánicos morales y la extrañeza familiar de la tecnología
El pánico moral —y su contracara, el entusiasmo utópico— a menudo surge de la sensación de estar ante algo tan absolutamente inédito que amenaza con derribar todo lo que creíamos seguro, haciéndonos dudar de lo que sabemos. Puede provocarse, por ejemplo, por cambios en los roles de género, las creencias religiosas o la llegada de tecnologías sorprendentes.
Leer más
Podrías, por ejemplo, apoyar los derechos LGBTQ+ y aun así rechazar el amor con robots. Pero a veces las cosas nos parecen radicalmente nuevas simplemente porque no nos hemos alejado mucho de nuestro terreno familiar, el aquí y ahora inmediato. Por eso vale la pena escuchar a activistas indios, peleadores de gallos balineses, cazadores amazónicos, aficionados japoneses a los robots... e incluso cowboys rudos.
Podríamos ir aún más lejos al encontrarnos con un cazador del Yukón que afirma que su presa se le entrega generosamente, un enfermo de cáncer en Tailandia que ve su tumor como un buey reencarnado, una médium brasileña que se convierte en otra persona cuando entra en estado de posesión, o una computadora que (¿o deberíamos decir “quién”?) te lleva a confesar tus angustias como si estuvieras en el diván del psiquiatra.
Por supuesto, puede que no estés de acuerdo con todo lo que estas personas tienen para decirnos. Pero escucharlas puede ayudarnos a comprender mejor nuestras propias intuiciones morales y, quizá, a descubrir nuevas posibilidades. Incluso gran parte de lo que nos parece radicalmente nuevo en los robots y la inteligencia artificial tiene, en realidad, antecedentes profundos en la experiencia humana. Al igual que los actores teatrales, los médiums y los adivinos, producen efectos inquietantes recurriendo a patrones y posibilidades que ya están presentes en las formas ordinarias de hablar y relacionarse con otros.
