Ética en el mundo virtual y la cuestión del «¿acaso importa?»

Por Colaborador Invitado, el 5 mayo, 2023. Categoría(s): Ciencia • Tecnología
Fotograma de la serie Westworld

Vivimos una época apasionante y nos daremos cuenta a poco que nos libremos de la niebla mediática que, en palabras de Edward R. Murrow, busca “entretenernos, distraernos y engañarnos”. Nunca antes había puesto la ciencia en nuestras manos semejante potencial para hacer o deshacer. Pero, como es bien sabido, todo gran poder conlleva una gran responsabilidad. Debemos tomar decisiones éticas.

Pongámonos en contexto; les supongo al tanto de la conmoción —muchos le dicen “revolución”— que han supuesto los recientes avances en IA conversacional. Las últimas innovaciones que el chatbot Chat GPT ha implementado le facultan para interactuar con los usuarios de forma muy similar a como lo haría un interlocutor humano. En su última versión, GPT-4, es capaz de recordar la información y las indicaciones que le hemos proporcionado anteriormente, lo que le permitiría, por ejemplo, desarrollar funciones de psico-terapeuta personal, en lo que sería una aplicación muy similar a la descrita por Frederic Pohl en su novela Pórtico (Gateway, 1976. Premios Hugo, Nébula, Locus).

Es cierto que mantiene algunas limitaciones significativas, como su dificultad para acceder a información sobre eventos posteriores a 2021, su tacto extremado a la hora de emitir evaluaciones que puedan considerarse ofensivas o, simple y llanamente, que a veces nos proporciona información errónea. Sin embargo, y en general, los textos que produce son de tal calidad que en ámbitos académicos está ocasionando auténticos quebraderos de cabeza a la hora de determinar si los escritos que los alumnos entregan son realmente suyos o han sido elaborados con GPT.

Con todo, lo verdaderamente significante es su rendimiento a la hora de conversar, porque el hecho de que interactúe verbalmente con nosotros de manera muy parecida a como lo haría nuestro vecino o alguno de nuestros familiares, es lo inquietante. Seguro que estarán ustedes pensando que no tardarían mucho en determinar si quien está al otro lado de la línea es realmente alguien a quien conocen bien y con quien mantienen una relación estrecha. Probablemente, ahora mismo, sí, pero dada la velocidad a la que ha empezado a evolucionar la IA, en unos años —muy pocos— tan solo será necesario alimentar al programa con la suficiente cantidad de producción verbal de una persona determinada, para sea capaz de reproducir los modismos y locuciones características que nos permiten identificarla. Y es que, nos guste o no, la imagen comunicativa que transmitimos está estrechamente vinculada a lo que decimos y es realmente fácil de codificar. Y, a partir de ahí, todo lo demás vendrá rodado. ¿El tono o inflexión de la voz? Actualmente, Microsoft solo necesita 3 segundos de grabación para imitarlo. Se acabó utilizar nuestra voz como pasword. ¿Nuestro aspecto físico? Se puede reproducir con tal fidelidad, que los actores ya han empezado a movilizarse para no quedarse sin trabajo.

Las posibilidades, una vez superados los casi anecdóticos problemas técnicos, son impresionantes, porque todo lo antedicho significa que dentro de muy poco —tal vez ahora mismo— estaremos en condiciones de crear réplicas virtuales de seres humanos, entidades que nos será muy difícil, si no imposible, distinguir de los humanos reales. Y, por supuesto, la clave de esta elaborada ilusión de consciencia radica en el uso excepcional que la IA hace del lenguaje. Es conversando cuando nos formamos una idea de cuán inteligente es nuestro interlocutor o, como en este caso, si dispone de facultades volitivas. Por supuesto es un criterio engañoso, pues no hay más que ver lo a menudo que nos encontramos con alguien que habla muy bien, pero que luego resulta ser un tonto de remate. Estas réplicas virtuales, tal vez no sean entidades conscientes (después de todo, ¿quién sabe en realidad qué es la consciencia?), pero gracias a su sofisticada producción verbal las imitarán con tanta perfección que si lo son o no se habrá vuelto irrelevante. Y ahí es donde empezarán los problemas.

En el primer capítulo de la primera temporada de la popular serie Westworld (HBO), uno de los visitantes, recién llegado al parque temático que lleva el nombre de la serie, le pregunta a la atractiva azafata que le recibe si ella es real y esta le contesta a su vez con otra pregunta que lo resume todo: “Si no eres capaz de notar la diferencia, ¿acaso importa?”. Las implicaciones de que respondamos una cosa u otra son tan enormes que producen un poco de vértigo. Veámoslas.

De entrada, nuestra primera intención es responder que “”, que importa, pues todos nos preciamos de ser auténticos y de valorar la cosa real. Tan pronto como sabemos que algo es una imitación, no importa lo perfecta que sea y el tiempo que nos haya tenido engañados, nuestro aprecio por esa cosa cae en picado. Por varias razones; por un lado el componente calculador que llevamos dentro sabe muy bien que el original siempre tiene mayor valor que la reproducción. Y, por otra parte, que en este caso es la más importante, una réplica de un ser humano carece de derechos, lo que abre todo un mundo de posibilidades. A lo largo de la historia, negar la consideración de “seres humanos”, de “personas”, a otros individuos nos ha permitido apropiárnoslos, esclavizarlos y usar de ellos a nuestro antojo. Deshumanizar al otro siempre ha sido muy conveniente a la hora de hacer negocios. Con las réplicas virtuales, al haber sido fabricadas por nosotros mismos, cualquier reparo ético parece evaporarse, pues es evidente que no son seres humanos reales, no importa lo perfecta de su apariencia. Pero, ¿es así? El dilema ya se planteó en su día con los videojuegos (y no llegó a ser resuelto satisfactoriamente), en los que los jugadores pueden, en teoría, hacer cuanto se les antoje a los personajes del otro lado de la pantalla. Quienes defienden la permisividad total insisten en que esas entidades no son reales y alegan que no hacen daño a nadie en el mundo físico. Pero claro, todo tiene un límite y hay algo perverso en el acto de causar sufrimiento a una reproducción de un ser humano, y más aún si esta reacciona con una imitación creíble del dolor.

En realidad, a lo largo de la historia los filósofos se han enfrentado a situaciones muy semejantes. Por ejemplo, tanto en el pensamiento budista (Mara) como en el hinduismo (Maya) nada de cuanto nos rodea es real, nada tiene sustancia, todo es una ilusión. Sin embargo, eso no significa que podamos, o debamos, actuar de forma egoísta; es posible que el sufrimiento, en el mundo en que vivimos, no sea real, pero desde luego es una no-realidad muy convincente y eso es lo que cuenta. Ilusión o mundo virtual; si nuestros actos provocan sufrimiento, son reprobables.

Hasta ahora el debate se había circunscrito a videojuegos, en los que era evidente que se trataba de entidades virtuales, con muy escasa capacidad de reacción ante nuestros actos. Sin embargo, y como decíamos más arriba, es cuestión de tiempo que tengamos que relacionarnos con asistentes virtuales, imitaciones de seres humanos con reacciones emocionales creíbles, y habrá que decidir cómo los tratamos. Entre tanto la sociedad y sus leyes no se posicionen, seremos nosotros quienes tengamos que elegir. Los dilemas éticos siempre han sido terreno pantanoso, por así decirlo, pero en lo relativo a las réplicas virtuales de seres humanos, tendremos que abrir el debate, antes o después. Al fin y al cabo, debemos asumir nuestra responsabilidad sobre aquello que nosotros mismos creamos.

*******

Este artículo nos lo envía Juan F. Trillo, Filólogo, lingüista y escritor decidido a hacer buen uso de las apasionantes posibilidades narrativas que ofrece el mundo científico.