¿Puede ser libre una máquina computacional?

Por Colaborador Invitado, el 10 enero, 2018. Categoría(s): Divulgación • Tecnología

A muchas personas, incluyendo científicos destacados, les parece prácticamente inevitable que el progreso de la inteligencia artificial desemboque algún día en la fabricación de robots libres. La literatura y el cine de ciencia ficción están repletos de historias en las que el robot se rebela contra su creador, recogiendo por otra parte un mito que se remonta a la antigüedad. Los ejemplos son innumerables, y más en tiempos recientes, pero el paradigma sería la película Blade Runner, de Ridley Scott (1984), con su secuela Blade Runner 2049 (Denis Villeneuve, 2017). Ahora bien, ¿puede ser verdaderamente libre un robot? Responder a esta pregunta es especialmente interesante si la respuesta nos ayuda a entender mejor no solo qué es un robot, en tanto que máquina computacional, sino sobre todo en qué consiste la libertad. Empecemos por clarificar los términos de la cuestión.

Qué es una máquina computacional

Generalmente se entiende que un robot es un dispositivo mecánico que está controlado por un programa de ordenador, o un conjunto de programas. El aspecto físico es secundario: el robot puede parecerse o no a un ser humano (se suele hablar de androide masculino o ginoide femenina), pero también puede ser simplemente un brazo mecánico, o un electrodoméstico de cocina (por ejemplo, una máquina programable para hacer pan casero); incluso puede ser un robot “virtual” que habita en la red. También es secundario el hecho de que el robot esté hecho de materiales inorgánicos, materiales orgánicos, o una mezcla de ambos. Lo esencial es que un robot está controlado por un programa que corre en un ordenador; es decir, el robot es una máquina algorítmica o computacional. Se diferencia de otras máquinas (como un motor de combustión interna, un telescopio o una antigua radio de transistores) en que su funcionamiento está codificado en un programa que es relativamente fácil de cambiar, sobre todo si lo comparamos con aquellas máquinas cuyo funcionamiento es invariable.

¿Y qué es un programa? Un programa, o mejor, un algoritmo, es en pocas palabras un procedimiento “mecánico” (es decir, basado en reglas obedecidas ciegamente) que obtiene un determinado resultado en un número finito de pasos. Es como una receta de cocina, pero en la cual todos los pasos están perfectamente detallados y no se deja nada a la interpretación del cocinero. Aunque entre los científicos de la computación no se ha alcanzado un consenso universal sobre la definición de algoritmo, sí se admite que un elemento esencial de la definición es que todo algoritmo debe tener un objetivo bien definido [1]. Un programa no se limita a hacer cosas, sino que las hace con un determinado propósito.

Al igual que cualquier otra máquina, un robot (que es una máquina computacional) se define principalmente por su propósito, es decir, la tarea que debe cumplir y para la cual ha sido diseñado. En realidad, rara vez una máquina computacional tiene un único propósito: más bien, lo habitual es que tenga varias tareas que cumplir. Por ejemplo, un sistema domótico puede encargarse de controlar la temperatura, humedad e iluminación de una vivienda, así como advertir de posibles situaciones de emergencia (intrusiones, fuego, etc.). Pero todas estas tareas pueden englobarse bajo un único propósito global: mantener el confort y seguridad de los ocupantes de la vivienda.

La esencia del robot y de cualquier máquina es, por tanto, obedecer a su propósito, el fin con el que ha sido diseñado. Es más, conocer el propósito de un robot es lo que permite decir si funciona bien o mal: si no sé para qué ha sido diseñado, no puedo someterlo a control de calidad. Y es un propósito que el robot no se ha dado a sí mismo, sino que se lo han impuesto desde fuera. Un robot algorítmico no puede cuestionarse su finalidad, porque dejaría de ser un robot, una máquina.

Supongamos un robot que juega al ajedrez contra un humano con el objetivo de ganar la partida. Los programas de ajedrez que se encuentran hoy día en cualquier ordenador doméstico derrotan con facilidad a la mayoría de los jugadores humanos. Un jugador artificial de ajedrez un poco diferente podría autolimitarse en su efectividad con el fin de configurar distintos niveles de dificultad, de modo que el jugador humano siga disfrutando con el juego y no tire la toalla demasiado pronto. Estos dos programas de ajedrez tienen dos objetivos bastante diferentes: ganar el juego, o hacer que el jugador humano juegue cada vez mejor y disfrute con el proceso de aprendizaje. En ambos casos el robot tiene un propósito predeterminado que lo define. Lo que no esperamos de un robot del primer tipo, diseñado para ganar, es que decida perder… Puede no lograr su objetivo, pero no puede cambiarlo. En cierto modo, el robot es un esclavo inteligente de su finalidad.

Por supuesto, puede haber diferentes niveles de selección de objetivos. Existen algoritmos que pueden cambiar y priorizar dinámicamente sus objetivos, es decir, son capaces de realizar algún tipo de meta-razonamiento en relación con los objetivos que tienen que alcanzar. Sin embargo, esos algoritmos de selección dinámica de objetivos no se autoanalizan ni propiamente se autorreprograman: lo único que hacen es obedecer objetivos de orden superior para seleccionar los subobjetivos convenientes. No pueden dejar de comportarse como algoritmos de selección de objetivos. Siguen siendo esclavos inteligentes…

El mismo Alan Turing reconocía que esta falta de libertad es esencial para definir una máquina computacional, o máquina algorítmica: “Un hombre provisto de papel, lápiz y goma de borrar, y sujeto a disciplina estricta, es en efecto una máquina universal” [2], es decir, una máquina computacional, un robot. Es de notar que sucedió exactamente de esta manera en la organización interna de los grupos de trabajo de Bletchley Park establecidos por Turing para descifrar los códigos alemanes durante la Segunda Guerra Mundial [3]. Estar “sujeto a una disciplina estricta” significa no cuestionar en absoluto las reglas y propósitos del cálculo o computación que se está llevando a cabo.

¿Qué es ser libre?

La mayoría de la gente asume, sin gran reflexión de por medio, que los seres humanos somos libres, es decir, que somos responsables de nuestras decisiones. Y somos responsables, precisamente, porque podemos decidir actuar de una manera u otra; en otras palabras, no estamos completamente determinados por los estímulos que recibimos de nuestro entorno, ni por nuestra educación, ni por nuestra genética. Sin duda todos estos factores nos condicionan, imponen límites a nuestra libertad, pero no determinan completamente nuestra respuesta. El peor ataque que puede sufrir mi libertad no es que me encierren en una prisión o me tapen la boca, sino que supriman mi voluntad (mi libertad interior, mi capacidad de decidir) mediante un concienzudo lavado de cerebro, usando propaganda, drogas, o lo que sea.

No faltan, sin embargo, quienes niegan que la libertad sea una característica humana real. El argumento suele ser que, puesto que somos seres materiales, estamos sometidos a las leyes deterministas de la materia, luego no somos libres. Desde esta perspectiva mecanicista, el comportamiento de todos los seres vivos, incluyendo a los humanos, se explicaría mediante las leyes de la naturaleza y el procesamiento de información en el cerebro, de modo análogo a lo que ocurre en un ordenador: el comportamiento está completamente determinado por los estímulos recibidos y su correspondiente procesamiento neurológico, conforme a programas más o menos complejos de origen biológico o cultural.

Así pues, ya sea para afirmar que somos libres, o para negarlo, podemos asumir que ser libre implica no estar completamente determinado por algo exterior a uno mismo. Pero hay varias formas de no estar determinado. La primera y más evidente es estar in-determinado, lo que significa añadir incertidumbre al comportamiento resultante. Se puede añadir un factor de aleatoriedad en la toma de decisiones (tirar una moneda al aire para elegir si tomo helado de chocolate o de vainilla), o puede ocurrir que por la propia incertidumbre física el comportamiento no se ejecute exactamente como se había ordenado. No obstante, el indeterminismo apenas añade nada a la situación anterior. No nos engañemos, la mecánica cuántica no es el ansiado refugio de la libertad. Desde ambas perspectivas, determinismo e indeterminismo, la libertad es una ilusión del cerebro, es decir, no es algo real que pueda influir en el comportamiento humano.

Ser verdaderamente libre, en un humano o en un robot, implica por tanto la posibilidad de autodeterminación, es decir, ser dueño de las propias acciones, y por tanto responsable. Esta autodeterminación puede todavía darse de dos modos distintos.

  • Autodeterminación hacia un objetivo. En esta versión, el individuo libre persigue un cierto objetivo, y puede elegir entre diferentes comportamientos para lograrlo. Pero el objetivo, como tal, está dado. Aquí hay una afirmación bastante modesta de la libertad, que consiste solo en la posibilidad de elegir entre varios medios para alcanzar un fin dado y, como mucho, la posibilidad de aceptar o rechazar ese fin.
  • Autodeterminación del objetivo. En esta versión, mucho más radical, el individuo libre no solo se determina a sí mismo hacia un objetivo, sino que también determina por sí mismo el objetivo: el objetivo no está dado, hay que inventarlo. Por así decirlo, el ser libre no solo tiene un destino, sino que también se forja su propio destino. No solo elige cómo convertirse en algo, sino también en qué quiere convertirse. Parafraseando a nuestro autor universal, “Yo sé quién soy, y sé quién puedo llegar a ser” [4]. Y esto es precisamente lo que hace que sea tan difícil tomar ciertas decisiones.

 

La autodeterminación de Don Quijote
La autodeterminación de Don Quijote

Así entendida, la autodeterminación plantea dos difíciles problemas que no vamos a resolver aquí. El primero, de carácter metafísico, es el problema mente-cuerpo, es decir, la relación entre lo inmaterial y lo material (en cualquier caso, el dualismo cartesiano no es una solución válida, puesto que un ente inmaterial no puede interaccionar con un ente material; la relación mente-cuerpo debe ser de un tipo radicalmente diferente a la interacción que se da entre los cuerpos materiales). El segundo es el problema moral de la arbitrariedad en la elección autodeterminada de los fines: ¿Importa si uno elige este o aquel fin para su vida? ¿Hay ciertos fines mejores que otros?

Entonces, ¿puede ser libre una máquina computacional?

Con lo que llevamos dicho la respuesta es inmediata. Ser libre es, de modo radical, tener la facultad de autodeterminación, es decir, la capacidad de proponerse uno mismo sus propios planes, objetivos y metas. Puesto que una máquina computacional tiene un objetivo que no se ha dado a sí misma y que no puede cuestionar… no hace falta decir más: una máquina computacional no puede ser libre, porque el concepto de libertad es contradictorio con el concepto de máquina computacional o algorítmica, y con el concepto más general de máquina. Para ser libre tendría que dejar de ser una máquina y adquirir autoconciencia, algo a lo que la ciencia ficción nos tiene muy acostumbrados, pero no por eso es necesariamente factible. Obviamente, esos robots que desobedecen las órdenes de sus dueños no hacen más que obedecer, en un nivel más profundo, a sus programadores. La autodeterminación, por su misma definición, queda fuera del paradigma computacional clásico, es decir, de la concepción clásica de máquina algorítmica: la libertad no es una función computable.

Esto no es una dificultad tecnológica de hoy día que será superada con el tiempo, es una dificultad conceptual para cualquier máquina de cualquier tiempo, porque lo esencial de una máquina no es estar hecha de engranajes y circuitos eléctricos, sino haber sido diseñada con una determinada finalidad, a la que tiene que obedecer forzosamente. Una máquina no puede decidir qué objetivos quiere perseguir, porque dejaría de ser una máquina. Que es precisamente lo que les pasa a los robots que se hacen humanos en la ciencia ficción: los replicantes de Blade Runner ya no son robots, son humanos, aunque sea en una forma de humanidad que nos desconcierta y no sabemos precisar bien.

El replicante Roy Batty en Blade Runner
El replicante Roy Batty en Blade Runner

Atención, no estoy diciendo que sea imposible fabricar seres inteligentes y libres, tan solo que, si algún día lo logramos, no serán propiamente “máquinas computacionales”. Quizás en un futuro indeterminado seamos capaces de producir en el laboratorio un tipo de robots no algorítmicos (no dirigidos hacia un fin dado) que propiamente puedan ser calificados como autoconscientes, capaces de hacer “lo que les dé la gana”, de proponerse sus propios objetivos; pero seguramente no sería adecuado seguir llamándolos robots. Serían “humanos” en el sentido de autodeterminados, verdaderamente libres, aunque quizás su estructura física (¿biológica?) fuera muy diferente a la nuestra. Pero, ¿de qué serviría esto? ¿Para qué fabricar máquinas que no harán lo que queremos, sino lo que les dé la gana? ¿En qué sentido puede decirse que siguen siendo máquinas?

En cierto sentido, la reproducción humana ya trae al mundo seres libres y autodeterminados, sin objetivos predefinidos. Una autodeterminación que a veces resulta incordiante (que se lo pregunten a todos los padres y madres con hijos adolescentes), y que demasiado a menudo tratamos de sustituir por un comportamiento “programado”. Y esto puede ocurrir en todos los niveles educativos, desde los niños pequeños hasta los estudiantes universitarios [5]. Lamentablemente, la tentación de sustituir el proceso educativo por un proceso de robotización es grande, especialmente en el caso de los gobernantes totalitarios, para quienes la autodeterminación ya no es solo molesta, sino simplemente inaceptable.

Autodeterminación, un poco incordiante
Autodeterminación, un poco incordiante

¿La razón es la esclava de las pasiones?

Soy consciente de que no he demostrado que los seres humanos son verdaderamente libres, en el sentido de autodeterminados. Tan solo he demostrado que una máquina computacional o algorítmica no puede ser libre; por tanto, si los humanos son libres, entonces no pueden ser robots, máquinas algorítmicas. Es decir, la inteligencia libre (que no se ocupa sólo de resolver problemas, sino también de elegir los problemas que quiere resolver) no puede ser definida como un proceso algorítmico, y el comportamiento genuinamente libre no puede ser completamente emulado por robots (otra cosa es el comportamiento típico de una gran masa de gente, que sí es susceptible de análisis estadístico, precisamente porque deja de considerarse la individualidad).

El filósofo escocés David Hume (1711-1776) escribió que “la razón es la esclava de las pasiones”, es decir, está al servicio de unos objetivos predeterminados que no puede cuestionar (entiéndase “pasión” en un sentido general, no solo relativo a lo placentero: pasión por la música, por las matemáticas, por la justicia…). Una concepción que, curisosamente, anticipa el concepto moderno de robot [6]. Si resulta difícil aceptar que un robot no puede ser libre –como imagino que les ocurrirá a algunos, o quizá muchos, lectores– quizás sea porque la concepción humeana de la naturaleza humana ha calado profundamente en nuestra mentalidad occidental. Si para nosotros, en el siglo XXI, es tentador considerarnos complicados robots biológicos, es solo porque previamente hemos aceptado el paradigma de la razón como esclava de las pasiones, una razón que no goza de la auténtica libertad que he expuesto aquí. Estamos tentados de creer que somos robots, porque primero hemos aceptado que la razón no escoge ni prioriza sus objetivos, sino que está al servicio de un objetivo último no racional, que en definitiva no es otro que la supervivencia de la especie.

El antiguo fatalismo griego pretendía que el destino humano estaba controlado por los dioses del Olimpo. Esta tendencia resurge hoy día, atribuyendo el control a los genes: somos, en el fondo, esclavos de nuestra programación biológica. Contra esta tendencia fatalista se rebela la afirmación radical (y quijotesca) de la libertad humana, la afirmación de que lo característico de los seres humanos es que nos proponemos nuestros propios fines, decidimos lo que queremos ser. Considero que esta capacidad de autoproponerse los fines es lo más característico de la diferencia entre humanos y máquinas. Son precisamente los que no se atreven a afirmar radicalmente la libertad los que más fácilmente caerán en la tentación de considerar que los humanos no son en último término otra cosa que complicados robots biológicos.

 

Este artículo nos lo envía Gonzalo Génova, profesor de la Universidad Carlos III de Madrid. Aparte de mis clases de informática, también imparto cursos de humanidades en los que trato temas de filosofía de la tecnología y pensamiento crítico.

NOTAS

[1] Hill, R.K. (2015). What an algorithm is. Philosophy & Technology 29(1): 35–59. DOI: 10.1007/s13347-014-0184-5.

[2] Turing, A.M. (1948). Intelligent Machinery. National Physical Laboratory Report. In Meltzer, B., Michie, D. (eds), Machine Intelligence 5. Edinburgh: Edinburgh University Press, 1969. Digital facsimile viewable at http://www.AlanTuring.net/intelligent_machinery.

[3] Hinsley, F. H., Stripp, A., eds. (1993). Codebreakers: The inside story of Bletchley Park. Oxford: Oxford University Press. ISBN 978-0-19-280132-6.

[4] “Yo sé quién soy —respondió don Quijote—, y sé que puedo ser, no solo los que he dicho, sino todos los Doce Pares de Francia, y aun todos los nueve de la Fama, pues a todas las hazañas que ellos todos juntos y cada uno por sí hicieron se aventajarán las mías”. Miguel de Cervantes, El ingenioso hidalgo Don Quijote de la Mancha (1605), Parte I, Capítulo V. Curiosamente, el otro genio universal dice algo muy parecido, que solo a primera vista es contradictorio: “Sabemos lo que somos, pero no lo que podemos ser”. William Shakespeare, Hamlet (1600), Acto cuarto, Escena V (Ofelia a Claudio). Ambos autores ponen de manifiesto la apertura de la naturaleza humana a una plenitud que no está prefijada.

[5] Gonzalo Génova, M. Rosario González. Educational Encounters of the Third Kind. Science and Engineering Ethics 23(6):1791-1800, December 2017.

[6] Gonzalo Génova, Ignacio Quintanilla Navarro. Are Human Beings Humean Robots? Journal of Experimental & Theoretical Artificial Intelligence 30(1):177–186, January 2018.