¿Puede ser libre una máquina computacional?

A muchas personas, incluyendo científicos destacados, les parece prácticamente inevitable que el progreso de la inteligencia artificial desemboque algún día en la fabricación de robots libres. La literatura y el cine de ciencia ficción están repletos de historias en las que el robot se rebela contra su creador, recogiendo por otra parte un mito que se remonta a la antigüedad. Los ejemplos son innumerables, y más en tiempos recientes, pero el paradigma sería la película Blade Runner, de Ridley Scott (1984), con su secuela Blade Runner 2049 (Denis Villeneuve, 2017). Ahora bien, ¿puede ser verdaderamente libre un robot? Responder a esta pregunta es especialmente interesante si la respuesta nos ayuda a entender mejor no solo qué es un robot, en tanto que máquina computacional, sino sobre todo en qué consiste la libertad. Empecemos por clarificar los términos de la cuestión.

Qué es una máquina computacional

Generalmente se entiende que un robot es un dispositivo mecánico que está controlado por un programa de ordenador, o un conjunto de programas. El aspecto físico es secundario: el robot puede parecerse o no a un ser humano (se suele hablar de androide masculino o ginoide femenina), pero también puede ser simplemente un brazo mecánico, o un electrodoméstico de cocina (por ejemplo, una máquina programable para hacer pan casero); incluso puede ser un robot “virtual” que habita en la red. También es secundario el hecho de que el robot esté hecho de materiales inorgánicos, materiales orgánicos, o una mezcla de ambos. Lo esencial es que un robot está controlado por un programa que corre en un ordenador; es decir, el robot es una máquina algorítmica o computacional. Se diferencia de otras máquinas (como un motor de combustión interna, un telescopio o una antigua radio de transistores) en que su funcionamiento está codificado en un programa que es relativamente fácil de cambiar, sobre todo si lo comparamos con aquellas máquinas cuyo funcionamiento es invariable.

¿Y qué es un programa? Un programa, o mejor, un algoritmo, es en pocas palabras un procedimiento “mecánico” (es decir, basado en reglas obedecidas ciegamente) que obtiene un determinado resultado en un número finito de pasos. Es como una receta de cocina, pero en la cual todos los pasos están perfectamente detallados y no se deja nada a la interpretación del cocinero. Aunque entre los científicos de la computación no se ha alcanzado un consenso universal sobre la definición de algoritmo, sí se admite que un elemento esencial de la definición es que todo algoritmo debe tener un objetivo bien definido [1]. Un programa no se limita a hacer cosas, sino que las hace con un determinado propósito.

Al igual que cualquier otra máquina, un robot (que es una máquina computacional) se define principalmente por su propósito, es decir, la tarea que debe cumplir y para la cual ha sido diseñado. En realidad, rara vez una máquina computacional tiene un único propósito: más bien, lo habitual es que tenga varias tareas que cumplir. Por ejemplo, un sistema domótico puede encargarse de controlar la temperatura, humedad e iluminación de una vivienda, así como advertir de posibles situaciones de emergencia (intrusiones, fuego, etc.). Pero todas estas tareas pueden englobarse bajo un único propósito global: mantener el confort y seguridad de los ocupantes de la vivienda.

La esencia del robot y de cualquier máquina es, por tanto, obedecer a su propósito, el fin con el que ha sido diseñado. Es más, conocer el propósito de un robot es lo que permite decir si funciona bien o mal: si no sé para qué ha sido diseñado, no puedo someterlo a control de calidad. Y es un propósito que el robot no se ha dado a sí mismo, sino que se lo han impuesto desde fuera. Un robot algorítmico no puede cuestionarse su finalidad, porque dejaría de ser un robot, una máquina.

Supongamos un robot que juega al ajedrez contra un humano con el objetivo de ganar la partida. Los programas de ajedrez que se encuentran hoy día en cualquier ordenador doméstico derrotan con facilidad a la mayoría de los jugadores humanos. Un jugador artificial de ajedrez un poco diferente podría autolimitarse en su efectividad con el fin de configurar distintos niveles de dificultad, de modo que el jugador humano siga disfrutando con el juego y no tire la toalla demasiado pronto. Estos dos programas de ajedrez tienen dos objetivos bastante diferentes: ganar el juego, o hacer que el jugador humano juegue cada vez mejor y disfrute con el proceso de aprendizaje. En ambos casos el robot tiene un propósito predeterminado que lo define. Lo que no esperamos de un robot del primer tipo, diseñado para ganar, es que decida perder… Puede no lograr su objetivo, pero no puede cambiarlo. En cierto modo, el robot es un esclavo inteligente de su finalidad.

Por supuesto, puede haber diferentes niveles de selección de objetivos. Existen algoritmos que pueden cambiar y priorizar dinámicamente sus objetivos, es decir, son capaces de realizar algún tipo de meta-razonamiento en relación con los objetivos que tienen que alcanzar. Sin embargo, esos algoritmos de selección dinámica de objetivos no se autoanalizan ni propiamente se autorreprograman: lo único que hacen es obedecer objetivos de orden superior para seleccionar los subobjetivos convenientes. No pueden dejar de comportarse como algoritmos de selección de objetivos. Siguen siendo esclavos inteligentes…

El mismo Alan Turing reconocía que esta falta de libertad es esencial para definir una máquina computacional, o máquina algorítmica: “Un hombre provisto de papel, lápiz y goma de borrar, y sujeto a disciplina estricta, es en efecto una máquina universal” [2], es decir, una máquina computacional, un robot. Es de notar que sucedió exactamente de esta manera en la organización interna de los grupos de trabajo de Bletchley Park establecidos por Turing para descifrar los códigos alemanes durante la Segunda Guerra Mundial [3]. Estar “sujeto a una disciplina estricta” significa no cuestionar en absoluto las reglas y propósitos del cálculo o computación que se está llevando a cabo.

¿Qué es ser libre?

La mayoría de la gente asume, sin gran reflexión de por medio, que los seres humanos somos libres, es decir, que somos responsables de nuestras decisiones. Y somos responsables, precisamente, porque podemos decidir actuar de una manera u otra; en otras palabras, no estamos completamente determinados por los estímulos que recibimos de nuestro entorno, ni por nuestra educación, ni por nuestra genética. Sin duda todos estos factores nos condicionan, imponen límites a nuestra libertad, pero no determinan completamente nuestra respuesta. El peor ataque que puede sufrir mi libertad no es que me encierren en una prisión o me tapen la boca, sino que supriman mi voluntad (mi libertad interior, mi capacidad de decidir) mediante un concienzudo lavado de cerebro, usando propaganda, drogas, o lo que sea.

No faltan, sin embargo, quienes niegan que la libertad sea una característica humana real. El argumento suele ser que, puesto que somos seres materiales, estamos sometidos a las leyes deterministas de la materia, luego no somos libres. Desde esta perspectiva mecanicista, el comportamiento de todos los seres vivos, incluyendo a los humanos, se explicaría mediante las leyes de la naturaleza y el procesamiento de información en el cerebro, de modo análogo a lo que ocurre en un ordenador: el comportamiento está completamente determinado por los estímulos recibidos y su correspondiente procesamiento neurológico, conforme a programas más o menos complejos de origen biológico o cultural.

Así pues, ya sea para afirmar que somos libres, o para negarlo, podemos asumir que ser libre implica no estar completamente determinado por algo exterior a uno mismo. Pero hay varias formas de no estar determinado. La primera y más evidente es estar in-determinado, lo que significa añadir incertidumbre al comportamiento resultante. Se puede añadir un factor de aleatoriedad en la toma de decisiones (tirar una moneda al aire para elegir si tomo helado de chocolate o de vainilla), o puede ocurrir que por la propia incertidumbre física el comportamiento no se ejecute exactamente como se había ordenado. No obstante, el indeterminismo apenas añade nada a la situación anterior. No nos engañemos, la mecánica cuántica no es el ansiado refugio de la libertad. Desde ambas perspectivas, determinismo e indeterminismo, la libertad es una ilusión del cerebro, es decir, no es algo real que pueda influir en el comportamiento humano.

Ser verdaderamente libre, en un humano o en un robot, implica por tanto la posibilidad de autodeterminación, es decir, ser dueño de las propias acciones, y por tanto responsable. Esta autodeterminación puede todavía darse de dos modos distintos.

  • Autodeterminación hacia un objetivo. En esta versión, el individuo libre persigue un cierto objetivo, y puede elegir entre diferentes comportamientos para lograrlo. Pero el objetivo, como tal, está dado. Aquí hay una afirmación bastante modesta de la libertad, que consiste solo en la posibilidad de elegir entre varios medios para alcanzar un fin dado y, como mucho, la posibilidad de aceptar o rechazar ese fin.
  • Autodeterminación del objetivo. En esta versión, mucho más radical, el individuo libre no solo se determina a sí mismo hacia un objetivo, sino que también determina por sí mismo el objetivo: el objetivo no está dado, hay que inventarlo. Por así decirlo, el ser libre no solo tiene un destino, sino que también se forja su propio destino. No solo elige cómo convertirse en algo, sino también en qué quiere convertirse. Parafraseando a nuestro autor universal, “Yo sé quién soy, y sé quién puedo llegar a ser” [4]. Y esto es precisamente lo que hace que sea tan difícil tomar ciertas decisiones.

La autodeterminación de Don Quijote
La autodeterminación de Don Quijote

Así entendida, la autodeterminación plantea dos difíciles problemas que no vamos a resolver aquí. El primero, de carácter metafísico, es el problema mente-cuerpo, es decir, la relación entre lo inmaterial y lo material (en cualquier caso, el dualismo cartesiano no es una solución válida, puesto que un ente inmaterial no puede interaccionar con un ente material; la relación mente-cuerpo debe ser de un tipo radicalmente diferente a la interacción que se da entre los cuerpos materiales). El segundo es el problema moral de la arbitrariedad en la elección autodeterminada de los fines: ¿Importa si uno elige este o aquel fin para su vida? ¿Hay ciertos fines mejores que otros?

Entonces, ¿puede ser libre una máquina computacional?

Con lo que llevamos dicho la respuesta es inmediata. Ser libre es, de modo radical, tener la facultad de autodeterminación, es decir, la capacidad de proponerse uno mismo sus propios planes, objetivos y metas. Puesto que una máquina computacional tiene un objetivo que no se ha dado a sí misma y que no puede cuestionar… no hace falta decir más: una máquina computacional no puede ser libre, porque el concepto de libertad es contradictorio con el concepto de máquina computacional o algorítmica, y con el concepto más general de máquina. Para ser libre tendría que dejar de ser una máquina y adquirir autoconciencia, algo a lo que la ciencia ficción nos tiene muy acostumbrados, pero no por eso es necesariamente factible. Obviamente, esos robots que desobedecen las órdenes de sus dueños no hacen más que obedecer, en un nivel más profundo, a sus programadores. La autodeterminación, por su misma definición, queda fuera del paradigma computacional clásico, es decir, de la concepción clásica de máquina algorítmica: la libertad no es una función computable.

Esto no es una dificultad tecnológica de hoy día que será superada con el tiempo, es una dificultad conceptual para cualquier máquina de cualquier tiempo, porque lo esencial de una máquina no es estar hecha de engranajes y circuitos eléctricos, sino haber sido diseñada con una determinada finalidad, a la que tiene que obedecer forzosamente. Una máquina no puede decidir qué objetivos quiere perseguir, porque dejaría de ser una máquina. Que es precisamente lo que les pasa a los robots que se hacen humanos en la ciencia ficción: los replicantes de Blade Runner ya no son robots, son humanos, aunque sea en una forma de humanidad que nos desconcierta y no sabemos precisar bien.

El replicante Roy Batty en Blade Runner
El replicante Roy Batty en Blade Runner

Atención, no estoy diciendo que sea imposible fabricar seres inteligentes y libres, tan solo que, si algún día lo logramos, no serán propiamente “máquinas computacionales”. Quizás en un futuro indeterminado seamos capaces de producir en el laboratorio un tipo de robots no algorítmicos (no dirigidos hacia un fin dado) que propiamente puedan ser calificados como autoconscientes, capaces de hacer “lo que les dé la gana”, de proponerse sus propios objetivos; pero seguramente no sería adecuado seguir llamándolos robots. Serían “humanos” en el sentido de autodeterminados, verdaderamente libres, aunque quizás su estructura física (¿biológica?) fuera muy diferente a la nuestra. Pero, ¿de qué serviría esto? ¿Para qué fabricar máquinas que no harán lo que queremos, sino lo que les dé la gana? ¿En qué sentido puede decirse que siguen siendo máquinas?

En cierto sentido, la reproducción humana ya trae al mundo seres libres y autodeterminados, sin objetivos predefinidos. Una autodeterminación que a veces resulta incordiante (que se lo pregunten a todos los padres y madres con hijos adolescentes), y que demasiado a menudo tratamos de sustituir por un comportamiento “programado”. Y esto puede ocurrir en todos los niveles educativos, desde los niños pequeños hasta los estudiantes universitarios [5]. Lamentablemente, la tentación de sustituir el proceso educativo por un proceso de robotización es grande, especialmente en el caso de los gobernantes totalitarios, para quienes la autodeterminación ya no es solo molesta, sino simplemente inaceptable.

Autodeterminación, un poco incordiante
Autodeterminación, un poco incordiante

¿La razón es la esclava de las pasiones?

Soy consciente de que no he demostrado que los seres humanos son verdaderamente libres, en el sentido de autodeterminados. Tan solo he demostrado que una máquina computacional o algorítmica no puede ser libre; por tanto, si los humanos son libres, entonces no pueden ser robots, máquinas algorítmicas. Es decir, la inteligencia libre (que no se ocupa sólo de resolver problemas, sino también de elegir los problemas que quiere resolver) no puede ser definida como un proceso algorítmico, y el comportamiento genuinamente libre no puede ser completamente emulado por robots (otra cosa es el comportamiento típico de una gran masa de gente, que sí es susceptible de análisis estadístico, precisamente porque deja de considerarse la individualidad).

El filósofo escocés David Hume (1711-1776) escribió que “la razón es la esclava de las pasiones”, es decir, está al servicio de unos objetivos predeterminados que no puede cuestionar (entiéndase “pasión” en un sentido general, no solo relativo a lo placentero: pasión por la música, por las matemáticas, por la justicia…). Una concepción que, curisosamente, anticipa el concepto moderno de robot [6]. Si resulta difícil aceptar que un robot no puede ser libre –como imagino que les ocurrirá a algunos, o quizá muchos, lectores– quizás sea porque la concepción humeana de la naturaleza humana ha calado profundamente en nuestra mentalidad occidental. Si para nosotros, en el siglo XXI, es tentador considerarnos complicados robots biológicos, es solo porque previamente hemos aceptado el paradigma de la razón como esclava de las pasiones, una razón que no goza de la auténtica libertad que he expuesto aquí. Estamos tentados de creer que somos robots, porque primero hemos aceptado que la razón no escoge ni prioriza sus objetivos, sino que está al servicio de un objetivo último no racional, que en definitiva no es otro que la supervivencia de la especie.

El antiguo fatalismo griego pretendía que el destino humano estaba controlado por los dioses del Olimpo. Esta tendencia resurge hoy día, atribuyendo el control a los genes: somos, en el fondo, esclavos de nuestra programación biológica. Contra esta tendencia fatalista se rebela la afirmación radical (y quijotesca) de la libertad humana, la afirmación de que lo característico de los seres humanos es que nos proponemos nuestros propios fines, decidimos lo que queremos ser. Considero que esta capacidad de autoproponerse los fines es lo más característico de la diferencia entre humanos y máquinas. Son precisamente los que no se atreven a afirmar radicalmente la libertad los que más fácilmente caerán en la tentación de considerar que los humanos no son en último término otra cosa que complicados robots biológicos.

Este artículo nos lo envía Gonzalo Génova, profesor de la Universidad Carlos III de Madrid. Aparte de mis clases de informática, también imparto cursos de humanidades en los que trato temas de filosofía de la tecnología y pensamiento crítico.

NOTAS

[1] Hill, R.K. (2015). What an algorithm is. Philosophy & Technology 29(1): 35–59. DOI: 10.1007/s13347-014-0184-5.

[2] Turing, A.M. (1948). Intelligent Machinery. National Physical Laboratory Report. In Meltzer, B., Michie, D. (eds), Machine Intelligence 5. Edinburgh: Edinburgh University Press, 1969. Digital facsimile viewable at http://www.AlanTuring.net/intelligent_machinery.

[3] Hinsley, F. H., Stripp, A., eds. (1993). Codebreakers: The inside story of Bletchley Park. Oxford: Oxford University Press. ISBN 978-0-19-280132-6.

[4] “Yo sé quién soy —respondió don Quijote—, y sé que puedo ser, no solo los que he dicho, sino todos los Doce Pares de Francia, y aun todos los nueve de la Fama, pues a todas las hazañas que ellos todos juntos y cada uno por sí hicieron se aventajarán las mías”. Miguel de Cervantes, El ingenioso hidalgo Don Quijote de la Mancha (1605), Parte I, Capítulo V. Curiosamente, el otro genio universal dice algo muy parecido, que solo a primera vista es contradictorio: “Sabemos lo que somos, pero no lo que podemos ser”. William Shakespeare, Hamlet (1600), Acto cuarto, Escena V (Ofelia a Claudio). Ambos autores ponen de manifiesto la apertura de la naturaleza humana a una plenitud que no está prefijada.

[5] Gonzalo Génova, M. Rosario González. Educational Encounters of the Third Kind. Science and Engineering Ethics 23(6):1791-1800, December 2017.

[6] Gonzalo Génova, Ignacio Quintanilla Navarro. Are Human Beings Humean Robots? Journal of Experimental & Theoretical Artificial Intelligence 30(1):177–186, January 2018.


10 Comentarios

Participa Suscríbete

FilezboyFilezboy

Precisamente, quizás sólo sea posible generar una AI con capacidades de razonamiento similares a la humana, si antes la equipamos con autoconsciencia. Es decir sería un paso previo. “estoy aquí, sentado en mi escritorio, tengo un papel y un boli, a partir de esto puede crear algo..” asi es como podría empezar todo.

Hector04Hector04

El ser humano logra la consciencia a través del equilibrio de dos fuerzas, aquella que dice nos hace parte de un contexto y aquella que dice nos hace únicos, la primero nos muestra la empatía a partir de ponernos en el lugar de otros incluso extralimitando nuestros propios limites corporales, el segundo nos muestra un egoísmo racional a través de la búsqueda de recompensas definiendo muy bien nuestros limites corporales y buscando el beneficio de entre las distintas oportunidades.
El decir que estoy aquí sentado en el escritorio es solo una parte de las fuerzas que llevan a la consciencia.

AliceAlice

Gracias por este artículo que me ha resultado muy interesante, sobre todo porque anima a asomarte a una de las fronteras de la Ciencia, en la que Matemáticas, Tecnología, Psicología, Filosofía… se mezclan.
Si tomamos prestado el hilo argumental de “El Gen Egoísta” de Richard Dawkings, pensaríamos que no existía finalidad en las moléculas auto-replicantes, solo un entorno adecuado, azar y tiempo suficiente. A partir de ahí se fue complicando la cosa, y sin necesidad de ninguna finalidad predefinida, acabó apareciendo un encéfalo con capacidad de auto-consciencia.
El día que exista un elevado número de sistemas de AI suficientemente complejos y de enfoque transversal (p.e. especializados en atender y entenderse con humanos en lenguaje natural) ¿por qué no podría acabar ocurriendo que, en alguno de ellos, se activasen circuitos neuronales no previstos que acabasen replicando cualidades de la mente humana? ¿o incluso nuevas cualidades que desconocemos (de la misma manera que el cerebro de un pájaro carpintero es incapaz de manejar nuestro concepto de “operación aritmética”) ¿qué haríamos los humanos entonces? ¿dejaríamos que el tiempo y azar permitiesen la evolución de nuevas formas de inteligencia? Apasionante y quizá no tengamos que esperar demasiado tiempo para empezar a tener que responder estas preguntas. De nuevo, ¡gracias por el artículo!

Gonzalo Génova

Gracias a ti, Alice.

De todas formas, pretender que la finalidad surge espontáneamente del puro azar es bastante paradójico. Si nosotros, los humanos, somos fruto de un mero proceso mecánico-azaroso sin finalidad… ¿cómo es posible que seamos capaces de construir artefactos finalizados, y lo que es más importante, cómo es posible que seamos capaces de autodeterminarnos a los fines que nosotros mismos inventamos?

Me parece que es necesario repensar muy seriamente el principio de que no hay finalidad en la naturaleza.

AliceAlice

Modestamente, y con todo el respeto a cualquier otra posición, creo que considerar “Finalidad” en la Naturaleza es entrar en el ámbito de la Filosofía y salirse del de la Ciencia. Sin duda, algo profundo y apasionante, pero fuera de la Ciencia, la cual “simplemente” trata de establecer las reglas que gobiernan la Naturaleza excluyendo explicaciones metafísicas. Pienso que la presión por explicar lo desconocido obviando hipótesis metafísicas es lo que ha ido expandiendo las fronteras del conocimiento científico.

Thomas Nagel (https://es.wikipedia.org/wiki/Thomas_Nagel) dice que “ciertas cosas son tan sobresalientes que tienen que ser explicadas como no-accidentales”, y sitúa a la Consciencia como una de estas cosas sobresalientes no-fortuitas. Ciertamente, aunque seas un convencido neo-darwinista, seguro que no piensas en tu hijo en términos de sustancias neuro-transmisoras y cosas así, pero eso no quiere decir que no podamos seguir empujando esa frontera de la Ciencia. Y es que hoy sabemos que la Vía Láctea no es la consecuencia de que Hera apartase súbitamente de su pecho a Heracles cuando lo amamantaba, sino que son cientos de miles de millones de bolas de plasma que se mantienen en equilibrio entre el colapso gravitatorio y la explosión termonuclear y, sin embargo, esto no nos resta un ápice de emoción al observarla (desde un lugar libre de contaminación luminosa).

Si la Consciencia puede emerger de la mezcla de complejidad+azar dentro un sistema neuronal, o si es una consecuencia de un diseño finalista superior, creo que nos lo dirá el tiempo. Mientras tanto continuemos trabajando y disfrutando de llevar un poco más lejos las fronteras de la Ciencia y, al mismo tiempo, emocionándonos con las primeras palabras de nuestro hijo pequeño.

Gonzalo Génova

>> considerar “Finalidad” en la Naturaleza es entrar en el ámbito de la Filosofía y salirse del de la Ciencia

Completamente de acuerdo. La ciencia moderna nace con el rechazo a la búsqueda de explicaciones finalísticas. Tal vez algún día escriba más largo sobre esto.

>> la presión por explicar lo desconocido obviando hipótesis metafísicas es lo que ha ido expandiendo las fronteras del conocimiento científico

También de acuerdo, siempre que “hipótesis metafísicas” no se entienda de modo peyorativo como “explicaciones míticas”. Está muy bien reconocer los límites entre ciencia y filosofía (o metafísica), pero hay que ser consciente de que la ciencia depende de la filosofía (y la filosofía se alimenta de la ciencia, por supuesto).

La finalidad (entendida como propósito voluntario, el que hay en nuestras acciones y en nuestros artefactos) está más allá de lo que puede conocer la ciencia, por la propia limitación de su método. Pero eso no quiere decir que la finalidad no sea real, tan solo que no se puede conocer al modo científico, haciendo experimentos. Mientras no pensemos que la única forma válida de conocer es la científica, no hay problema.

JRGJRG

Creo que el principal problema es que estamos lejos de conocer realmente cómo funciona nuestro cerebro. De cómo opera a distintos niveles de abstracción. Y por tanto difícilmente podemos reproducir lo que sólo conocemos superficialmente. ¿Se rige por algoritmos nuestro cerebro para procesar la información? ¿Hay algún tipo de “programación preestablecida” que defina su funcionamiento?
Porque si no es así… ¿Cómo funciona? ¿Cómo procesa el cerebro la información? Porque lo que es indudable es que hay bloques funcionales y algún tipo de procesado de información.

Aún así, las redes neuronales artificiales representan una aproximación completamente diferente al algoritmo clásico, que entiendo es a lo que se refiere el artículo, y se acercan bastante a sistemas capaces de aprender y definirse, con una programación subyacente bastante genérica.
https://es.wikipedia.org/wiki/Red_ne..._artificial

Entiendo que si en algún momento futuro llegáramos a conocer el funcionamiento del cerebro a un nivel más profundo, podríamos replicar algunas de sus funciones. Pero estamos muy lejos de eso.
No creo que se pueda afirmar que una máquina computacional no pueda ser libre porque ni siquiera sabemos hasta qué punto nosotros somos máquinas computacionales analógicas, por ejemplo.

Sabemos que nuestro cerebro está formados por neuronas interconectadas. Que hay bloques funcionales que realizan operaciones específicas y que tienen asignadas esas funciones y no otras. Pero no sabemos cómo funcionan esos bloques.

Gonzalo Génova

Hola JRG,

Estoy de acuerdo en que hay bloques funcionales y procesamiento de información en el cerebro. Parte del procesamiento podrá ser algorítmico, pero no en su totalidad, hace falta un elemento no algorítmico. Eso si asumimos que somos libres, como creo haber demostrado.

Las redes neuronales están comprendidas dentro del concepto de algoritmo que manejo en el artículo. Lo esencial es que una red neuronal tiene un objetivo prefijado, una función de ajuste que tiene que optimizar. La red neuronal no se autoprograma en su objetivo de búsqueda, no se autodetermina, no es libre. Es una máquina, más compleja que otras, pero máquina al fin y al cabo.

Claro que puede haber un cierto tipo de aprendizaje mecánico y por tanto realizable con inteligencia artificial, pero no es de eso de lo que hablo en el artículo. Lo que afirmo que una máquina computacional no puede ser libre porque no se autodetermina, no es más (ni menos) que eso.

Un saludo y gracias por comentar.

Gabriel Fernandez-BorsotGabriel Fernandez-Borsot

Muy interesante. A la idea central del artículo, que se resume en la frase “la libertad no es una funcion computable“, añadiría yo otra: “la conciencia no es una funcion computable“. En mi perspectiva, la primera requiere de la segunda: solo puede ser libre un ser consciente.

De todas maneras estos temas serán motivo de profundo debate a medida que los logros de la inteligencia artificial proporcionen máquinas cada vez más complejas y funcionales … aunque, como bien has argumentado, mientras se basen únicamente en computar, no sean libres.

Gonzalo Génova

Hola Gabriel!

Gracias por identificar esa frase clave, ciertamente lo es. Estoy de acuerdo contigo en que la conciencia no es una función computable, y que el ejercicio de la libertad requiere ser consciente, pero eso requeriría una argumentación larga y cuidadosa.

Entiendo que te refieres a autoconciencia, el conocimiento de sí mismo o conocimiento reflexivo. Y habría que empezar por decir, de modo muy simplificado, que al conocer otras realidades las “objetivamos”, las convertimos en objeto de nuestro conocimiento: la realidad conocida ahí, yo aquí. El conocimiento de mí mismo puede ser también objetivo: me trato a mí mismo como objeto de conocimiento, como cuando me tomo la temperatura o analizo mi estado de ánimo. Así considerado no es tan diferente del conocimiento de otras realidades distintas de mí mismo.

Pero, propiamente hablando, el autoconocimiento o autoconciencia es el conocimiento de mí mismo en tanto que sujeto, no en tanto que objeto. “Me conozco en mi conocer”, y otras expresiones de filósofos que empiezan a parecerse a trabalenguas, y prefiero no aburrir más. Pero sí me parece importante señalar que se trata de un conocimiento que debe abordarse de modo diferente al anterior.

Responde a Alice

Tu email nunca será mostrado o compartido. No olvides rellenar los campos obligatorios.

Obligatorio
Obligatorio
Obligatorio

Puedes usar las siguientes etiquetas y atributos HTML: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>

Cancelar