La ética del superhéroe

Por Iván Rivera, el 27 febrero, 2019. Categoría(s): Divulgación • Matemáticas • Tecnología
Elon Musk charla animadamente con Tony Stark (alter ego de Iron Man, interpretado por Robert Downey Jr.) en Iron Man 2. (ⓒ Walt Disney Studios)

Las funciones logísticas son lo que nos encontramos cuando estudiamos sistemas que tienen tasas naturales de crecimiento exponencial pero, al mismo tiempo, dependen para existir de recursos limitados. Imaginemos primero un crecimiento exponencial: plantamos una bacteria en una placa de Petri (como llaman en los laboratorios a un platito transparente con bordes que se puede tapar) con el fondo cubierto de algún nutriente rico, rico. Yo preferiría galletazas de una palatabilidad tan alta que hagan torcer el gesto a cien nutricionistas, pero probablemente nuestra bacteria se incline más por alguna gelatina. Y ahí la tenemos, digiere que te digiere, con el metabolismo a tope, hasta que ¡zas! Decide dividirse y ya son dos comiendo. Y luego cuatro. Y ocho. Y dieciséis. Y…

Se ve claro el crecimiento exponencial. Sin embargo, hace falta un banquero particularmente ebrio de confianza («¡el ladrillo nunca baja!») para ignorar lo que va a acabar pasando: las bacterias son muy pequeñas, pero antes de que nos demos cuenta —el tiempo exacto lo dejo como ejercicio para vosotros, lectores; que no se diga que no estoy por la pedagogía interactiva— el platito se habrá llenado y la gelatina empezará a escasear. Naturalmente, la tasa de crecimiento de la población de bacterias se ralentizará al mismo ritmo que se aceleró hasta alcanzar un máximo, momento tras el que concluiremos nuestro experimento para no tener que explicar más cosas. Y ahí la tenéis: el número de bacterias, puesto en un eje vertical, con el tiempo en el horizontal, dibuja la típica «S» tumbada de las funciones logísticas.

Gráfico de la función logística. (Imagen: The Fact Machine: Logistic Regression)

La función logística y la innovación

Muchos procesos naturales y bastantes artificiales pueden describirse con este tipo de funciones. Un ejemplo que encaja como un guante de látex para el paseo que estamos dando hoy aquí es la expansión del mercado debida a la introducción de un producto innovador. Siempre comienza suavemente. Surge una nueva idea y las primeras aplicaciones son tentativas, como metiendo el dedo en el agua a ver si está fría. Más gente va probando el nuevo producto, pero nadie diría que estamos a las puertas de una revolución. Hasta que llega un momento en el que se alcanza una masa crítica de usuarios. El mercado empieza a estar on fire: el crecimiento se acelera y los analistas empiezan a hablar de crecimiento exponencial. El mundo cambia ante nuestros ojos…

… Hasta que la mayor parte de las aplicaciones obvias de nuestra innovación están implementadas y prácticamente todo aquel que puede beneficiarse de ella lo está haciendo. Este es el momento en el que el crecimiento vuelve a ralentizarse. Hasta a detenerse. Ya nadie habla de la innovación, aunque todos la usemos. Algunos directores de empresa se preguntan qué demonios ha pasado para que el crecimiento se detuviera. Una pista: la saturación —si hay más de un teléfono móvil por persona en el planeta es complicado que las ventas futuras superen la tasa natural de reposición de dispositivos, así que toca invertir en convencernos de que lo que tenemos en los bolsillos está obsoleto. Hemos llegado a la madurez, la temida madurez.

¿Superhéroes? No, vigilantes

Ahora que os he presentado a las funciones logísticas y estamos todos encantados de conocernos, demos un quiebro en nuestro pequeño paseo de hoy. Tomad vuestro superhéroe favorito. No importa si es de la Marvel o de DC: lo más probable es que se su misión, normalmente autoimpuesta, consista en «protegernos» del mal. Así, en general. Podemos imaginar al superhéroe como una persona normal. Incluso bienintencionada. Un buen día le salen superpoderes y decide ponerlos a buen uso combatiendo malvados. Algo así como un estudiante de matrícula que descuella en los exámenes de acceso a la universidad y se apunta a la carrera que más nota exija para «no desperdiciarla». Ahora bien, si me permitís una pregunta tonta: ¿quiénes son los malvados? Los superhéroes son el ejemplo más claro de popularización del vigilantismo.

Un vigilante —la palabra va y vuelve del inglés con un significado nuevo a sus espaldas— es alguien que actúa por su cuenta ante una supuesta inefectividad de la ley. Batman o Iron Man son ejemplos particularmente interesantes, porque su superpoder consiste tan solo en ciertas dotes para la ingeniería… Y cantidades obscenas de dinero. Estos dos personajes utilizan la máscara y su identidad, más secreta en un caso, menos en otro, para «desfacer agravios y enderezar entuertos» —en este caso, la parodia en forma de Alonso Quijano, alias Don Quijote, vino siglos antes que los originales. Aunque usar el bacín como yelmo cuente regular en el aspecto tecnológico. En ambos casos, ¿quién decide lo que está bien y lo que está mal? No lo hace un juez formado en la ley, ni siquiera un comité escogido democráticamente. Lo hacen ellos. Cierto que en ocasiones el entuerto a enderezar es bastante obvio, como cuando no contentos con luchar contra nazis pusieron al Capitán América a luchar contra… los dobles nazis de Hydra. Pero en otras lo es menos, y da para las historias más interesantes. Como aquella vez que Batman se encontró con los galeotes camino de galeras y… ¿A que me estoy liando?

Funciones logísticas, vigilantismo y Silicon Valley

Tenemos planteadas las funciones logísticas y el vigilantismo, pero ahora tenemos que combinar esos aparentemente dispares conceptos. ¿Qué pueden tener en común? ¿Hay algo en su intersección? A fe mía que sí, como habría dicho nuestro amigo Quijano: la respuesta es Silicon Valley. O, para ser un poco más preciso, la «filosofía Silicon Valley».

Silicon Valley simboliza el centro de la innovación en software por excelencia. Combinando elementos de muy diversas proveniencias (la internet de DARPA, la web del CERN, la interfaz de ventanas de Xerox), el software ha cambiado nuestras vidas por completo, creando un puñado de billonarios en el proceso. Billonarios que:

  1. Se perciben a sí mismos como la fuerza del cambio: el mundo no ha cambiado por software creado por los gobiernos, sino por el de sus empresas. No es necesario entrar en el debate de hasta qué punto esto es cierto, porque no es relevante para nuestro paseo de hoy. Mucha gente lo cree y, más importante, lo hacen los mismos protagonistas. Pero no solo se perciben como aristotélicas palancas moviendo al mundo; además…
  2. Tienen un enorme superávit de capital. Jeff Bezos, de Amazon, ha superado recientemente los 135000 millones de dólares, según el índice de Bloomberg. En letra, para que se saboree mejor: ciento treinta y cinco mil millones de dólares (casi habría que decir 135 gigadólares). Puede que Bezos sea el más rico, pero no es el único: Zuckerberg —Facebook—, Page y Brin —Google—, Musk —SpaceX, Tesla—… Todos megamillonarios. Y esto sin considerar las reservas de efectivo que mantienen empresas como Apple —últimamente, y en las mismas unidades, alrededor de los 245 G$. Cifra que si no provoca mareos es porque realmente no la estamos entendiendo.

La actitud frente a la tecnología impulsada por Bezos, Zuckerberg, Musk, Page, Brin y otros no es más que una suerte de vigilantismo tecnológico, en el que ellos deciden cada vez más cuáles son los problemas que merece la pena resolver y cuáles no en función de una visión eminentemente elitista de la sociedad. Los mercados maduros (aquellos en la parte alta de la curva logística) no ofrecen el crecimiento que estos magnates demandan, de modo que es posible predecir cuáles serán sus próximos movimientos poniendo un oído al ruido y la furia de los mercados. ¿De qué se habla en los mentideros de Internet? Poco sorprendentemente, hay empresas dedicadas a este tipo de análisis —y una de las más conocidas es Gartner. En la siguiente tabla puede apreciarse un resumen de sus «Diez tendencias tecnológicas», publicadas a finales de cada año con vistas al siguiente, durante la última década.

Tendencias tecnológicas de Gartner, años 2009-19. En color, tecnologías directamente relacionadas con la Inteligencia Artificial. Hacer clic para ver una versión más grande. (Fuente: Gartner, elaboración propia)

La amenaza del vigilante

Como cualquier futurólogo que se precie, los de Gartner meten la pata a veces de modos bastante ridículos; sin embargo, vemos que las referencias a la inteligencia artificial (IA) o a tecnologías directamente derivadas se suceden con cada vez mayor frecuencia en los informes desde el año 2014. Gartner nos está avisando aquí de cuáles son las tecnologías en las que miles de inversores y, muy en particular, los superhéroes de Silicon Valley van a dirigir sus esfuerzos y su ingente capital con el objeto de volver a montar la ola ascendente de otra curva logística. A veces alguno de ellos (Musk, muy en particular) ha mostrado reservas al respecto del crecimiento sin control de las aplicaciones de la IA que ha transformado en apoyo económico directo a iniciativas como OpenAI, que —en sus propias palabras— tiene la misión de «construir una inteligencia artificial general segura, y asegurar que sus beneficios se distribuyan tan amplia y equitativamente como sea posible». Otros se muestran casi descuidadamente optimistas al respecto. En cualquier caso, la tentación de desarrollar el próximo pelotazo con el que volver a multiplicar el valor de las carteras de acciones podría primar sobre la prudencia necesaria.

Ejemplo de texto semilla completado por GPT2. Hacer clic para ver una versión más grande. (Fuente: OpenAI Blog)

El reciente anuncio de OpenAI de su GPT-2, un modelo lingüístico no supervisado capaz de generar resúmenes de textos, contestar a preguntas sobre su contenido con un grado de fiabilidad relativamente alto (aún por debajo del de un adulto medio) y, sobre todo, producir continuaciones a un texto semilla plausibles, gramaticalmente coherentes y en el mismo estilo que el original fascina y pone los pelos de punta a partes iguales. Los investigadores de OpenAI han optado, en una polémica decisión, no liberar el conjunto de pesos de la red neuronal entrenada ni el programa completo de entrenamiento. Son conscientes de que una decisión así tan solo limita el número de actores capaces de replicar por sí mismos sus hallazgos en el futuro inmediato.

En un contexto como este, el vigilantismo de los nuevos magnates podría ponernos en una situación comprometida. La probabilidad de que se cree una inteligencia artificial generalizada no es nula: si ocurre antes de que dispongamos de una forma eficaz de dirigir sus objetivos de forma que se alineen con los nuestros como especie —y no con los que somos capaces de expresar con palabras, como cualquiera de los protagonistas de los cuentos en los que aparece una lámpara mágica—, la imprudencia y la codicia de unos pocos podrían cambiar radicalmente nuestras vidas para siempre. Nadie sabe si para bien.

Para saber más