Últimamente es difícil no leer sobre inteligencia artificial general (AGI) y superinteligencia (ASI) sin toparse con alguna versión de uno de dos escenarios: hecatombe irremediable o utopía tecnocrática. Hay quien expresa escepticismo sobre si es siquiera posible llegar a la AGI/ASI, pero las principales voces en el campo parecen coincidir en que no es una cuestión de «cuándo», no de «si».
Uno de los futuros más comentados entre los creyentes en la utopía tecnocrática (o aceleracionistas) es el alivio que surgirá del exponencial aumento de la productividad. La idea es que la AGI/ASI supondría un incremento disparado hasta tal punto que la escasez y la desigualdad dejarán de ser un problema. La «tarta a repartir» será tan grande que cada cual podrá servirse el trozo que quiera. Y, si todo el mundo tiene lo que necesita, ¿qué más da que alguien tenga más?
El argumento tiene su atractivo y no está lejos de ser una frivolidad. Por ejemplo, existen modelos económicos que describen cómo el coste marginal de producción se acerca a cero cuando se desacopla la carga de trabajo de la fuerza de trabajo. La consecuencia es que sin mecanismos de redistribución, la desigualdad podría ir a más 1. En esta charla, Daniel Susskind defiende la viabilidad de un mundo sin (necesidad de) trabajo, aunque advierte de que el gran problema pasaría a ser cómo repartir la tarta.
Obviando que esta visión asume la premisa de que (1) existirá un alineamiento (lo que a día de hoy creo que es una asunción demasiado optimista y arriesgada), o (2) será posible controlar de alguna forma la AGI/ASI (de nuevo, demasiado optimista a día de hoy), deja de lado un aspecto fundamental en su predicción de este futuro utópico: la psicología humana. Porque la tarta nunca ha sido solo la tarta. También está el cuchillo. Y las manías (yo detesto la fruta escarchada). La pregunta no es cuánto pastel habrá, sino quién decidirá cómo se corta, qué contiene el trozo de cada cual y qué pasa con la gente que, aunque tenga un pedazo contundente, es incapaz de evitar mirar los trozos del resto y pensar que son mejores que el suyo. Qué pasa cuando las necesidades (incluso lujos) están cubiertas de sobra, pero alguien percibe la ganancia del resto como una amenaza a su posición.
No es mi intención discutir si esa amenaza percibida surge precisamente de un contexto de recursos limitados. Pero la tesis de este artículo es que esa búsqueda de control y poder no surge únicamente de la escasez, sino de la necesidad de seguridad y de agencia. Por lo que una ASI capaz de «darle a todo el mundo lo que quiere» no resolvería la asimetría de poder, ejercido como control, porque esa búsqueda no responde a la escasez material, sino a la necesidad de seguridad y de agencia. Y eso no lo garantiza toda la abundancia del mundo. Es más, la propia ASI podría empeorar la situación.
Fvck you money
Durante gran parte del s. XIX y XX, los estudios de sociedades nómadas cazadoras-recolectoras describieron que estos grupos vivían en sociedades esencialmente igualitarias. Lo que sugiere que la asimetría social es un invento relativamente tardío, ligado a la agricultura, el almacenamiento, la propiedad privada y la herencia 2. Pero estudios más recientes han complicado bastante esta imagen. Hoy sabemos que la organización social de nuestros antepasados era mucho más diversa de lo que se suponía, y que el liderazgo aparece prácticamente en todas las sociedades humanas estudiadas, incluidas las de pequeña escala 3. Alguien decide dónde se caza, alguien media en los conflictos, alguien tiene la última palabra. Quizá no en los términos que esperaríamos en occidente, pero existe.
Ahora bien, liderazgo no es control. En muchas de estas sociedades, la influencia del líder es voluntaria, revocable y limitada a ámbitos concretos: quien sabe rastrear manda en la caza, pero no necesariamente en lo demás. Hay incluso grupos que alternaban estructuras jerárquicas y laxas según la estación del año, como quien cambia de horario de verano a horario de invierno (otra de las grandes ofensas sociales, si me preguntas).
De este modo, conviene distinguir entre control «hacia dentro» y control «hacia fuera» El primero es prácticamente universal y se sabe desde hace décadas que la sensación de control sobre lo que nos ocurre es un factor protector de la salud mental. Perder esta sensación tiene frecuentemente consecuencias serias. De hecho, uno de los paradigmas más consistentes para inducir estrés crónico y depresión es provocar indefensión aprendida: el aprendizaje de que la propia acción carece por completo de influencia sobre el las circunstancias.
El segundo tipo de control varía muchísimo de una persona a otra e incluye profundos y arraigados factores de aprendizaje social. Pero está más conectado al primero de lo que parece. Controlar a otros es, en buena medida, una forma de blindar el control sobre uno mismo. Quien controla la vivienda de otros asegura la suya. Quien influye en la política se asegura de que las reglas no se vuelvan en su contra.
En las sociedades industrializadas occidentales, la vía principal para el control es la riqueza. No tanto por lo que permite consumir como por lo que permite decidir. Quien acumula capital controla bienes que el resto necesita y no puede producir por sí mismo: la vivienda, el empleo, el crédito. Y, a partir de cierto punto, también influye en quién redacta las leyes, qué se investiga o qué se publica. La riqueza se convierte en control sobre otros con una facilidad que pocas formas de prestigio permiten. Por eso sorprendió tanto que las mayores fortunas del mundo se doblegaran ante un empresario del palo cuando fue investido presidente en EE.UU (¿de qué sirve tener «fuck you money» si no puedes decirle «fuck you» a quien te intenta manipular?). A parte, no todo se vuelve abundante: el suelo sigue siendo finito. La atención y el tiempo, también. Por eso resulta igualmente engañoso medir la desigualdad solo en términos económicos: lo que se reparte de forma desigual no es únicamente el consumo, sino la capacidad de decidir sobre la vida ajena.
Soy consciente de que esto puede parecer una incoherencia con la tesis del principio. Si controlar a otros es una forma de proteger el control sobre uno mismo, esa necesidad de seguridad también es una forma de insatisfacción, aunque no sea material. Pero lo que defiendo es precisamente que, incluso cuando esa necesidad parece cubierta, cuando alguien tiene todo lo que necesita y casi todo lo que desea, el impulso de situarse por encima de los demás puede seguir ahí. Y para que el problema exista no hace falta que lo sienta todo el mundo: basta con que lo sientan algunos.
Es cierto que desde fuera es prácticamente imposible distinguir si alguien busca el control por sí mismo o como medio para otra cosa. Quien ya lo tiene todo y sigue acumulando influencia puede estar, simplemente, protegiéndose de sus rivales, porque la seguridad depende no solo del poder que tienen los demás (control externo), sino de la seguridad que cada uno siente que tiene (control interno). Si ni siquiera podemos saber cuándo la necesidad de control está satisfecha, tampoco podemos confiar en que la abundancia vaya a satisfacerla.
Soma para todos
La capacidad humana para organizarse jerárquicamente parece universal. Que esa jerarquía se manifieste en control, no tanto. Como decía, depende de las condiciones. Y esas condiciones son, precisamente, las que el futuro de la AGI/ASI parece obviar. De modo que la pregunta relevante no es si la abundancia saciará el apetito material, sino si será capaz de aumentar la sensación de seguridad. Y ahí tengo muchas dudas.
La teoría del control compensatorio propone que cuando el control personal se siente amenazado se ponen en marcha mecanismos compensatorios que utilizan como palancas de apoyo estructuras externas sólidas. Multitud de estudios muestran de manera consistente cómo ante situaciones donde se restringe el control personal sobre el propio entorno aumenta el apoyo a gobiernos e instituciones fuertes, así como la preferencia por organizaciones jerárquicas 4 (un contexto que la ultraderecha es especialmente hábil en explotar). La jerarquía, por incómoda que sea, ofrece algo de gran valor: la sensación de control.
Trasladado a un mundo transformado por la AGI/ASI, donde el trabajo deja de ser necesario, donde las decisiones relevantes las toman sistemas incomprensibles y donde la propia fuerza negociadora ha desaparecido, puede que se tenga la nevera llena, pero difícilmente se puede sentir que se controla algo. Desde esta teoría, la abundancia material más pérdida de agencia podría ser el caldo de cultivo perfecto para jerarquías más rígidas.
Y donde hay demanda, aparece la oferta. Un mundo de abundancia material y agencia mermada es también un mundo lleno de huecos: decisiones que alguien tiene que tomar, sistemas que alguien tiene que supervisar, normas que alguien tiene que escribir. No hace falta suponer ninguna maldad especial para predecir que habría quien aproveche esos huecos para situarse por encima del resto. Basta con que exista el incentivo y con que haya personas, aunque sean pocas, dispuestas a seguirlo. Y la historia sugiere que nunca faltan.
El escenario más especulativo (aunque igualmente plausible) afecta al propio desarrollo de la AGI/ASI. Hay razones de peso para regularla, y nadie sensato defiende desarrollarla sin salvaguardas. Pero toda salvaguarda decide quién puede construir, quién puede acceder y quién puede auditar.
La idea de un futuro donde cada uno pueda dedicar todo su tiempo a perseguir sus propios objetivos de crecimiento personal y autorrealización no se antoja ni tan mal. Y creo que, como mínimo, abre la puerta a un debate interno acerca de lo que para cada uno significa el trabajo y nuestra relación con él. Pero los argumentos que presentan este escenario como deseable no deberían girar principalmente en torno a cuánto se producirá, sino a quién escribirá las reglas, quién supervisará los sistemas y qué contrapesos impedirán que la capacidad de decidir se concentre.