«Significa que no hay en torno a nuestra vida poderes ocultos e imprevisibles, sino que, por el contrario, todas las cosas pueden —en principio— dominarse mediante el cálculo y la previsión. Y esto quiere decir que se ha excluido del mundo la magia.» Max Weber, La ciencia como vocación (1919)

Hay una tentación fácil cuando se habla de inteligencia artificial. Consiste en tratarla como una novedad absoluta, un acontecimiento sin genealogía, una ruptura que nos arroja fuera de la historia conocida. Conviene resistir esa tentación. La inteligencia artificial no inaugura nada. Prolonga. Es un capítulo tardío, quizá el más consecuente, de un proceso que Max Weber describió hace más de un siglo con una lucidez que todavía nos incomoda: el proceso de racionalización. Leer la IA desde Weber no es un ejercicio de erudición. Es una manera de recuperar el hilo que la vuelve inteligible, de ver en ella no un prodigio técnico sino una forma extrema de algo muy antiguo, la sustitución progresiva de todo criterio por el cálculo.

Weber, el intelectual de Erfurt, llamó racionalización al movimiento por el cual las sociedades occidentales fueron reemplazando las tradiciones, las creencias y los vínculos afectivos por procedimientos gobernados por la eficiencia, la previsión y el control. Su formulación más célebre aparece en «La ética protestante y el espíritu del capitalismo», donde muestra que el capitalismo moderno no nació de la codicia sino de una disciplina, de una ascética del trabajo metódico que, una vez desprendida de su raíz religiosa, quedó funcionando sola. La imagen que cierra ese libro es la que todos recuerdan. Weber advierte que el orden económico moderno se ha vuelto un aparato del que ya no podemos salir, y escribe una frase que conviene citar entera porque contiene el diagnóstico completo: «La jaula ha quedado vacía de espíritu, quién sabe si definitivamente. En todo caso, el capitalismo victorioso no necesita ya de este apoyo religioso, puesto que descansa en fundamentos mecánicos.» Esos «fundamentos mecánicos» son la clave. El capitalismo, una vez maduro, no requiere convicción. Le basta con el mecanismo.

La inteligencia artificial es el nombre actual de ese mecanismo. Si la racionalización consiste en someter cada esfera de la vida al «cálculo sistemático de medios y fines», entonces un sistema que automatiza precisamente el cálculo, que lo acelera hasta lo inhumano y lo extiende a dominios antes reservados al juicio, no es una excepción a la lógica weberiana sino su realización. Weber vio la burocracia como la forma más pura de dominación racional, un dispositivo de reglas impersonales que trata los casos según procedimientos y no según personas. La IA lleva ese principio a un punto que Weber no alcanzó a imaginar, aunque su teoría lo anticipa. Donde la burocracia clasificaba expedientes, el algoritmo clasifica conductas, deseos, riesgos y rostros. Donde el funcionario aplicaba la norma, el modelo infiere la norma desde los datos y la aplica sin que nadie la haya escrito. Es la burocracia liberada de su lentitud, de su papeleo, incluso de su funcionario. Una burocracia sin oficina.

Es en este punto donde la imagen final de la ética protestante recupera toda su fuerza. La jaula de hierro —el stahlhartes Gehäuse, esa carcasa dura como el acero que la traducción de Parsons volvió célebre— nombraba para Weber un orden que, una vez construido, sigue funcionando sin necesidad de que nadie crea en él. La inteligencia artificial no está fuera de esa jaula: es el material con que hoy se refuerzan sus barrotes. Si el capitalismo maduro ya descansaba en “fundamentos mecánicos” y prescindía de la convicción, el algoritmo lleva esa prescindencia a su límite, porque automatiza no solo la ejecución de la regla sino su misma producción. La jaula weberiana todavía necesitaba funcionarios que la habitaran, hombres que aplicaran la norma aunque ya no la creyeran; la jaula algorítmica se cierra sobre sí misma y se administra sin nosotros, tejida en cada predicción, cada ranking, cada recomendación que aceptamos sin interrogar. No es una nueva jaula junto a la que Weber describió. Es la vieja jaula perfeccionada, ahora capaz de recalcular sus propios barrotes en tiempo real y de presentarlos, además, como libertad de elección.

Conviene detenerse en este punto porque ahí se juega buena parte del malentendido contemporáneo. Se suele elogiar la inteligencia artificial por su capacidad de aprender, como si aprender fuera un gesto de libertad. Pero desde Weber vemos otra cosa. Lo que el sistema aprende es a calcular mejor, a predecir con más finura, a clasificar con menos error. Aprende a ser más racional en el sentido formal del término, nunca en el sustantivo. Un modelo entrenado con millones de decisiones judiciales no aprende qué es la justicia. Aprende a reproducir el patrón estadístico de lo que un tribunal ha decidido, con todas sus arbitrariedades y todos sus prejuicios sedimentados. La racionalización, decía Weber, avanza precisamente así, no imponiendo una verdad sino estandarizando un procedimiento, no convenciendo sino normalizando. La máquina que aprende es la forma más acabada de esa normalización, porque convierte el pasado en molde del futuro y presenta ese molde como si fuera objetividad.

Aquí conviene introducir la distinción que Weber consideraba decisiva y que hoy resulta más urgente que nunca. Weber separó la «racionalidad formal», basada en reglas, cálculos y procedimientos cuantificables, de la «racionalidad sustantiva», vinculada a valores, a fines últimos, a lo que una comunidad considera justo o bueno. Su temor no era que la razón desapareciera. Su temor era que una forma de razón devorara a la otra. Que el cálculo de la eficiencia, perfectamente racional en sus medios, terminara ocupando el lugar de la pregunta por los fines, que es la única que importa. La inteligencia artificial es la máquina de la racionalidad formal. Optimiza cualquier cosa que se le pida optimizar. Puede maximizar la permanencia de un usuario en una pantalla, la probabilidad de reincidencia de un acusado, la rentabilidad de un despido, la eficacia de un bombardeo. En todos esos casos funciona impecablemente en el plano de los medios y guarda un silencio absoluto en el plano de los fines. No es que la IA responda mal la pregunta por el sentido. Es que no la escucha. Está construida para no escucharla.

De ahí que el concepto weberiano más pertinente para pensar este presente sea el «desencantamiento del mundo». Weber usó esa expresión para nombrar el proceso por el cual la ciencia y la técnica vaciaron el mundo de misterio, de sacralidad, de todo aquello que no se dejaba medir. El mundo desencantado es un mundo donde todo, en principio, puede calcularse, y donde por lo tanto nada exige ya reverencia. La inteligencia artificial es la herramienta más poderosa de desencantamiento jamás construida. Traduce el lenguaje, la mirada, la creación artística, la deliberación moral, la intimidad de una conversación, a vectores numéricos y correlaciones estadísticas. Muestra que aquello que creíamos irreductible, el juicio de un médico, la sensibilidad de un traductor, la intuición de un juez, puede aproximarse mediante patrones. Y al mostrarlo, lo profana. No lo destruye. Lo vuelve reproducible, y por lo tanto prescindible, y por lo tanto barato.

Este es el gesto weberiano por excelencia, y conviene verlo operar con detalle. Cuando Weber hablaba del desencantamiento no se refería solo a la pérdida de los dioses. Se refería a una transformación del saber. En el mundo encantado, sostenía, uno se sometía a fuerzas que no comprendía pero respetaba. En el mundo desencantado, en cambio, se instala la certeza de que «en principio, todas las cosas pueden dominarse mediante el cálculo». No hace falta conocerlas de verdad. Basta con saber que son calculables. La inteligencia artificial extrema esa certeza hasta volverla vertiginosa. Ya ni siquiera nosotros comprendemos cómo el sistema llega a sus resultados, y sin embargo confiamos en ellos porque funcionan, porque predicen, porque optimizan. Hemos vuelto, por un camino inesperado, a una forma de sometimiento a fuerzas incomprensibles. Solo que ahora la fuerza no es un dios ni un destino, sino una arquitectura de correlaciones que ningún ser humano puede recorrer entera. El mundo se ha desencantado tanto que ha vuelto a encantarse, esta vez bajo la forma del algoritmo opaco al que atribuimos una autoridad que no nos atrevemos a interrogar.

Sería un error, sin embargo, leer a Weber como un profeta del desastre. Weber no era un romántico que añorara un pasado encantado. Reconocía las conquistas de la racionalización, la liberación respecto de autoridades arbitrarias, el aumento del conocimiento, la prosperidad material. Su posición era más difícil y más honesta que la nostalgia. Sostenía que el proceso tenía un costo, y que ese costo recaía sobre la libertad y sobre el sentido. La misma ambivalencia debe gobernar cualquier juicio serio sobre la inteligencia artificial. No se trata de demonizar una técnica que cura enfermedades, que amplía el saber, que alivia tareas penosas. Se trata de nombrar su precio con la misma claridad con que se celebran sus beneficios. Y el precio es weberiano hasta la médula. Es la extensión de la jaula. Es el avance de una forma de razón que resuelve todos los «cómo» y desactiva todos los «para qué».

Pese al estruendoso efecto de la IA, hay en las tribus académicas una veloz naturalización postschumpeteriana, de radical acento destructivo —una tenaza de crueldad—, donde lo creativo se sostiene en un balance inflacionario, precario e impredecible. La glosa tienta. Y que hay de aquellos que vivieron en la moledora de carne del siglo XX. De aquel mundo donde el Holocausto y el Gulag no terminó en profecías. En medio del momento sombrío que habitamos —qué duda cabe de ello— se alza una furia stasiológica agudizada por el frío abismal de la cuarta revolución industrial. En medio del desbande, la imaginación se recorta cuando el coro de la plaza repite; “vivimos un momento postschumpeteriano”. En efecto, una fórmula que no es sino, otra pieza del capitalismo académico intensificado, y que suena como barricada.

Con todo, la pregunta que Weber dejó abierta reaparece intacta. Si el capitalismo victorioso «descansa en fundamentos mecánicos» y ya no necesita convicción alguna para funcionar, ¿qué lugar queda para la decisión humana sobre los fines? La inteligencia artificial agudiza el problema porque presenta cada elección política como si fuera un problema técnico. Naturaliza. Lo que era objeto de disputa, cómo distribuir un recurso, a quién vigilar, qué merece protección, se convierte en un asunto de optimización, delegable a un sistema que promete neutralidad y que en realidad hereda y amplifica los sesgos de quienes lo entrenan. La dominación se vuelve más eficaz justamente porque deja de parecer dominación. Se presenta como cálculo, y el cálculo parece no tener autor. Esta es la versión contemporánea de la impersonalidad burocrática que Weber describió, y es más difícil de combatir porque ya ni siquiera tiene un rostro al cual dirigir el reclamo.

Conviene entonces cerrar donde Weber cerraba, sin consuelo fácil pero sin resignación. Weber describió la burocratización del mundo con una imagen sombría, «la noche polar de helada oscuridad», y sin embargo insistió en que el porvenir no estaba escrito, que dependía de la capacidad de los seres humanos para introducir en el aparato una voluntad, un valor, una decisión que no fuera meramente calculada. El desafío que plantea la inteligencia artificial es exactamente ese, formulado de nuevo para nuestra época. No consiste en detener la técnica, cosa imposible, ni en confiar en que se corregirá sola, cosa ingenua. Consiste en algo mucho más arduo: en reintroducir la racionalidad sustantiva justo allí, en el corazón del terreno diseñado para expulsarla. En volver a preguntar por los fines precisamente donde solo se nos ofrecen medios cada vez más perfectos y cada vez más mudos. En recordar, contra toda la evidencia del cálculo, que ninguna optimización —por prodigiosa que sea— responde jamás a la única pregunta que define una vida digna: la pregunta por lo que vale la pena. Esa pregunta la máquina no puede formularla; ni siquiera puede oírla. Nosotros todavía sí. Y en esa diferencia —delgada, frágil, casi nada— se decide todo: si la jaula será una prisión de la que ya nadie sabrá que está preso, o apenas una herramienta que sabremos poner en su sitio. Weber no nos dejó la respuesta. Nos dejó algo más exigente y más valioso que cualquier respuesta: la obligación de no dejar de plantear la pregunta, una y otra vez, mientras quede alguien capaz de hacerla.

Referencias.

Weber, M. (2003). La ética protestante y el espíritu del capitalismo (Trad. F. Gil Villegas). Fondo de Cultura Económica. (Obra original publicada en 1905).

Baehr, P. (2001). The “Iron Cage” and the “Shell as Hard as Steel”: Parsons, Weber, and the Stahlhartes Gehäuse Metaphor in the Protestant Ethic. History and Theory, 40(2), 153–169.

Dr. Mauro Salazar J. Ufro/Sapienza