¿Qué hace estúpidos a los humanos?

Jamás he oído que se describa una roca como estúpida. Y lo mismo podría decirse de un río, un huracán o incluso un termostato. La estupidez parece ser una forma sofisticada de comportamiento, a pesar de sus connotaciones negativas.

Los seres humanos son capaces de aterrizar vehículos autónomos en Marte, secuenciar un genoma en horas y diseñar circuitos nanométricos. Sin embargo, las teorías conspirativas, los movimientos políticos anticientíficos y el odio institucional proliferan a una escala que podría avergonzar el modesto historial de éxitos de un alquimista medieval.

Podría decirse que la estupidez implica la capacidad de acertar antes de equivocarse estrepitosamente. La estupidez no es lo opuesto a la inteligencia, sino su gemela malvada, el Caín disimulador frente al Abel cerebral. Y, quizás sorprendentemente, el grado de estupidez al que puede estar expuesto cualquier sistema es directamente proporcional a la inteligencia que posee: a mayor inteligencia, mayor estupidez. Sería exagerado llamar estúpida a una bacteria, y sabemos que los gatos y los perros alcanzan niveles modestos de estupidez. Pero los seres humanos, dotados de lenguaje, abstracción, tecnología, instituciones e ideología, pueden ser estúpidos a una escala verdaderamente civilizatoria. Esto no es una broma; se acerca a una ley de la naturaleza. Una ley que bien podría ser nuestra perdición.

Contamos con miles de programas de investigación sobre inteligencia, y no todos son realmente inteligentes, incluyendo estudios sobre coeficiente intelectual, IA, cognición animal y resolución colectiva de problemas. Estos se llevan a cabo en departamentos de renombre y se publican en prestigiosas revistas especializadas en comprender cómo la mente humana simplifica problemas complejos. Hoy en día, es imposible dar un paso sin toparse con otro artículo sobre inteligencia e IA. Investigadores de todos los campos, sin ningún conocimiento de la investigación sobre inteligencia ni de su historia, se han autoproclamado "líderes de opinión" en inteligencia natural y artificial.

Sin embargo, la estupidez casi no recibe atención. Se la trata como una mera ausencia, como si al restar inteligencia lo único que quedara fuera estupidez. Se la compara con una especie de oscuridad psicológica que se experimenta tras apagar la luz del razonamiento. Pero esta es una creencia errónea. La oscuridad no causa el daño que causa la estupidez. La estupidez toma un problema sencillo y, con gran esfuerzo e ingenio mal dirigido, lo complica. Ese esfuerzo es la clave para comprender la estupidez, ya que se necesita una maquinaria sofisticada para ser genuinamente estúpido y tener consecuencias.

Así es como me gusta abordar esto desde una perspectiva científica. Si la inteligencia consiste en simplificar un problema de dificultad X mediante el uso de herramientas, las matemáticas y estrategias que reducen su coste, entonces la estupidez consiste en complicarlo. Y, contrariamente a lo que cabría esperar, la forma más fiable de complicar un problema sencillo es recurrir a un impresionante aparato de teorías complejas, creencias elaboradas y algoritmos sofisticados que suenan tremendamente convincentes, pero que resultan peores que no hacer nada. Quien desconoce la respuesta a una pregunta es simplemente ignorante. Quien construye un ingenioso argumento de cien páginas para la respuesta equivocada es estúpido. Como han comprendido grandes escritores, artistas y filósofos a lo largo de la historia, tales construcciones requieren una inteligencia superior.

Consideremos esta analogía. Cuando un meteorito choca contra la Tierra, en ningún sentido está haciendo nada malo. Está obedeciendo las leyes de la mecánica clásica, y eso es todo lo que hay que decir al respecto. Pero cuando un pájaro choca contra una ventana de cristal, sucede algo diferente, algo que con razón podemos llamar un error.

La vida, a diferencia de otros sistemas físicos, tiene la capacidad de equivocarse. La estupidez es una forma muy particular de error, y no todos los errores entran en esta categoría. Las personas se equivocan por ignorancia (datos insuficientes), por ruido (una señal distorsionada) o por la aplicación errónea, aunque honesta, de una regla a una situación nueva y un contexto cambiante. Estas son las desgracias de nuestra vida que debemos perdonar. La estupidez comienza cuando el error se elabora, se defiende, se refina, se institucionaliza y se convierte en la base de acciones posteriores. La estupidez lo empeora todo progresivamente. Y es precisamente esta elaboración de creencias y comportamientos erróneos lo que exige, paradójicamente, la existencia previa de inteligencia.

Algunos de los mayores actos de estupidez consisten en aplicar una teoría perfectamente válida al problema equivocado. Algunos argumentarían que la mecánica cuántica es uno de los inventos más «inteligentes» de la física, uno que proporciona un marco de extraordinaria precisión para describir el comportamiento de las partículas subatómicas, a pesar de sus requisitos verdaderamente contraintuitivos.

Pero existe un pequeño grupo de pensadores que han intentado aplicar la mecánica cuántica a la conciencia humana, la toma de decisiones y la psicología para explicar por qué las personas son indecisas y por qué finalmente se deciden. Las matemáticas son correctas y la física es sólida. Sin embargo, la aplicación es peculiar. Lo que era una descripción elegante y concisa de fotones y electrones se convierte, al importarse a la psicología, en una forma absurdamente complicada de decir que las personas a veces cambian de opinión. Un fenómeno que un novelista podría ilustrar en un párrafo ha quedado sepultado bajo un formalismo diseñado para una escala de realidad completamente diferente. La teoría no se volvió menos inteligente, sino que se le pidió que resolviera un problema para el que nunca fue diseñada, y en el proceso, hizo que ese problema fuera más difícil de entender, no más fácil. Esto contradice el propósito de la ciencia, que es, como lo describió el físico y filósofo Ernst Mach, «la presentación más completa posible de los hechos con el menor esfuerzo mental posible».

El movimiento inicial de la cibernética ofrece una advertencia similar. Norbert Wiener y sus colegas del MIT desarrollaron un marco conceptual sólido para comprender la retroalimentación, el control y la comunicación en máquinas y organismos. Las matemáticas eran originales, las aplicaciones de ingeniería impresionantes, e incluso la iniciativa cibernética sentó las bases para el desarrollo de la ciencia de la complejidad.

Posteriormente, la consultora de gestión Stafford Beer y otros intentaron aplicar la teoría del control cibernético a la gestión de economías nacionales enteras, siendo el caso más conocido el del Chile de Salvador Allende, donde el Proyecto Cybersyn intentó dirigir la economía chilena mediante una red de máquinas de télex. La idea era modelar la economía como un sistema dinámico con entradas y salidas, y utilizar la retroalimentación en tiempo real para optimizar la producción y la distribución.

Lamentablemente, una economía no es un servomecanismo. Los bucles de retroalimentación en una economía nacional involucran millones de agentes adaptativos con información privada, objetivos contrapuestos y una tendencia a evolucionar sus preferencias. La seducción de aplicar métodos cibernéticos a sistemas complejos queda bellamente descrita por mi colega del Instituto Santa Fe, el escritor Francis Spufford, en su novela Red Plenty: «El mundo emergía de la oscuridad y comenzaba a brillar, y las matemáticas eran la forma en que él podía ayudar. Era su contribución. Era lo que podía ofrecer, según sus capacidades. Tuvo la suerte de vivir en el único país del planeta donde los seres humanos habían tomado el poder de moldear los acontecimientos según la razón».

Una simple intervención conductual, como ajustar un precio, modificar una normativa o, Dios no lo quiera, simplemente preguntar a la gente qué necesita, a menudo podría haber logrado en una tarde lo que el aparato cibernético tardaba semanas en modelar. La inteligencia de la cibernética como marco para el control de sistemas simples es incuestionable, pero su aplicación a la economía aumentó la complejidad del problema que pretendía resolver.

El novelista y ensayista austriaco Robert Musil, en una conferencia de 1937 titulada «Sobre la estupidez», describió la que quizás sea la distinción más importante en toda la literatura sobre la estupidez. Separó la «estupidez honorable», que es una simple limitación cognitiva, o la incapacidad de comprender un argumento difícil, de la «estupidez inteligente», que consideraba mucho más peligrosa. Esta idea es la preocupación central de mi novela favorita de Musil, El hombre sin atributos. La estupidez inteligente moviliza todos los recursos del intelecto al servicio de un error. No es la incapacidad de pensar; es pensar de forma ostentosa y sistemática en la dirección equivocada. Un estudiante que no puede seguir una demostración matemática no es estúpido en el sentido de Musil. Un profesor de matemáticas que construye un elegante edificio teórico para defender una proposición que un niño podría ver que es falsa es inteligentemente estúpido.

Musil no fue el único en tomarse la estupidez en serio. Los novelistas han comprendido desde hace tiempo la relación entre inteligencia y estupidez con una claridad que la mayoría de los científicos prefieren ignorar. Quizás porque la ficción puede mostrar el proceso por el cual una inteligencia puede devorarse a sí misma, un espectáculo bastante desagradable para un racionalista.

En Los viajes de Gulliver, Jonathan Swift describe la Academia de Lagado, cuyos investigadores emplean una variedad de elaboradas metodologías experimentales. Uno extrae rayos de sol de pepinos, otro ablanda mármol para convertirlo en almohadas, y un tercer colega cría ovejas desnudas. La sátira de Swift apunta claramente a diversas formas de investigación sistemática mal encaminada. Se trata de inteligencias atrapadas en marcos tan rígidos que producen resultados peores que la inacción. En la ciudad flotante de Laputa, brillantes matemáticos y consumados músicos aplican la geometría proyectiva para construir sin ángulos rectos, y los chefs preparan platos basados en figuras geométricas. Son abstracciones de exquisita sutileza y poder matemático que se vuelven inútiles cuando se dirigen a problemas prácticos equivocados.

En su obra Los reconocimientos, William Gaddis presenta una sociedad de falsificaciones, atribuciones erróneas y falsificaciones en la que se despliega un ingenio enorme al servicio de la inautenticidad. El protagonista, Wyatt Gwyon, produce pinturas flamencas falsificadas que requieren más habilidad y conocimiento que las composiciones originales. Sus falsificaciones son técnicamente magistrales, impecables desde el punto de vista histórico del arte y completamente fraudulentas. Cada uno de sus numerosos personajes habla sin entenderse entre sí en diálogos cada vez más incoherentes, utilizando una considerable inteligencia verbal para profundizar la confusión general.

La novela El arco iris de la gravedad de Thomas Pynchon describe un vasto aparato burocrático y militar de la Segunda Guerra Mundial que funciona como una máquina para convertir la planificación racional en catástrofe. Los cárteles y los ingenieros de cohetes de Pynchon no son tontos, todo lo contrario, y su competencia reside en el cohete V-2, que amenaza con aniquilar las ciudades occidentales devastadas por la guerra. Pynchon describe un mundo en el que la inteligencia institucional se convierte en una forma de estupidez colectiva.

Varios filósofos han intentado ofrecer un marco para comprender este fenómeno perverso. Erasmo, en 1511, en Elogio de la locura, sugiere que la locura es el motor del logro humano. Sin autoengaño y exceso de confianza, nada se intentaría jamás. El desafío para Erasmo no era si una civilización produce estupidez, sino si producirá la clase de estupidez que permita sobrevivir.

Dietrich Bonhoeffer, escribiendo desde una prisión nazi en 1943, sugiere que la estupidez no es un defecto cognitivo, sino una estructura sociológica impuesta. Las personas bajo el influjo del poder tienden a renunciar a su capacidad de juicio independiente y se convierten en instrumentos "estúpidos". Y Carlo Cipolla, historiador económico italiano, en Las leyes básicas de la estupidez humana, publicado en 1976, definió a una persona estúpida como aquella que causa pérdidas a otros sin obtener ningún beneficio, o incluso sufriendo algún daño, para sí misma. Cipolla se atrevió a proponer que la proporción de personas estúpidas es constante en todas las poblaciones, desde profesores, fontaneros, generales y conserjes. Yo sugeriría, en consonancia con las especulaciones de Swift y Musil, que la situación empeora con la complejidad.

Si la estupidez resulta costosa para quienes la practican, ¿por qué la selección natural, o incluso la cultural, no la elimina de las poblaciones de organismos? Una posibilidad obvia es un cambio en el entorno que vuelva obsoleto un comportamiento anterior.

Durante millones de años, mantener un ángulo fijo con respecto a una fuente de luz celeste distante, la luna y las estrellas, demostró ser una heurística de navegación vital en todo el reino animal. Es eficiente, fiable y requiere un mínimo de capacidad neuronal. Una vez que los humanos inventaron la iluminación artificial, una estrategia que había funcionado durante eones se volvió suicida. Una polilla que gira hacia la llama de una vela no está fallando en su navegación, sino que está utilizando una regla empírica probada a lo largo del tiempo que se ha vuelto catastróficamente errónea debido a un cambio de contexto.

La inteligencia y la estupidez resultan ser cronométricas. Una heurística brillante y una fatal pueden ser la misma, separadas por un cambio inesperado en el mundo. Las tortugas marinas han seguido la luz de la luna hacia el océano durante 100 millones de años y ahora se orientan hacia la iluminación artificial de los edificios de apartamentos que proliferan frente al mar. Los albatros han evolucionado para capturar peces de la superficie del océano y ahora, sin saberlo, recogen plástico flotante para alimentar a sus crías.

El hongo Ophiocordyceps infecta a las hormigas carpinteras y manipula sus circuitos de comportamiento. Una hormiga infectada trepa hasta una altura precisa en el tallo de una planta, sujeta con sus mandíbulas el envés de una hoja y muere, quedando en la posición ideal para que el hongo disperse sus esporas. El programa de comportamiento de la hormiga ha sido alterado. La hormiga realiza una compleja secuencia de acciones, que incluyen trepar, orientarse y sujetarse, al servicio de otro organismo. Esta hormiga encaja perfectamente con la idea de competencia de Bonhoeffer, manipulada por un agente malicioso para resolver el problema equivocado. Quizás la especialización produce inteligencia local que, al extenderse en exceso, puede generar estupidez global. Esto representaría un cambio de escala y dominio similar al cambio de entorno de la polilla.

El físico Lord Kelvin empleó todos sus conocimientos de física para demostrar la imposibilidad de construir aeronaves más pesadas que el aire, menos de una década antes de que los hermanos Wright volaran una de ellas. Nikola Tesla rechazó la mecánica cuántica y la teoría de la relatividad, argumentando que la futura civilización humana se basaría en la energía de la Tierra mediante la "resonancia terrestre". Y Percival Lowell utilizó sus telescopios para cartografiar "canales" en la superficie de Marte, que según él eran acequias de irrigación extraterrestres. Todos estos son ejemplos del exceso de compromiso y desarrollo de una idea, alejándola del terreno donde alguna vez creció y floreció, o del que fue desterrada sin contemplaciones.

La inteligencia artificial es, por diseño, el artefacto cognitivo más poderoso jamás creado. Está diseñada para minimizar el esfuerzo del usuario, realizando tareas que, de otro modo, resultarían tediosas o imposibles para los humanos. El problema, por supuesto, es que cuanto mejor es la herramienta, menos necesita pensar el usuario. Y en un círculo vicioso, cuanto menos piensa el usuario, más dependiente se vuelve de sus herramientas. Esto continúa hasta que la herramienta desaparece y todo el sistema colapsa.

Si la inteligencia es una condición necesaria para la estupidez, y la inteligencia y la estupidez están estrechamente relacionadas de tal manera que se necesita verdadera inteligencia para ser espectacularmente estúpido, entonces la superinteligencia será el preludio de una era de super estupidez.

La alucinación de la IA podría ser la primera evidencia de esta dinámica. Los grandes modelos de lenguaje producen textos fluidos, seguros y detallados que, con cierta regularidad, contienen errores de hecho. Y esto no es un simple fallo, sino una característica estructural de los sistemas que priorizan el atractivo y la plausibilidad sobre la verdad. El peligro no reside en que la IA se equivoque —al fin y al cabo, los humanos nos equivocamos constantemente—, sino en que, conscientes de ello, hemos inventado métodos para detectar y corregir errores. A esto lo llamamos método científico.

El peligro reside en que una IA cometa errores indetectables para los humanos, ya que las capacidades necesarias para detectarlos se han externalizado a la máquina o superan las capacidades de la mente humana. Nos enfrentamos a la posibilidad de una estupidez tan sofisticada que, para quienes la reciben, se vuelva indistinguible de la inteligencia. Esta es la parábola de La guía del autoestopista galáctico de Douglas Adams, donde la respuesta a la pregunta fundamental —el sentido de la vida, del universo y de todo lo demás— es 42.

Me gustaría hacer una modesta propuesta y sugerir que necesitamos una ciencia de la estupidez tan rigurosa como nuestras incipientes ciencias de la inteligencia. Esto no requerirá miles de millones de dólares de inversión. Implicaría investigar los mecanismos mediante los cuales los sistemas inteligentes producen resultados estúpidos. Incluiría el estudio de la dinámica evolutiva que mantiene la estupidez a pesar de sus costos selectivos. Promovería el desarrollo de principios de diseño que distingan las herramientas que mejoran la cognición de las que la reemplazan. Y abarcaría el análisis de las condiciones institucionales bajo las cuales la inteligencia colectiva se degrada hasta convertirse en estupidez colectiva.

La estupidez no es lo que queda al restar la inteligencia, sino un mecanismo activo con su propia lógica, su propia dinámica y una capacidad de crecimiento ilimitado que se nutre del ingenio. En un mundo obsesionado con tecnologías cognitivas cada vez más potentes, comprender la estupidez no es meramente un ejercicio académico, sino que podría resultar ser lo más inteligente que hagamos.

Contáctanos