La fantasía de la infalibilidad

Por Yuval Noah Harari

Es sabido que San Agustín dijo: «Errar es humano; perseverar en el error es diabólico». La falibilidad de los seres humanos y la necesidad de corregir sus errores han desempeñado un papel clave en toda mitología. Según la cristiana, toda la historia es un intento de corregir el pecado original de Adán y Eva. Según el pensamiento marxista-leninista, incluso la clase obrera es susceptible de ser engañada por sus opresores y erraar en la identificación de sus propios intereses, que es la razón por la que necesita el liderazgo de la vanguardia de un partido sensato. Asimismo,la burocracia siempre se halla al acecho de errores, desde documentos mal archivados hasta procedimientos ineficientes. Los sistemas burocráticos complejos suelen contener cuerpos de autocontrol, y cuando tiene lugar una catástrofe importante – como un desastre militar o un colapso económico – se establecen comisiones para comprender que ha fallado y para garantizar que el error no se repita.

Los mecanismos de autocontrol necesitan legitimidad para funcionar. Si los humanos somos propensos al error, ¿cómo podemos confiar en que los mecanismos de autocontrol sean infalibles? Para liberarnos de este bucle en apariencia infinito, a menudo hemos fantaseado con un mecanismo sobrehumano, libre de todo error, en el que podemos confiar para identificar y corregir nuestras propias equivocaciones.

En la actualidad cabría esperar que la IA proporcionara dicho mecanismo, como cuando en abril de 2023 Elon Musk anunció: «Voy a poner en marcha algo que denomino TruchGPT o una IA suprema que busque la verdad e intente entender la naturaleza del universo». En los próximos capítulos, veremos por qué esta es una fantasía peligrosa. En eras anteriores, tales fantasías adoptaron una forma diferente: la religión.

En nuestra vida personal, la religión puede realizar diferentes tipos de funciones, como dar consuelo o explicar los misterios de la vida. Pero, históricamente, la función más importante que ha ejercido la religión ha sido la de proporcionar una legitimidad sobrehumana al orden social. Religiones como el judaísmo, el cristianismo, el islam y el hinduísmo defienden que una fuente sobrehumana infalible fijó sus ideas y preceptos y que, por lo tanto, están libres de toda posibilidad de error y que nunca deberían ser cuestionados ni modificados por humanos falibles.