Reseña de Nexus de Yuval Noah Harari: ¿el fin de los días?
El autor de Sapiens puede ser un excelente escritor narrativo, pero su pontificación apocalíptica sobre la IA supera la credulidad.
Como corresponde a un escritor cuya obra revelación, Sapiens, fue una historia de toda la raza humana, Yuval Noah Harari es un maestro de la generalización sentenciosa. “La vida humana”, escribe aquí, “es un acto de equilibrio entre el esfuerzo por mejorarnos a nosotros mismos y la aceptación de quiénes éramos”. ¿Lo es? ¿Es eso todo lo que es? En otro lugar, uno podría sorprenderse al leer: “Los antiguos romanos tenían una comprensión clara de lo que significa la democracia”. Sin duda, los romanos se habrían alegrado de saber que, 2.000 años en el futuro, recibirían una estrella de oro por su comprensión de los conceptos políticos eternamente estables de Yuval Noah Harari.
En su libro de 2018, 21 lecciones para el siglo XXI, Harari escribió: “Los liberales no entienden cómo la historia se desvió de su curso predeterminado, y carecen de un prisma alternativo a través del cual interpretar la realidad. La desorientación les hace pensar en términos apocalípticos”. Parece que, en los años transcurridos desde entonces, el propio Harari se ha convertido en liberal, porque este libro trata del escenario apocalíptico de cómo la “red informática” –todo, desde el capitalismo de vigilancia digital hasta los algoritmos de redes sociales y la inteligencia artificial– podría destruir la civilización y marcar el comienzo del “fin de la historia humana”. Fukuyama, tómalo.
Como Malcolm Gladwell, Harari tiene una necesidad apasionada de que se le vea refutando la sabiduría recibida. Mucha gente piensa, por ejemplo, que la imprenta hizo una contribución crucial al surgimiento de la ciencia moderna. No es así, insiste Harari: después de todo, la imprenta también permitió la difusión de noticias falsas, como libros sobre brujas, y por eso Gutenberg es en parte responsable de la espantosa tortura y asesinato de los acusados de brujería en toda Europa. Por tonto que pueda parecer, también pasa por alto el punto fundamental: como el método científico es acumulativo, la ciencia moderna solo pudo surgir una vez que los resultados de los experimentadores anteriores estuvieron ampliamente disponibles para quienes los siguieron. Solo a través de la escalera de la imprenta pudieron los científicos modernos tempranos subirse a hombros de gigantes.
Pero quizá he caído presa de lo que Harari llama “la visión ingenua de la información”, que cambia sutilmente a lo largo del libro según lo exigen las circunstancias retóricas hasta convertirse en una especie de monstruo de paja de Frankenstein. La visión ingenua de la información abarca la idea de que “es esencialmente algo bueno, y cuanto más tengamos, mejor”, algo que mucha gente cree y con lo que es difícil rebatir, pero también sostiene supuestamente que la información suficiente conduce ineluctablemente a la sabiduría política y que el libre flujo de información conduce inevitablemente a la verdad, proposiciones en las que casi nadie cree. “Saber que e=mc2 no suele resolver los desacuerdos políticos”, dice Harari, sin dirigirse a nadie.
Lo sabemos ya por la historia de los gobiernos dictatoriales y totalitarios y sus intentos de recopilación de información y control, una historia de la que Harari extrae docenas de anécdotas escalofriantes y coloridas para persuadir al lector de la falsedad de una visión patentemente ridícula.
¿Qué pueden hacer entonces las computadoras modernas que debería preocuparnos tanto? Harari es peculiarmente crédulo respecto de las capacidades de lo que ahora se comercializa como “IA”. Nadie ha visto aún a un chatbot crear nuevas ideas, como Harari cree que pueden, y mucho menos generar arte que no sea simplemente una recombinación probabilística de patrones en sus datos de entrenamiento (“Las computadoras pueden hacer innovaciones culturales”, escribe en uno de los muchos pasajes junto a los cuales garabateé “cita requerida”). Mientras tanto, en algún momento en el futuro, lo que Harari llama “nuestros nuevos señores supremos de la IA” aparentemente adquirirán poderes aterradores parecidos a los de un dios. En su bola de cristal, un señor supremo de la IA podría decidir diseñar un nuevo virus pandémico, o un nuevo tipo de dinero, mientras inunda las redes de información del mundo con noticias falsas o incitaciones a la revuelta.
Mientras tanto, la caída de una “cortina de silicio” profetizada aquí no es un problema de IA per se, sino de geopolítica: extrapolando a partir del Gran Cortafuegos de China, que impide a la mayoría de los ciudadanos chinos acceder a sitios como Google y Wikipedia, Harari supone que, con el tiempo, los sistemas informáticos chinos y estadounidenses podrían verse completamente impedidos de interoperar o incluso comunicarse entre sí, con lo que “se acabaría con la idea de una única realidad humana compartida”. Preocupante si es cierto. El irredentismo violento de Vladimir Putin en Ucrania, señala Harari, está inspirado en parte por su creencia en una versión partidista de la historia rusa, lo que muestra el peligro de la falta de mitos compartidos. Sin embargo, esto es una característica de casi todas las guerras desde el comienzo de los tiempos, por lo que no estoy seguro de que podamos culpar a las computadoras por ello.
¿Qué podemos hacer entonces para salvar la civilización humana y nuestra realidad compartida? Sencillo, concluye Harari: someter los algoritmos y la inteligencia artificial a una fuerte regulación oficial y centrarnos en “construir instituciones con fuertes mecanismos de autocorrección”. ¿Seguir siendo democracias liberales? Es una conclusión un tanto deslucida para un libro que ha adoptado un tono de fin de los tiempos.
Lo molesto es que Nexus también contiene muchas discusiones demasiado breves pero fascinantes sobre temas que van desde el proceso por el cual se canonizaron los libros que componen la Biblia moderna, o el papel del “news feed” de Facebook en el fomento de las masacres en Myanmar de 2016-17 , hasta el sistema de reconocimiento facial utilizado por Irán para detectar mujeres sin velo.
Hay unas cuantas páginas brillantes, en particular, sobre la difícil situación de los judíos en la Rumanía fascista, incluido el propio abuelo de Harari, que en 1938 se vio obligado a presentar documentos que demostraban su derecho a la ciudadanía, que en muchos casos habían sido destruidos por las autoridades municipales. Cuando Harari no está en su modo de pontificación oracular, puede ser un excelente escritor de narraciones. Pero debemos suponer que lo que quieren sus lectores son pontificaciones oraculares.
'Nexus’, de Yuval Noah Harari: un mundo ahogado en información
El historiador israelí vuelve 10 años después de ‘Sapiens’ con una exploración concienzuda y ambiciosa sobre las redes de comunicación y su función esencial en la organización humana
Diez años después de Sapiens, el libro que le convirtió en uno de los intelectuales más influyentes del mundo, y tras haber vendido 45 millones de ejemplares de esa obra y dos secuelas, Yuval Noah Harari vuelve con Nexus, una exploración concienzuda y ambiciosa sobre las redes de información y su función esencial en la organización de las sociedades humanas a lo largo de la historia. Aunque se remonta a los tiempos anteriores a la invención de la escritura, el libro también se zambulle a fondo en las cuestiones más candentes de la actualidad, con particular énfasis en las redes sociales, la desinformación y los riesgos de la inteligencia artificial, que él considera una amenaza vital para la supervivencia no ya de la democracia, sino de la civilización en su conjunto.
La tesis central de Nexus es que la función de la información no es representar la realidad, sino crear vínculos entre grandes grupos humanos. Harari admite que tres milenios de filosofía y cuatro siglos de ciencia nos han aportado vastas cantidades de información y un gran poder, pero no cree que por ello nos conozcamos mejor ni seamos más sabios. Como historiador y como analista escéptico de la ciencia y la tecnología, concede mucha más importancia a la construcción de redes cooperativas mediante ficciones, fantasías e ilusiones sobre dioses, naciones y transacciones económicas. Desde esta perspectiva, la Biblia es mucho más valiosa y poderosa que los Principia de Newton y El origen de las especies de Darwin juntos, como un bulo lo es más que un mensaje veraz. La ignorancia es fuerza, como dijo George Orwell.
La teoría generalizada de que la información conduce a la verdad, y de ahí a la sabiduría y al poder, es para Harari la “idea ingenua de la información”. El autor se revuelve así contra los visionarios tecnológicos contemporáneos que, como Mark Zuckerberg, Ray Kurzweil y el resto de la plana mayor de Silicon Valley, sostienen que las redes sociales promueven el entendimiento entre personas, crean un mundo más abierto y generan un círculo virtuoso del bienestar por donde fluyen “la alfabetización, la educación, la riqueza, la salud, la democratización y la reducción de la violencia” (Kurzweil). Algunas de las páginas más brillantes de Nexus se dedican a refutar de manera contundente, casi cruenta, ese espejismo candoroso.
Tomemos el caso de los rohinyá, los habitantes musulmanes del oeste de Myanmar (antigua Birmania), un país de mayoría budista. Pese a las esperanzas de convivencia pacífica suscitadas a principios de los 2010, los rohinyá sufrieron en esa misma década unos torbellinos de violencia sectaria y racista promovidos en su mayor parte por las mentiras asesinas aparecidas y propagadas en Facebook, la red social del mismo Zuckerberg al que hemos visto más arriba predicando las virtudes teologales de su negocio billonario. La campaña de limpieza étnica que, en 2016, destruyó los pueblos rohinyá, asesinó a 20.000 civiles desarmados y expulsó de Myanmar a 700.000 musulmanes, se gestó y difundió a través de las falsedades y los mensajes de odio que circularon por Facebook.
La ONU concluyó en 2018 que Facebook había desempeñado un “papel determinante” en la campaña de limpieza étnica, como ya había denunciado Amnistía Internacional y como le parecerá obvio a cualquier otro observador sensato. Pero ni Zuckerberg ni sus ejecutivos ni sus ingenieros pagaron el menor precio por ello, ni tampoco adoptaron ninguna medida de corrección en sus algoritmos. La jurisprudencia norteamericana libera de toda responsabilidad a las plataformas por las mentiras y los mensajes de odio que circulan por sus redes, y así seguimos seis años después pese a las iniciativas legales europeas —que se han topado con la fiera oposición de los abogados de Silicon Valley— e incluso de una creciente suspicacia de parte de la clase política estadounidense.
Pero el blanco de las críticas de Harari no son los ejecutivos de Silicon Valley que han consentido toda esta inundación de odio, ni menos aún los ingenieros que han diseñado los algoritmos. Su blanco son los propios algoritmos, porque la intención del autor es avisar al mundo del riesgo, para él inminente, de que las máquinas se hagan con el control de las sociedades humanas. “Los ejecutivos de California no albergaban animadversión alguna hacia los rohinyá”, escribe Harari. “De hecho, apenas sabían de su existencia”. Algunos lectores se sorprenderán de esta actitud exculpatoria hacia los responsables humanos de la propagación del odio, máxime cuando el autor reconoce y documenta que el objetivo de la empresa era “recopilar más datos, vender más anuncios y acaparar una proporción mayor del mercado de la información”. Pero el caso es que lo que realmente atormenta a Harari es el robot, no sus creadores.
El estilo discursivo de Nexus es puro Harari. El historiador tiene una habilidad endemoniada para exponer argumentos sofisticados sobre cuestiones complejas sin dolor para el lector, porque lo hace enlazando un ejemplo revelador tras otro, el arca de Noé con Elon Musk, la mitología con la burocracia, la Biblia con ChatGPT. El libro está exhaustivamente documentado y es producto de una reflexión profunda y perseverante, pero el lector se podrá beneficiar de todo ello sin sentir el menor dolor, ni fatiga, ni aburrimiento. Pocos pensadores pueden escribir 600 páginas plagadas de ideas innovadoras y estimulantes que el lector puede absorber como quien da un paseo por el campo. Aunque sea un campo de minas.
A pesar de cierta superficialidad y alguna contradicción, 'Nexus', el nuevo libro del israelí, es un ensayo muy recomendable que reflexiona sobre la historia de la comunicación humana y el turbio horizonte que ofrece la inteligencia artificial
Admitamos que Yuval Noah Harari (Israel, 1976) ya no es sólo un divulgador científico. Hoy día, Harari se ha convertido en una marca intelectual de primer nivel. Es cierto que, hace una década y media, Harari sí que fue un académico israelí que publicó un ambicioso ensayo de divulgación titulado Sapiens. Por motivos imprevistos, este título resonó tan fuerte en la conversación pública mundial que semejaba una detonación controlada y paulatina. En cada país en el que se publicaba, Sapiens dominaba la lista de ventas y el debate público. Fue el producto idóneo, en el momento oportuno y con las metáforas colectivas adecuadas para iluminarnos a nosotros mismos como especie.
Con el paso de estos años y la amplificación digital de su universo filosófico, Harari ya se ha transformado en una de esas voces globales, un gurú moderno, con consultora propia (Sapienship, fundada junto a su pareja Itzik Yahav) y presencia en grandes foros (Davos, etc.), que rentabiliza sus valiosos productos intelectuales con éxito y solvencia. Parece razonable, por tanto, que su reciente y esperada nueva obra, Nexus, deba ser interpretada bajo la clave de su nueva posición pública. Y, también, bajo la clave de sus correspondientes intereses. Esos bajo la que publicó su anterior trabajo 21 lecciones para el siglo XXI.
Con este contexto, y tras la lectura del libro que motiva este artículo, podemos concluir que Nexus es una pieza más en la construcción de esta suerte de doctrina filosófica que nos propone Harari. ¿Qué se puede encontrar por tanto el lector que se adentre en este ensayo? Una continuación, por un lado, de las mismas ideas globales propuestas en Sapiens y, por otro, el uso de dicho marco intelectual para analizar los riesgos actuales que presenta la adopción masiva de las inteligencias artificiales.
Nexus es una obra planteada en dos mitades diferenciadas, que incluso me atrevería a decir que se podrían leer por separado. La primera sección es de alguna forma introductoria y está dedicada a profundizar en el concepto de "información" como partícula elemental de nuestra construcción social humana. Es de sobra conocido que el libro más vendido del mundo ya nos anunciaba esa misma realidad: "En el principio era el Verbo". Pero Harari nos hace una detallada explicación desde su perspectiva empirista postreligiosa.
Observado desde el punto de vista de la novedad, la primera mitad de Nexus (Parte I y mitad de la Parte II) es una actualización especializada de los temas que ya ha tratado Harari tanto en Sapiens como en Homo Deus. El autor se centra en cómo opera el flujo de información en la arquitectura global humana, pero no hay un cambio significativo en sus puntos de partida. Harari insiste en la construcción de relatos compartidos y de narrativas colectivas como base necesaria para la cooperación humana y para la construcción de nuestras burocracias (Estados e instituciones).
Agudo y elocuente en su reflexión sobre los mecanismos de autocorrección científicos frente a la ausencia de estos en otros textos revelados, Harari dedica unas cuantas páginas al análisis de la construcción histórica de los textos sagrados con el objeto final de neutralizar la embrionaria tendencia a deificar a las nuevas IAs como mecanismos infalibles (nada más lejos). Al ofrecer Harari una visión macro de los hechos, muchas de sus afirmaciones se podrían matizar por su superficialidad, aunque el propósito final queda claro: insistir en su postura atea con argumentos semejantes a Dawkins y alertar del peligro de un paganismo tecnológico.
En la segunda parte, Harari realiza un amplísimo state of the art del origen, la naturaleza y las profundas implicaciones globales de una inteligencia artificial descontrolada, desde las democracias occidentales a las consecuencias individuales. Como hemos mencionado arriba, el mayor desafío que presenta la creación de grandes narrativas -que es el objetivo principal de la obra de Harari- reside en definir una coherencia entre hechos históricos a priori desconectados, dotándoles de un principio de racionalidad válido y verosímil. O quizá iluminándolos con una causalidad no detectada.
Por esta razón, chirría un tanto el catastrofismo apocalíptico con respecto a la IA que nos describe Harari en este libro (y en cualquiera de sus últimas apariciones públicas o de sus tribunas en prensa) mientras admite prudentemente en sus páginas que "adivinar los acontecimientos del futuro cultural e ideológico suele ser un ejercicio estéril".
Cierto que Harari lleva, más o menos desde 2020, insistiendo bienintencionadamente en las amenazas globales que nos acechan a los humanos, y uno no sabe si esa responsabilidad de todólogo (perdón) universal que se ha autoimpuesto le está haciendo dedicarle más páginas de lo debido a un proceso (el desarrollo de las IAs) sobre el que el discurso público poco (o muy poco) puede intervenir ya que, pese a que exista una estupenda ley europea, no se puede legislar ni regular sobre lo que no se conoce. Y la rapidez, como él mismo menciona, a la que progresa la investigación en la IA ha tomado tal velocidad que el libro de Harari -y cualquier otro- quedará obsoleto en unos años. Igual que su regulación.
Con respecto a la opinión que mantiene Harari sobre los riesgos actuales de la IA, y sin que uno haya tenido la oportunidad de entrar a fondo sobre muchas de las fuentes que cita, es evidente que sostiene punto por punto muchos de los planteamientos que ofrece Mustafa Suleyman en su reciente La ola que viene (Debate, 2023), a quien cita de manera reiterada a lo largo de Nexus.
Por último, si no han leído todavía Sapiens y además les interesa conocer qué está pasando hoy día con las IAs, Nexus es un texto muy recomendable. Si bien no amplía las fronteras de lo que ya sabíamos sobre la IA, sí que es cierto que su habilidad narrativa y esa capacidad innegable para estructurar la literatura al respecto lo convierte en un gran texto de divulgación.
No hay comentarios:
Publicar un comentario