novibet aviator

Amenaza de la inteligencia artificial: la visión de Yuval Noah Harari

¿Qué te viene a la mente cuando piensas en el 2️⃣ inminente apocalipsis de la inteligencia artificial (AI)? Si eres aficionado a las clichés de las películas de ciencia ficción, puede 2️⃣ que imagines robots asesinos (con o sin acentos austriacos gruesos) sublevándose para exterminar a sus creadores arrogantes. O quizás, como 2️⃣ en The Matrix, elijas máquinas aterradoras que succionen la energía de nuestros cuerpos mientras nos distraen con una realidad simulada.

Para 2️⃣ Yuval Noah Harari, quien ha pasado mucho tiempo preocupándose por la AI en la última década, la amenaza es menos 2️⃣ fantasiosa y más sutil. "Para manipular a los humanos, no es necesario conectar físicamente los cerebros a las computadoras", escribe 2️⃣ en su nuevo y fascinante libro Nexus. "Durante miles de años, profetas, poetas y políticos han utilizado el lenguaje para 2️⃣ manipular y dar forma a la sociedad. Ahora, las computadoras están aprendiendo a hacerlo. Y no necesitarán enviar robots asesinos 2️⃣ a dispararnos. Podrían manipular a los seres humanos para que aprieten el gatillo."

La importancia del lenguaje y la capacidad humana 2️⃣ de tejer historias

El lenguaje y la habilidad humana de tejer historias a partir de él son fundamentales en la comprensión 2️⃣ que tiene el historiador israelí, autor de cuatro libros de ciencia popular, de nuestra especie y sus vulnerabilidades. En su 2️⃣ éxito de ventas de 2014 Sapiens (publicado originalmente en hebreo en 2011), argumentó que los humanos se volvieron dominantes porque 2️⃣ aprendieron a cooperar en grandes números, gracias a una nueva habilidad para contar historias. Esa habilidad, que permitió a nuestros 2️⃣ antepasados creer en cosas completamente imaginarias, está en la raíz de nuestras religiones, economías y naciones, las cuales se disolverían 2️⃣ si nuestras facultades de tejer historias fueran alguna vez apagadas.

Sapiens ha vendido 25 millones de copias hasta la fecha, un 2️⃣ testimonio del propio talento narrativo de Harari, aunque ha tenido sus críticos. Académicos que cuestionaron su precisión y la idea 2️⃣ de comprimir 70.000 años de historia humana en 450 páginas. Sitcoms que se burlaron de los fanáticos de Harari que 2️⃣ agitan el libro como una especie de biblia moderna. El atractivo de Sapiens radica en su alcance abrumador, pero, como 2️⃣ un perfil de 2024 en el New Yorker señaló, el enfoque zoomado de Harari puede minimizar la importancia de los 2️⃣ asuntos actuales.

La era de las redes de información

Nexus podría considerarse como una respuesta a esa crítica. Aunque ejecuta su propio 2️⃣ recorrido vertiginoso a través de los milenios, saltando hacia adelante y hacia atrás en el tiempo y entre continentes, está 2️⃣ muy preocupado por lo que está sucediendo hoy.

Si las historias eran fundamentales para el esquema de Sapiens, aquí se trata 2️⃣ de redes de información, las cuales Harari ve como las estructuras básicas que subyacen a nuestras sociedades. "El poder siempre 2️⃣ proviene de la cooperación entre grandes números de humanos", escribe, y el "pegamento" que mantiene unidas estas redes de cooperación 2️⃣ es la información, la cual "muchos filósofos y biólogos" ven como "el bloque de construcción más básico de la realidad".

Pero 2️⃣ la información no siempre dice la verdad sobre el mundo. Más bien, enfatiza Harari, da lugar a ficciones, fantasías y 2️⃣ delusiones masivas, las cuales conducen a tales desarrollos catastróficos como el nazismo y el estalinismo.

¿Por qué Homo sapiens, para todos 2️⃣ sus éxitos evolutivos, es tan perennemente autodestructivo? "La culpa", según Harari, "no está en nuestra naturaleza, sino en nuestras redes 2️⃣ de información."

Su punto básico es que las revoluciones de la información pueden dar lugar a períodos de florecimiento humano, pero 2️⃣ siempre vienen con un costo.

Al echar un vistazo a cómo la información nos ha llevado astray en el pasado, Harari 2️⃣ no tiene escasez de ejemplos en los que apoyarse. Uno de los más memorablemente grotescos es Malleus Maleficarum, escrito por 2️⃣ el fraile dominico Heinrich Kramer en la Austria de la década de 1480. Una guía para descubrir y asesinar brujas 2️⃣ de manera horrible, el libro no habría viajado lejos de no ser por la invención de la imprenta unos pocos 2️⃣ decenios antes, la cual permitió que las ideas desquiciadas de Kramer se extendieran por Europa, avivando una fiebre de caza 2️⃣ de brujas.

Harari hace hincapié en que las revoluciones de la información pueden dar lugar a períodos de florecimiento humano, pero 2️⃣ siempre vienen con un costo. Cuando inventamos nuevas tecnologías brillantes que llevan palabras e ideas más lejos y más rápido 2️⃣ que nunca antes, mucha de la información que sale es basura o activemente peligrosa. No se ayuda al hecho de 2️⃣ que, cuando se trata de mantener el orden social, las ficciones tienden a ser agentes de unión más confiables que 2️⃣ las verdades.

Lo que es aterrador sobre la revolución de la AI no es solo que seremos abrumados por la desinformación 2️⃣ de los chatbots, o que las autoridades utilizarán para espiar nuestras vidas privadas. A diferencia de tecnologías anteriores como los 2️⃣ libros y las radios, escribe Harari: "La AI es la primera herramienta que es capaz de tomar decisiones y generar 2️⃣ ideas por sí misma." Vimos una advertencia temprana de esto en Myanmar en 2024-17, cuando los algoritmos de Facebook, encargados 2️⃣ de maximizar la participación del usuario, respondieron promoviendo propaganda de odio antir Rohingya que avivó el asesinato en masa y 2️⃣ la limpieza étnica.

Harari hace un caso sólido sobre por qué debemos considerar tales algoritmos como agentes autónomos y cómo, si 2️⃣ no tenemos cuidado, los humanos podríamos convertirnos en herramientas que la AI manipule con una fuerza cada vez más terrible. 2️⃣ A menos que tomemos medidas inmediatas, este creciente "intelecto extraterrestre", como prefiere llamarlo, podría desencadenar catástrofes que ni siquiera podamos 2️⃣ imaginar, incluida la destrucción de la civilización humana.

Esta visión pesimista de la AI no es nueva: "alarmistas" como Eliezer Yudkowsky 2️⃣ han advertido de su potencial apocalíptico durante años, e incluso la industria de la AI ha comenzado a expresar preocupaciones. 2️⃣ Lo que Harari busca agregar al debate es la perspectiva a largo plazo. Al aplicar su lente a revoluciones de 2️⃣ información anteriores y mostrar cómo diferentes formas de gobierno han reaccionado a ellas, cree que podemos prepararnos para los terremotos 2️⃣ por venir.

Nexus tiene algunas curiosas lagunas; es extraño, en una crítica de una tecnología impulsada en gran medida por corporaciones 2️⃣ centradas en el beneficio, que el capitalismo apenas se mencione en absoluto. Pero ya sea que estés de acuerdo o 2️⃣ no con el marco histórico de Harari sobre la AI, es difícil no impresionarse por la meticulosidad con la que 2️⃣ lo construye, salpicando lo que podría ser un análisis rather dry con ejemplos vívidos, como la historia de Cher Ami, 2️⃣ un paloma mensajera de la Primera Guerra Mundial, utilizada aquí para desentrañar la fundamental resbaladiza de la información. Como en 2️⃣ libros anteriores, se apoya heavily en listas ("los dos desafíos principales", "los cinco principios básicos") y binarios (verdad versus orden, 2️⃣ democracia versus dictadura), pero esto sirve para organizar su pensamiento en lugar de aburrir la escritura.

Las soluciones que propone para 2️⃣ restringir el poder de la AI van desde lo sensato (prohibir a los bots que se hagan pasar por humanos) 2️⃣ a lo risible (animar a los artistas y burócratas a "cooperar" para ayudar al resto de nosotros a comprender la 2️⃣ red de computadoras), pero Nexus opera principalmente como un diagnóstico y una llamada a la acción, y en esos términos 2️⃣ es ampliamente exitoso. Si se vende tan bien como Sapiens lo hizo, estaremos un poco mejor equipados como especie para 2️⃣ enfrentar el auge de las máquinas.