El historiador israelí y autor más vendido, Yuval Noah Harari, advierte que los avances en inteligencia artificial, vigilancia y otras tecnologías podrían dar lugar a una sociedad orwelliana en su forma más extrema.
"Estamos llegando a un punto en el que las nuevas tecnologías, la combinación de inteligencia artificial y biotecnología, sensores biométricos, reconocimiento facial, reconocimiento de voz, hacen posible por primera vez en la historia que un gobierno dictatorial siga a todos los ciudadanos todos tiempo ", dijo Harari a The Asahi Shimbun en una entrevista reciente en Tel Aviv.
“Esto podría llevar a la creación de regímenes totalitarios mucho, mucho peor que cualquier cosa que vimos en el siglo XX, peor que Stalin, peor que Hitler. Y no tenemos mucho tiempo para detener esto ".
Harari, de 43 años, es profesor de historia en la Universidad Hebrea de Jerusalén. Sus "Sapiens: una breve historia de la humanidad" y "Homo Deus: una breve historia del mañana" vendieron juntos 18 millones de copias en todo el mundo. Los lectores incluyen muchos líderes políticos y empresariales, entre ellos el ex presidente de Estados Unidos, Barack Obama.
Harari imagina un mundo en el que la humanidad se rige por el poder de la informática, más específicamente, algoritmos cada vez mejores que procesan grandes cantidades de datos para resolver problemas.
“La nueva tecnología dará un inmenso poder a un pequeño número de personas. Pero mirando más allá de eso, en un nivel aún más profundo, el poder real estará en la mano de los algoritmos porque se recopilan y analizan tantos datos que ningún ser humano puede hacerlo ”, dijo. "La verdadera regla será el algoritmo".
Harari dijo que la gente debería presionar al gobierno para que regule la propiedad de los datos personales para evitar que el gobierno o las empresas los usen contra ellos.
También aconsejó a los ciudadanos que "se conozcan mejor" para darse cuenta de sus debilidades, como un prejuicio contra los inmigrantes, y evitar ser manipulados por el gobierno o las empresas.
En noviembre se publicará una traducción al japonés de las "21 lecciones para el siglo XXI" de Harari, que ha vendido 2 millones de copias.
A continuación, extractos de la entrevista:
¿Cuáles son los problemas globales importantes que enfrentamos o enfrentaremos en 10 o 20 años?
Harari: Tenemos tres grandes problemas que afectan a todos los países del mundo. El primero es la amenaza de la guerra global, especialmente la guerra nuclear. El segundo es el colapso ecológico, en particular el cambio climático. No es solo el cambio climático, sino que el cambio climático es el proceso más grande que amenaza el colapso ecológico.
El tercero, y quizás el más complicado, es la "interrupción tecnológica". Es el aumento de la inteligencia artificial y la biotecnología, que cambiará por completo la economía, el sistema político, nuestras vidas, en las próximas dos, tres, cuatro décadas.
Cambiará el mercado laboral a medida que la IA y los robots reemplazarán cada vez más a los humanos en más y más tareas. Nadie sabe hoy cómo sería el mercado laboral en 30 años. Significa que nadie sabe qué enseñar a los niños hoy en la escuela porque no sabemos qué habilidades necesitarán.
Otro cambio, que nuevamente tendrá un impacto universal, es el surgimiento de nuevas tecnologías de vigilancia, que podrían conducir a la creación de los regímenes más totalitarios que jamás hayan existido en la historia.
Anteriormente, incluso en un país totalitario como la URSS, el régimen no podía seguir a todos todo el tiempo. Fue prácticamente imposible.
Pero ahora estamos llegando a un punto en el que las nuevas tecnologías (la combinación de inteligencia artificial y biotecnología, sensores biométricos, reconocimiento facial, reconocimiento de voz) hacen posible por primera vez en la historia que un gobierno dictatorial siga a todos los ciudadanos durante todo el proceso. hora.
Esto podría conducir a la creación de regímenes totalitarios mucho, mucho peor que cualquier cosa que vimos en el siglo XX, peor que Stalin, peor que Hitler. Y no tenemos mucho tiempo para detener esto.
P: ¿La interrupción tecnológica beneficiará a las dictaduras más que a las democracias?
R: Con respecto al tema más general de la forma de la economía, del sistema político, los sistemas centralizados, ya sea en economía o política, fueron muy ineficientes en el siglo XX porque no podían procesar datos y tomar buenas decisiones.
En los tiempos de Mao en China o de Stalin en la URSS, la economía de mando, la idea era que toda la información llegara a un solo lugar, Beijing o Moscú. Allí, toman todas las decisiones importantes y transmiten los pedidos pendientes.
Era extremadamente ineficiente porque la tecnología en los años treinta o cincuenta era tal que no se podían reunir todos los datos, y los datos que se reunieron en un solo lugar, nadie podía analizarlos lo suficientemente rápido. El sistema era extremadamente ineficiente y tomaron decisiones terribles, decisiones estúpidas.
Por el contrario, en Occidente, en Japón, en los Estados Unidos o en Francia, distribuían información y poder, de modo que los consumidores individuales, los gerentes individuales de las empresas podían tomar decisiones por sí mismos. Fue mucho más eficiente. Y es por eso que en la Guerra Fría, Estados Unidos derrotó a la Unión Soviética.
Ahora, la tecnología está cambiando. Cada vez es más fácil y más eficiente concentrar una enorme cantidad de información en un solo lugar, y usar inteligencia artificial y aprendizaje automático para analizarla.
Cuanta más información tenga, mejor será la IA. Un sistema donde toda la información está en un lugar es mucho más eficiente, desde esta perspectiva, que un sistema que distribuye la información entre 10 centros diferentes.
Por poner un ejemplo, en genética, si tiene una gran base de datos de ADN de mil millones de personas, tendrá algoritmos mucho mejores que si tiene muchas pequeñas empresas, cada una con una base de datos de solo un millón de personas.
Entonces, el peligro es que de repente las economías de mando y los gobiernos dictatoriales tendrán una ventaja tecnológica sobre las democracias.
No es inevitable Todavía podemos hacer algo al respecto. Pero debemos ser no ingenuos y no pensar que existe una ley de la historia en la que la democracia y el libre mercado siempre funcionan mejor. Funcionan mejor en circunstancias tecnológicas particulares. Cuando las circunstancias cambian, el equilibrio de poder cambia.
P: ¿Quién gobernará el mundo en el siglo XXI? ¿Es una persona o algo así como algoritmos o datos?
A: No es una profecía; es solo una advertencia, y aún podemos evitarlo. Pero si no tomamos medidas, entonces las nuevas tecnologías empoderarán, podrían empoderar, a una élite muy pequeña, o en algunos países a un gobierno dictatorial, y les darán más poder que en cualquier otro momento de la historia.
Pienso en la URSS en la época de Stalin, pero cuando Stalin puede seguir a todos los ciudadanos soviéticos las 24 horas del día. Esto le da un poder inmenso a un grupo muy pequeño de personas y, una vez que sucede, es casi imposible resistirse porque si simplemente "piensas" en resistirte, si te encuentras con un par de personas, cinco personas, para tratar de organizar algo, ellos lo saben de inmediato. No puedes formar ninguna resistencia.
En este escenario, la nueva tecnología dará un poder inmenso a un pequeño número de personas. Pero mirando más allá de eso, en un nivel aún más profundo, el poder real estará en la mano de los algoritmos porque se recopilan y analizan tantos datos que ningún ser humano puede hacerlo.
Puede ser una dictadura o puede ser una democracia.
Aún así, la verdadera regla será el algoritmo. Tome el sistema financiero como ejemplo. ¿Cuántas personas en el mundo entienden cómo funciona el sistema financiero? Quizás 1 por ciento. Tal vez 0.01 por ciento. En 30 años, el número de personas que entenderán el sistema financiero será cero.
El sistema financiero, debido al aumento de la IA y la inmensa cantidad de datos y la velocidad de análisis, llegará a un punto en el que ningún ser humano puede entenderlo.
Quizás todavía tienes un humano como primer ministro, un humano como presidente. Pero en realidad, el poder real es el algoritmo porque el algoritmo llega al presidente y le dice: "Oye, señor presidente, estamos ante un desastre financiero".
El presidente dice: "¿Por qué?" La IA dice: "Bueno, eres un humano; No puedes entender. Reuní 36 billones de bits de datos. Los analicé y te digo que si no tomamos medidas, para mañana por la mañana, todo colapsará ”.
El presidente dice: "Está bien, ¿qué debemos hacer?". La IA dice: "Está bien, tiene la opción uno, la opción dos, la opción tres".
Y el presidente dice: “¿Por qué estas son las tres opciones? ¿Por qué no esto?
La IA dice: “Oh, eres un humano; No puedes entender. Analicé el impacto potencial de hacer esto y hacer eso, y puedo decirte que estas son las tres opciones. Pero no puedo explicarle por qué, porque para comprender esto necesita repasar 36 billones de bits de datos, y no puede; eres un humano ".
Entonces el poder oficial todavía está con el presidente, pero él o ella está tomando decisiones sobre algo que no entienden.
P: ¿Qué tan cerca estamos del "punto de no retorno" donde los algoritmos superan a los humanos?
A: estamos muy cerca. Tenemos, no sé, quizás cinco años, 10 años, 20 años, dependiendo del país.
Si los países no toman medidas ahora, es demasiado tarde en 20 años. Una carrera armamentista de IA (progresará) principalmente entre China y los Estados Unidos, y muchos países se quedarán muy atrás.
P: ¿Cuál es el problema para la gente común, los trabajadores y las empresas?
A: Hay muchos problemas potenciales. El peor problema es que su trabajo desaparece. Está siendo asumido por una IA, un robot, un vehículo autónomo, etc. Por supuesto, aparecerán nuevos trabajos, pero el gran problema es volver a capacitarse y reinventarse.
Algunas personas tienen esta visión extrema de que los robots vendrán y tomarán todos los trabajos. Creo que esto es poco probable. Algunos trabajos desaparecerán. Aparecerán algunos trabajos nuevos. Muchos trabajos cambiarán su naturaleza, sus características.
El principal problema no será la falta absoluta de empleos; El principal problema será volver a capacitarse para completar el nuevo trabajo. Digamos que usted es un conductor de autobús y perdió su trabajo porque tienen un vehículo autónomo. Pero hay un nuevo trabajo en el diseño de vehículos o en la escritura de software. Ahora, ¿cómo capacitas a un conductor de autobús de 40 años para que sea ingeniero de software?
Algunos países pueden tener la capacidad financiera para hacerlo. Los países ricos
¿Pero qué hay de los países más pobres? Digamos que países como Bangladesh u Honduras cierran todas las fábricas porque ahora es más barato producir camisetas en Japón o en Alemania, y hay una demanda de ingenieros de software. No se puede transformar a millones de trabajadores textiles de Bangladesh en ingenieros de software. Se necesita mucho tiempo y dinero.
Por lo tanto, existe el problema de la financiación y el reciclaje. Entonces hay un problema psicológico.
Reinventarte a ti mismo, más allá de cierta edad, es muy estresante. Usted trabajó en un trabajo en particular, un maestro, un conductor de autobús o lo que sea, ahora tiene 40 o 50 años, su trabajo ya no existe y hay un nuevo trabajo. Incluso si el gobierno le da (una oportunidad) de volver a capacitarse durante un año, ¿tiene la flexibilidad psicológica para reinventarse, y no solo una vez, sino muchas veces? Porque la revolución de la automatización no será un solo evento decisivo.
Digamos que tenemos una gran revolución de automatización en 2025. Muchos trabajos desaparecen y surgen nuevos trabajos. Tenemos un par de años difíciles, pero luego la gente se establece en un nuevo equilibrio y todo está bien. No será así.
La IA se está volviendo cada vez mejor. En 2025, tiene una gran interrupción, pero en 2035 tiene una interrupción mayor. En 2045, una interrupción aún mayor. Las personas tienen que reinventarse, no solo una, sino dos, tres, cuatro veces. Psicológicamente, los niveles de estrés pueden ser demasiado para la mayoría de las personas.
Lo que se sumará a eso es la vigilancia y los algoritmos. Solo imagine que está siendo constantemente vigilado y, digamos, lo que está haciendo ahora en esta sala está siendo grabado, y que dentro de 10 años, vaya a una entrevista a otro periódico u otro trabajo y un algoritmo revisará todo datos, incluido lo que hace ahora, y en función de eso decide si le dará el trabajo.
Toda tu vida, toda tu vida, es una entrevista de trabajo larga y estresante. Cada momento, digamos, cuando vas a una playa, te vigilan, y el algoritmo puede analizar: "Oh, cuando fue a la playa hizo esto, hizo eso, así que no es confiable, no lo hagas". tómalo ”. Solo piensa en lo que significa vivir toda tu vida como una larga entrevista de trabajo interminable.
P: Cuando cubrí las elecciones presidenciales de EE. UU. En 2016, el candidato republicano Donald Trump dijo muchas mentiras y me sorprendió el fenómeno posterior a la verdad. ¿La gente cree y difunde las mentiras como sus características fundamentales?
R: El fenómeno de las noticias falsas y la verdad posterior es muy preocupante, pero no es nuevo. Ha existido durante tanto tiempo como la historia humana.
En realidad, las cosas fueron aún peores en el pasado de lo que son hoy, si se mira el tipo de propaganda que era muy común a principios del siglo XX, con el fascismo y el comunismo. La gente dijo mentiras aún peores y logró convencer a millones.
Del mismo modo, si se remonta a la historia, hubo caza de brujas y pogromos en la Edad Media.
La gente hoy acusa a las redes sociales de incitar al odio sobre la base de teorías de conspiración y noticias falsas.
En la Edad Media, no hay Twitter, no hay Facebook, no hay teléfonos móviles. Pero sí tienes una rápida propagación del odio basada en teorías de conspiración y rumores falsos.
Vives en un pueblo pequeño y de repente alguien viene y te dice: “¡Mira! ¿Conoces a esta anciana que vive en el bosque? Ella es en realidad una bruja. La vi volando en una escoba anoche "o" conociendo a un demonio ".
En una hora o dos, este rumor se extiende por toda la ciudad, y tienes una multitud de aldeanos con horquillas y antorchas, que vienen a quemar a esta pobre anciana. Esta ha sido una característica de la humanidad a lo largo de nuestra historia.
Hoy, la tecnología es diferente. Lo difundirías en Facebook. Pero el fenómeno en sí no es nuevo.
P: ¿Por qué los populistas están en aumento en todo el mundo hoy y la política posterior a la verdad es tan frecuente?
R: Creo que el auge del populismo no se trata únicamente de este fenómeno posterior a la verdad, que, como dije, también ha sido común en el pasado.
Para la gran mayoría de las personas, la forma en que entienden el mundo es a través de una "historia". No piensan en términos de estadísticas o hechos.
En el siglo XX, tuvimos tres grandes historias para explicar el mundo. Teníamos la historia comunista, la historia fascista y la historia liberal. En el siglo XX puedes verlo como una lucha entre estas tres historias. Cada uno de ellos trata de explicar toda la historia humana y predecir el futuro.
Pero las historias colapsaron una tras otra. Primero, la historia fascista se derrumbó en la Segunda Guerra Mundial. Entonces, tuviste una lucha entre el comunismo y el liberalismo, y el comunismo se derrumbó.
Durante 20 o 30 años, sentimos, o mucha gente sintió, que este es el final de la historia: ahora solo tenemos una historia que explica todo. Esto dio mucha confianza y seguridad de que sabemos todo, sabemos lo que sucederá y tenemos todas las respuestas.
Pero resultó que la historia liberal también se está derrumbando. La gente está perdiendo la fe en ello. No puede resolver muchos de los problemas difíciles que enfrentamos, ya sea el cambio climático o el surgimiento de la automatización y la inteligencia artificial.
Ahora hay un vacío. No hay una historia creíble que explique el mundo y prediga el futuro o explique lo que se debe hacer en el futuro. Este vacío no se está llenando de visiones sensatas para el futuro. Se está llenando de fantasías nostálgicas sobre el pasado.
Los políticos populistas no tienen una visión real sobre cómo organizar el mundo para enfrentar el cambio climático, enfrentar la guerra nuclear, enfrentar el surgimiento de la inteligencia artificial. En cambio, lo que le dicen a la gente es que en el pasado fue mucho mejor y que de alguna manera podremos volver al pasado.
Lo ves con Trump en los Estados Unidos, prometiendo hacer que Estados Unidos vuelva a ser grandioso, volver a la década de 1950 o algo así. Lo ves con Putin en Rusia, básicamente prometiendo volver a los días del zar. En Israel, somos como los más extremos. Aquí tenemos personas que quieren retroceder 2,000 años a los tiempos bíblicos.
Mi mayor temor es que sea obvio que esto no va a funcionar. No puedes volver al pasado. Los populistas realmente no tienen una respuesta a ninguna de las grandes preguntas del mundo. Ni siquiera saben cómo organizar el mundo.
Tienen ideas sobre países individuales, pero no tienen ningún plan sobre cómo organizar juntos a los países del mundo, cómo funcionarán las relaciones internacionales.
El problema con los populistas es que nunca admitirán que se han equivocado o que no saben qué hacer. Cada vez que fallan, dicen: “No, no es nuestra culpa. Se debe a enemigos externos y traidores adentro. Fracasamos porque no teníamos suficiente poder, así que danos más poder ”.
Si les das más poder y fallan nuevamente porque no tienen visión para el futuro, dirán: “Sí, porque todavía hay traidores. Danos aún más poder ".
Lo ves en lo que sucede en Venezuela. Lo ves en Turquía, en Rusia, y ahora incluso con Brexit.
Cuando las personas se dan cuenta de lo terrible que fue el error, las personas responsables de eso no dicen: "OK, cometimos algunos errores". Ellos dicen: "Necesitamos aún más poder para superarlo". Simplemente se vuelve más y más extremo.
P: En su nuevo libro, "21 lecciones para el siglo XXI", escribió: "Nunca subestime la estupidez humana", sonando una alarma al peligro de guerra. ¿Qué posibilidades hay de que ocurra una gran guerra o terrorismo nuclear?
A: No lo se. De nuevo, no soy un profeta. Creo que la probabilidad no es alta, pero sigue siendo significativa y debería preocuparnos.
Hace cinco años, te hubiera dicho que la probabilidad era extremadamente, extremadamente pequeña. Pero desde 2016, la situación del sistema global, del sistema geopolítico, se deterioró rápidamente. No solo vemos más y más tensión y violación de las normas internacionales, sino que Estados Unidos y Gran Bretaña, que fueron dos de las potencias dominantes que los vieron como los campeones del mundo libre, básicamente renunciaron al puesto.
En 2016, los estadounidenses y los británicos dijeron: "Ya no queremos este trabajo. No nos importa el mundo. Nos preocupamos solo por nosotros mismos ". Nadie quiere seguir a un líder cuyo lema sea" Yo primero "o" Estados Unidos primero ".
El líder ha renunciado. Las tensiones se están acumulando. Hay cada vez más violaciones de las reglas y normas internacionales. Esto genera mucha más preocupación por el deterioro de la guerra mundial e incluso la guerra nuclear.
Esto sería un desastre para todos. Será un desastre económico, un desastre humano para todos.
Una de las lecciones del siglo anterior es que incluso cuando la guerra es mala para todos, aún puede suceder si no tenemos cuidado. Los humanos cometen errores estúpidos.
Si miras las dos guerras mundiales anteriores, nadie realmente se benefició de ellas, y aún así ocurrieron.
En mi nuevo libro, también doy el ejemplo de Japón y Alemania. Una de las cosas más interesantes de la Segunda Guerra Mundial es que, después de la guerra, los perdedores fueron mucho más prósperos que nunca. ¿Por qué necesitaban la guerra si podían perder una guerra y seguir disfrutando de esta forma de prosperidad? ¿Cuál fue el punto?
Fue simplemente un error de cálculo. Pensaban que necesitaban la guerra para prosperar. No era cierto, pero aun así cometieron este error. Esto debería enseñarnos que, aunque la guerra sería un desastre para todos, no significa que todos sean lo suficientemente sabios como para evitar la guerra. Por eso hay lugar para la preocupación.
P: En "Homo Deus", usted discute el riesgo de que un pequeño grupo de élites controle a una gran mayoría de personas como una "clase inútil". ¿Cree que los líderes deberían ser autocríticos y modestos porque las personas son falibles?
R: Debemos tener en cuenta el hecho de que somos falibles, seguiremos siendo falibles. Creo que cualquier sistema político que asume que el gobierno siempre tomará la decisión correcta es un sistema terrible. Debe diseñar un sistema político, teniendo en cuenta el hecho de que el gobierno cometerá errores.
Del mismo modo, cualquier filosofía personal que asume que eres infalible es una filosofía terrible. Debe tener en cuenta el error en todo lo que construye, en todo lo que diseña.
Si construye un automóvil, tiene que preguntar: "OK, ¿qué sucede cuando el conductor comete un error?" Si construye un automóvil que funciona bien solo cuando el conductor siempre toma la decisión correcta, es un automóvil terrible.
P: Usted enfatizó la necesidad de "correr más rápido que los algoritmos". ¿Cómo podemos hacer eso?
R: Como individuos, creo que lo más importante es conocernos más rápido, mejor. Usando cualquier método que funcione para usted. No tiene que significar meditación, como yo. Pueden ser diferentes métodos.
Al mismo tiempo, es obvio que las personas realmente no pueden cambiar el mundo si no se organizan. La organización es la clave del éxito.
Cuando se trata de datos y algoritmos, la clave es regular la propiedad de los datos. ¿Quién posee los datos? ¿Quién puede usarlo? Ya sea una empresa privada, si es el gobierno, y qué regulaciones y reglas.
Y este es un tema político. No puedo regular los datos por mí mismo. No es que pueda decir: "No tengo un teléfono inteligente, estoy bien". Las personas a mi alrededor tienen teléfonos inteligentes. Hay cámaras en cada calle. Todo lo que compro, todo lo que hago, algo está mirando. No puedo hacerlo solo.
Si quiero evitar que se recopilen datos sobre mí y se usen en mi contra, necesito organizarme con muchos otros ciudadanos y presionar al gobierno porque los gobiernos son los únicos poderes que pueden regular efectivamente a las grandes corporaciones y al mundo en general.
No es un solo país. Necesitamos cooperación internacional en la regulación de datos, y especialmente los países que se quedan atrás en la carrera tecnológica. Tienen el mayor interés en regular la vigilancia y la propiedad y uso de los datos.
Creo que este debería ser uno de los temas políticos más importantes en todas las campañas electorales, en todos los sistemas políticos del mundo. Desafortunadamente, todavía no recibe suficiente atención, que es una de las razones por las que escribo estos libros y hago estos artículos para tratar de cambiar la conversación política.
También está la cuestión de qué tipo de IA estamos desarrollando. Podemos desarrollar cada tecnología en diferentes direcciones. En la actualidad, la mayoría de las herramientas de inteligencia artificial y vigilancia permiten a los gobiernos y las corporaciones monitorear a las personas.
Pero técnicamente, podemos revertirlo. Podemos decirle a los ingenieros: “No queremos herramientas que supervisen a las personas al servicio del gobierno. Desarrolle un sistema de IA que monitoree al gobierno al servicio de los individuos, de los ciudadanos, por ejemplo, para asegurarse de que no haya corrupción ”.
P: ¿Cómo pueden entenderse mejor las personas para no ser esclavos de la tecnología?
R: Siempre se aconseja a las personas que se conozcan mejor. Lo escuchas de Sócrates, de Buda y de todos los grandes pensadores de la humanidad.
Ahora, es más urgente porque las corporaciones y los gobiernos lo vigilan y tratan de descifrarlo. Una vez que te conocen mejor que tú mismo, es muy fácil manipularte.
Así es como funcionan todos estos populistas. Descubren lo que la gente ya odia y teme, y presionan estos botones emocionales y crean aún más odio, incluso más miedo.
Para resistirlos, primero debe darse cuenta de cuáles son sus propias debilidades y estar en guardia.
“Oh, debería tener cuidado. Ya tengo un prejuicio contra los inmigrantes, contra los musulmanes o contra lo que sea. Es muy fácil engañarme con noticias falsas sobre estos grupos, así que debería ser más cuidadoso ”.
Para eso, necesitas conocerte a ti mismo.
Hay muchas formas diferentes de hacerlo. Practico meditación, pero no creo que funcione para todos. Puedes ir a un psicólogo. Puedes usar el arte. La gente va de excursión a las montañas y la utiliza como mecanismo para ponerse en contacto consigo misma y conocerse mejor.
Lo que sea que funcione para ti es bueno. Lo importante es invertir tiempo en él porque estás en una competencia. Tienes Facebook, Google y el gobierno tratando de conocerte mejor para que puedan predecir más fácilmente tus acciones y manipularte. Si no te conoces mejor que ellos, pierdes el control de tu vida.
