Cuidado con la vigilancia tecnológica | Lampadia
  • Objetivo: Lograr que los peruanos optemos por una Sociedad de Libre Mercado​
  • Martes 30 de Noviembre 2021
  • Lima - Perú
MENÚ
Tecnología < regresar

Lima-Perú, 19/11/2021 a las 11:11am. por Yuval Noah Harari

La visión pesimista de Harari

Cuidado con la vigilancia tecnológica

SE VIENE ¿A BRAVE NEW WORLD? ¿UN MUNDO FELIZ?

LAS GRANDES CORPORACIONES QUIEREN 'HACKEAR' A LA HUMANIDAD

YUVAL NOAH HARARI
HISTORIADOR Y FILÓSOFO
CARLOS MANUEL SÁNCHEZ
FOTOGRAFÍA: ITZIK YAHAV
El Correo – España
XL semanal
14 de noviembre, 2021
Glosado por Lampadia

Este historiador y filósofo levanta expectación. Ha conseguido algo nunca visto. Vender 35 millones de libros, traducidos a 65 idiomas, con sesudas reflexiones sobre el ser humano y su papel en el mundo. Hablamos con él en busca de respuestas ante una explosión tecnológica plagada de promesas... y peligros.

Si tengo algún superpoder, es el de ver las cosas como son en realidad», dice Yuval Noah Harari (Israel, 45 años), que ha afinado esa visión de rayos X con años de meditación para no distraerse con el ruido mental y centrarse en lo importante. Este historiador y filósofo social que se atrevió a contar el pasado de la humanidad en Sapiens, el futuro en Homo Deus y el presente en 21 lecciones para el siglo 21 se ha convertido en un fenómeno editorial. Ahora publica Los pilares de la civilización, el segundo volumen de Sapiens. Una historia gráfica (Debate), una adaptación al cómic de su texto más ambicioso, que sigue batiendo récords. «Estamos en la década más crítica de la historia», asegura Harari, quien considera que el destino del ser humano está en juego.

---

XL Semanal. Durante la crisis, escuchábamos a los economistas y, ahora, los filósofos se han puesto de moda. ¿Son ustedes los nuevos gurús?

Yuval Noah Harari. ¡Espero que sí! Necesitamos a los filósofos más que nunca porque muchas de las preguntas filosóficas, que antes eran puramente teóricas, ahora se han convertido en cuestiones de ingeniería práctica. Un coche autónomo debe tomar decisiones éticas. El famoso dilema de si atropellas a un niño o te estrellas contra un camión que viene de frente...

XL. ¿Y estamos por la labor de reflexionar?

Y.N.H. La mayoría de la gente no se embarca en un viaje serio de autoexploración porque descubres muchas cosas que no te gustan sobre ti mismo. Pero, ahora, la tecnología nos está obligando a hacer esta búsqueda espiritual. Pagaremos caro si no la hacemos.

«Es peor sentirse inútil que estar explotado. En el siglo XX, un obrero podía ir a la huelga. Ahora, con la automatización, los obreros son prescindibles. Ir a la huelga, ¿para qué? Si nadie te necesita...»

XL. ¿Por qué?

Y.N.H. Porque estamos inmersos en una carrera por 'hachear' a la humanidad en general y a ti en particular. Y debes hacer el esfuerzo de estar un paso por delante de tus competidores: de las grandes corporaciones, de los gobiernos. Para ganar, debes conocerte a ti mismo mejor que ellos a ti.

XL. La biotecnología también nos plantea cuestiones peliagudas...

Y.N.H. Sin duda. ¿Hasta qué punto podemos modificar el cuerpo y la mente con ingeniería genética, o con cirugía, o con una interfaz cerebro-computadora? Pero las preguntas de fondo son las de siempre: ¿qué significa ser una persona?, ¿qué cualidades humanas son valiosas? Los filósofos han reflexionado sobre estas cuestiones durante miles de años, sin demasiada repercusión en la práctica, porque nadie tenía la tecnología para reinventar al ser humano. Ahora empezamos a tenerla.

XL. ¿Les haremos caso a los filósofos?

Y.N.H. Espero que las compañías y los gobiernos les presten atención, pero también a los poetas, a los artistas... Porque los ingenieros, a veces, pueden ser muy ingenuos o estar desinformados sobre las consecuencias de lo que hacen. Si dejas que una compañía o un ejército decida cómo rediseñar al ser humano, lo más probable es que potencien las cualidades que a ellos les vienen bien, como la productividad o la disciplina, y desprecien otras, como la sensibilidad y la compasión. Y el resultado será que tendremos gente muy inteligente y disciplinada, pero superficial y espiritualmente pobre. Y esto no va a mejorar al ser humano, sino a degradarlo.

alternative text

Entre la exposición de una ‘celebritie’ y el retiro monacal. Harari vive en Israel y lo hace al margen de las redes sociales y 'desaparece' dos meses al año en un retiro espiritual. No obstante, confiesa que conoció a su marido, Itzik, gracias a una aplicación para citas. Eso sí, allá por 2010.

XL. ¿Cree que existe un alto riesgo de que la tecnología nos haga miserables?

Y.N.H. Sí. Estamos viendo como surgen nuevas maneras de organizar el mundo a través de la tecnología de vigilancia. Los chinos están probando herramientas para algo que podría convertirse en el peor sistema que ha existido jamás en la historia. Y, además, puede ser exportado a todo el mundo, como un pack. Incluso países que no tienen la tecnología para crear un sistema de vigilancia pueden comprarla a China. Así que el peligro es global.

XL. Pero en Occidente ya se ejerce ese espionaje de nuestros datos, aunque sea para vendernos productos y servicios...

Y.N.H. Sí, es verdad, lo mismo se puede decir del capitalismo de vigilancia que vemos en Estados Unidos y que también se exporta al resto del mundo. Espero que encontremos una tercera vía porque ambos sistemas son muy dañinos no solo para la supervivencia de la democracia, sino para los valores humanos y el desarrollo mismo de las personas.

XL. ¿Puede describir el proceso por el que la tecnología devalúa al ser humano?

Y.N.H. Le pondré un ejemplo. Cuando pensamos en las posibilidades actuales de la ingeniería genética, deberíamos recordar que hemos estado criando vacas y cerdos durante miles de años. Los hemos domesticado buscando las cualidades que nos interesaban: que den más leche, que sean más obedientes... Y el resultado es que los animales domésticos no son una mejora de sus ancestros salvajes, sino un pálido reflejo de lo que eran. Y lo mismo puede sucederles a los humanos.

«El poder y la riqueza se concentran en China y Estados Unidos. Europa unida debería convertirse en un contrapoder. Ningún país europeo solo puede competir con Google, Baidu, Tencent, Facebook...»

XL. Ya, pero que intenten domesticarnos no es nuevo...

Y.N.H. Sí que hay algo nuevo. Antes casi toda la información que se reunía sobre ti estaba fuera de tu piel: qué compras, dónde vas, lo que ves... Ahora hay herramientas que pueden recopilar lo que sucede en tu corazón y en tu cerebro. Y no hablo de tecnologías invasivas, como implantes. Una pulsera que mide tu ritmo cardíaco o cámaras que observan tu cara son muy buenas ya para inferir tu estado emocional. Y, en manos de un estado totalitario, pueden ser muy peligrosas. Imagine que Corea del Norte obliga a sus ciudadanos a llevar una pulsera biométrica. Entras en una habitación y hay una foto de Kim Jong-un y el brazalete capta los signos de ira porque tiene acceso a tu cerebro. Son muy malas noticias para ti.

XL. ¿Somos fáciles de manipular?

Y.N.H. No es tan sencillo. Los gobiernos siempre han querido hacerlo, pero no podían porque no solo necesitan información, sino capacidad para analizarla. Si un país tiene cien millones de habitantes, hacían falta cien millones de espías para seguir sus pasos. Y, aunque los tuvieran y alguien anotase todo lo que digo, se producirían cien millones de informes diarios. Nadie podría leerlos. Pero ahora es posible seguir a todas las personas durante las 24 horas. Tenemos al espía en la mano: el móvil... Y, por primera vez en la historia, se puede analizar esa información con inteligencia artificial. Ni tu madre te conoce mejor que el algoritmo.

XL. Usted afirma que somos muy malos tomando decisiones. Si el algoritmo nos conoce tan bien como para sugerirnos una serie o elegirnos pareja y, además, acierta más que nosotros, ¿qué hay de malo?

Y.N.H. En principio, nada. Es una cuestión de qué tipo de decisiones les dejamos a las máquinas. Y quién controla a estas. Por ejemplo, meto mi dinero en un fondo de pensiones, pero no quiero que ese dinero vaya a parar a empresas que contribuyan al cambio climático. No tengo tiempo para estar mirando dónde invierte ese fondo, pero la inteligencia artificial sí que puede. Me parece bien, porque me está ayudando a cumplir mis objetivos. El potencial para lo bueno está ahí y la tecnología puede mejorar la atención sanitaria, psicológica... El problema es que la mayoría de los datos que se recopilan de cada uno de nosotros se usan para manipularnos. Por ejemplo, se entrena al algoritmo para que identifique a jóvenes con baja autoestima y enviarles anuncios de dietas.

«La economía global es compleja; resulta difícil entender que un magnate del otro lado del mundo sea responsable de lo que te está pasando a ti. Es más fácil culpar a los inmigrantes»

XL. ¿Nos está robando el algoritmo nuestro derecho a equivocarnos y aprender de nuestros errores?

Y.N.H. No necesariamente. Un algoritmo que recomienda música aprenderá las canciones que nos gustan, pero también se puede ajustar para que nos sugiera nuevos estilos. Depende de cómo se diseñe. Un cuchillo puede tener forma de daga o de bisturí. Uno sirve para matar y otro para salvar vidas. Si no tiene otra cosa, un cirujano también puede usar una daga, pero le va a resultar más difícil operar con ella. Una de las elecciones más importantes a la hora de diseñar algoritmos es si se crean para que gobiernos y compañías vigilen a la gente o viceversa, para que nosotros los vigilemos. Hoy solo se hace en una dirección. Ellos saben mucho de nosotros y nosotros, casi nada de ellos.

XL. En resumen, el algoritmo quiere saber cómo somos, pero nosotros somos poco dados a reflexionar.

Y.N.H. Muchas veces la verdad es dolorosa y complicada y preferimos ignorarla. Eso sucede a nivel individual. Se ha demostrado que la mayoría piensa que conduce mejor que la media, lo cual es matemáticamente imposible. Pero también sucede a nivel colectivo: los políticos que le cuentan a la gente la verdad sobre su país pierden las elecciones. Sucede en Israel, en España, en Estados Unidos...

XL. Si te sientes abandonado por el sistema, votas a quien te da esperanzas, no a quien te dice que te va a ser muy difícil encontrar trabajo.

Y.N.H. Además, es peor sentirse inútil que explotado. En el siglo XX, si eras un obrero en una fábrica, había una gran compañía que intentaba que trabajases más horas. La lucha de los movimientos sociales se organiza para contrarrestar esto. Si ibas a la huelga, la economía colapsaba. Tenías cierto poder porque eras necesario.

XL. ¿Y ahora no?

Y.N.H. Lo que estamos viendo con la nueva economía del siglo XXI es que la automatización destruye un montón de empleos y crea otros nuevos, pero esos nuevos empleos demandan altos niveles de destreza y mucha gente no va a poder hacer esa transición. No le puedes pedir a un conductor que se recicle en diseñador de videojuegos. No estará explotado, pero será prescindible. Y esto es mucho más peligroso. No te sirve de nada ir a la huelga, ¿para qué? Si nadie te necesita...

«La verdad es dolorosa y complicada y preferimos ignorarla. Los políticos que cuentan la verdad pierden las elecciones. Pasa en Estados Unidos, en España...»

XL. Usted señala que esa frustración se proyecta sobre las minorías y no sobre las élites que se han enriquecido hasta niveles nunca vistos. ¿Por qué no le pedimos cuentas a Jeff Bezos o Elon Musk?

Y.N.H. Porque la economía global es compleja. Es muy difícil entender cómo funciona el sistema, las relaciones de causa y efecto. Durante la Revolución francesa, los campesinos sabían que el aristócrata del castillo cercano los estaba explotando, así que pedían su cabeza. Pero era fácil ver la conexión. Ahora es muy difícil hacer responsable a un magnate del otro extremo del mundo de lo que te está pasando a ti. Es más fácil culpar a los inmigrantes.

XL. ¿Es inevitable que una parte importante de la humanidad acabe siendo 'clase inútil'?

Y.N.H. No creo. Antes aprendías una profesión de joven y ya te valía. Pero hará falta reeducar a los trabajadores cada década, más o menos. Esto va a requerir enormes inversiones en educación. Algunos países tendrán recursos; otros no. ¿Y qué va a pasar cuando ni siquiera puedan ofrecer mano de obra barata porque será más barato volver a producir en Estados Unidos? Colapsarán.

XL. ¿Podemos escapar de ese futuro?

Y.N.H. No es algo que esté determinado, pero existe un gran riesgo. Además, vamos hacia un nuevo colonialismo. Durante la mayor parte de la historia hemos tenido esta clase de relación entre la metrópolis y sus provincias. Estas proporcionaban las materias primas como algodón, cobre y caucho que las potencias convertían en tejidos, electrónica y coches, y los vendían a la periferia. Ahora, la materia prima son los datos. Se necesitan enormes cantidades de datos para entrenar a la inteligencia artificial. Y estos datos fluyen hacia el centro del imperio, que los convierten en aplicaciones y productos tecnológicos que luego venden al resto del mundo, cerrando el círculo.

«Tenemos al espía en la mano: el móvil... Ni tu madre te conoce mejor que el algoritmo. La tecnología devalúa al ser humano. Lo domestica»

XL. ¿Dónde está ese centro en la actualidad?

Y.N.H. Hay dos: Estados Unidos y China. Las diez compañías más importantes son americanas o chinas. Y esto es malo porque, de nuevo, la mayor parte de la riqueza y el poder se concentra en muy pocos lugares. Una Europa unida debería intentar convertirse en un contrapeso. No hay ningún país europeo que por sí solo pueda competir con Google, Baidu, Tencent, Facebook...

XL. Estamos saliendo de una pandemia y ahora dicen que se avecina una época de escasez. ¿Podemos aspirar a ser felices o solo a sobrevivir?

Y.N.H. No deberíamos pensar en términos binarios. En tener lo uno o lo otro. Para resistir a una pandemia, hace falta un buen sistema de salud, y la salud mental es esencial y el bienestar social también lo es. Hemos visto que no solo es el virus el que amenaza a la gente, también la depresión, la ansiedad, la soledad, la desconfianza... Podemos ser felices, pero tenemos que escoger bien nuestras prioridades.

'SAPIENS, LOS PILARES DE LA CIVILIZACIÓN'

«La Edad de Piedra era más igualitaria. No había dictadores»

alternative text

XL. En su libro Sapiens. Una historia gráfica. Volumen 2: los pilares de la civilización (Debate) cuenta que el trigo nos domesticó, cuando creíamos que había sido al revés. Esta hierba silvestre se las arregló para extenderse por el mundo a nuestro lado.

Y.N.H. Sí. Y creíamos que íbamos a vivir mejor, pero nuestras existencias empeoraron... La Revolución Agrícola fue un fraude. Hace unos diez mil años llevábamos una vida bastante cómoda y, en un par de milenios, no hacíamos otra cosa que cuidar de la cosecha de sol a sol.

XL. La agricultura también trajo hambre, lo que resulta paradójico.

Y.N.H. Lo que sucedió fue que la agricultura llevó a una explosión demográfica. Y cada vez hubo más campesinos no porque la gente lo eligiera, sino porque ese excedente de población arrinconó a los cazadores recolectores. Pero nadie se podía imaginar las consecuencias de esta transición. Nadie sospechaba que las epidemias también eran la consecuencia de la Revolución Agrícola, que propició el hacinamiento.

XL. Hablemos de los pilares de la civilización: gobiernos y escritura también aparecieron con la Revolución Agrícola.

Y.N.H. Los reyes y la burocracia son recientes, en términos de evolución. Los humanos han existido desde hace dos millones de años y se las apañaron sin gobernantes la mayoría de ese tiempo.

XL. ¿Pero no es mejor ser civilizado que un salvaje?

Y.N.H. Nos gusta imaginar que en las sociedades de la Edad de Piedra había un jefe. Pero es un error. Fueron las sociedades más igualitarias de la historia. No había dictadores en esa época. Si alguien intentaba someter a los demás, podían matarlo por la noche. O marcharse... Con la agricultura no te puedes mover. Todos dependen de sus campos. Y si un gobernante los oprime no pueden huir.

Lampadia

Palabras Clave

Artículos Relacionados

Comentarios