¿Por qué NEXUS le interesa a Harari ? Después de analizar el desarrollo de la humanidad a través de las redes de información que se van conformando en el transcurso de los tiempos (Parte I de la reseña) el autor se proyecta luego hacia el futuro, para muchos humanos impredecible, dada la velocidad de los avances tecnológicos en esas redes de información.
Porque Harari observa a la humanidad desde el punto de vista de las conexiones y de dos conceptos esenciales: el balance entre libertad y orden o , mejor, entre verdad y orden. Y porque, en el fondo, hoy como ayer, insiste como pensador occidental: no hay verdad sin libertad. Eso lo sabemos quienes hemos explorado tanto el mundo de la comunicación como del periodismo.
Hatari se preocupa ahora cuando se trata del relativamente nuevo mundo de las relaciones con los ordenadores ( que aquí en Colombia llamamos computadores), la IA, los algoritmos y las posibilidades que tienen de tomar decisiones sin intervención humana .
Harari hace previamente varias aclaraciones importantes, como lo son todas las suyas, para comprender los retos: por ejemplo, el viejo tema de la diferencia entre democracia y autoritarismo, pero desde el punto de vista de la información centralizada y “potenciada” ( nuevo significado del término que se volverá esencial en esta era) que se alimenta por la fortaleza de mecanismos de autocorrección.
Pocas veces el poder político centralizado admite que se ha equivocado (160) . Pero esa comprobación no se aplica tan solo a la política, analiza Harari. Recuerda cómo también se aplica las religiones: “Alá garantizará que mi comunidad nunca acepte un error” dijo Mahoma; Dios garantizaba que los rabinos no cometieran errores ; y recuerda cómo la infalibilidad del Papa en su papel institucional perduró hasta el pontificado de Juan Pablo II ( 147)” . Centralizar el poder es entonces, también centralizar los errores demorándose mucho la humanidad en reconocerlos.
¿Y DE LOS ORDENADORES QUÉ?
Una preocupación de Harari no es tanto que las tecnologías de IA y ordenadores imiten prototipos culturales, a través de cadenas de ordenador a humanos, sino que ahora se salten al humano con cadenas de de ordenador a ordenador y sobre todo, cada vez más moldeen a los humanos. (262-267)
En cuanto a la información, insiste en que tiene la característica que siempre conecta aunque no se equiparen sus representaciones y relatos. Por ejemplo, en lo político, los nazis ganaron las elecciones por su relato (66) . Hoy , las TICS conectan en potencia, pero tampoco necesariamente en verdad (51). Eso lleva a Hatari a concluir que la historia de las redes humanas no es necesariamente progreso y que suelen priorizar, argumenta, el orden sobre la verdad .
Se trata, en el fondo, de mirar desde otra perspectiva ( la conexión), lo que siempre se ha sabido: que la lucha de la humandad oscila entre verdad y poder.
Pero además, es sin duda interesante ese largo recorrido que hace Harari a través de los siglos sobre el concepto de burocracia, que termina siendo necesario en las sociedades humanas y no tiene para él esa connotación tan negativa como en Colombia. Haciendo el seguimiento desde esa perspectiva, encuentra un impulso hacia la necesidad de documentos y en la manera como se termina sacrificando la verdad en favor del orden.
Por el surgimiento necesario de documentos, éstos terminan siendo nexos esenciales de conexión, lo mismo que conceptos como – en el ámbito religioso, de lo puro e impuro, o la discriminación de las mujeres. Y por supuesto, el racismo, no solo nazi.
El TELON DE SILICIO, CAPACIDAD DE POTENCIAR Y OTRAS PALABRAS CLAVES
Antes de las redes de información humanas digitales, las creadoras de mitos y de burocracias humanas monopolizaban la verdad (oficial que era la válida). Hoy lo es la capacidad de los computadores (llamados en el libro ordenadores) que gestionan burocracias y los algoritmos, que inventan nuevas mitologías.
Eso determina las diferencias entre el mundo de la imprenta y de los ordenadores. Harari señala: “ en 2027-2017 los algoritmos tomaron decisiones activas y funestas por sí mismas” , explica (243) , y ·videos “benignos aumentan la implicación de usuarios fomentado indignación, noticias falsas y teorías de conspiración” (245-246).
Pero los ordenadores no se parecen a los humanos y por eso Harari diferencia la consciencia ( que nosotros escribimos sin s, conciencia ) de la capacidad de los ordenadores de perseguir objetivos fijados por los humanos, para bien o para mal. (251 y ss) Por ejemplo, señala Harari, en Irán, las nuevas burocracias digitales utilizaron el reconocimiento facial para detectar quien es culpable de no portar velo 296.
Hoy como ayer, entonces, a mi modo de ver , las tecnologías dependen de los humanos que las utilicen para bien o para mal...Pero ¿sigue siendo válida esa conclusión si las tecnologías son las que deciden?
Más que caer en la ciencia ficción, de lo que se trata es de regular y aparece lo que Harari llama el problema del ajuste (317)
LA AUTOCORRECCION Y EL AJUSTE INFORMÁTICO
Repasar las etapas de la humanidad desde la perspectiva de la información es un ejercicio que Harari torna en agradable lectura, pero un punto clave y novedoso del autor, a mi modo de ver, es analizar la capacidad de autocorrección como “potencializadora.” Por cierto, aplicada esa potencialización no solo en las redes digitales, debería profundizarse en Colombia en nuestros comportamientos, en donde tan poco se reconoce el error, especialmente en medios de comunicación y en la academia, y no solo en nuestra evolución politiquera.
Señala Harari lo obvio : que esa capacidad de autocorrección es mas evidente en democracias que, por supuesto, en regímenes como las dictaduras y el estalinismo. (163)
Profundizador del contenido de palabras, Harari se detiene varias veces en el concepto de pueblo, que considera un mito . Me recuerda el de libertad de madame Roland, quien, al morir ejecutada por la revolución francesa pronunció la célebre frase: ¡Oh libertad cuántos crímenes se cometen en tu nombre!
También analiza Harari en detalle las estrategias de Esparta y de la dinastía China Qi, y , por supuesto, de la Rusia bolchevique y de Hitler, pero también, las TICS totalitarias con pocos mecanismos de autocorrección, lo mismo, como ya se dijo, que redes de las Iglesias Católica, judía y musulmana.
En ese sentido, los algoritmos -anota Harari-, evolucionan hacia el aprendizaje automático gracias a sus mecanismos de autocorrección “y producir una inteligencia artificial completamente desarrollada” (347) Por eso, recalca, es clave el objetivo para que el algoritmo aprenda de sus errores. Quedan , sin embargo, sus limitaciones y la necesidad de que los humanos sean capaces de vigilarlas.
En la parte III parte de una certeza que da la evolución humana : las civilizaciones nacen del matrimonio entre burocracias y mitología. Asi como en el siglo XIX la revolución industrial condujo hacia el imperalismo y fue un experimento muy costoso, asi las democracias liberales tienen la ventaja de poseer mecanismos de auto corrección “sólidos” , afirma. (367).
¿Cómo proteger la democracia?- se pregunta Harari. Protegerla de riesgos como los que señaló desde hace rato Soshana Szuboff en su mamotreto “ la era del capitalismo de la vigilancia ? ( Paidos, 2020)
Y responde que mediante una política informática, tema que propone en la tercera y ultima parte de Nexus. Incluye la diversidad de bases de datos, sistemas mixtos públicos y privados, algoritmos de control y, ayer como hoy, vigilancia de la base hacia las cumbres del poder.
Una conclusión bastante obvia y hasta cierto punro decepcionante por lo obvia. Pero lo importante de este libro, como todos los de Harari, no es tanto la conclusión como la manera de contar y de explicar. Es decir, de educar e informar.
EL AJUSTE INFORMATICO (337)
En ese sentido de información y educación, Yuval Harari saca otras conclusiones de historiador , como :
• Las victorias militares terminaton conduciendo a derrotas • políticas(321)
• La red informática probablemente adquirirá mas poder que las humanas (323)
• Son claves los objetivos fijados por los humanos a los ordenadores (para que no les dé por reemplazar a los humanos, agrego. (324 )
• Requieren urgentemente ( a mi modo de ver) el desarrollo de la ontología ( ética de la comunicación)
• Se requiere analizar humananente realidades intercomputacionales (339)
• Es fundamental desarrollar el alcance de la autocorrección en los ordenadores y en la IA . En ese sentido, la IA debería poder programarse por los humanos para admitir que se equivoca.
¿COMO MANTENER UNA CONVERSACION?
Al margen de todos estos nuevos avances tecnológicos, Harari se pregunta ( capitulo 9) si las democracias pueden mantener todavía una conversación. ¿ como evitar hoy , en la era de IA y ordenadores, lo que sucedió con la revolución industrial , que degeneró en cuestionable imperialismo?
Para él, la democracia liberal tiene ventajas, entre las cuales la prinicipal es la capacidad de autocorreccción. En lo concreto de la democracia liberal, Harari defiende la existencia de un sistema mixto de servicios digitales básicos lo que, a mi modo de ver está adecuadamente propiciando el ministerio TIC Colombiano en nuestro país.
Pero ¿cuales son para Nexus las amenazas a la democracia por la automatización y sus retos? (370- 377)
- La vigilancia excesiva de los humanos que amenazan sus libertades
- La propia automatización
- La desaparición de antiguos empleos
- El no desarrollo de nuevas habilidades motrices, sicológicas y sociales y de patrones de coportamiento emocional
- No inventarse empleos diferentes para humanos ni entender la necesidad de reinventarse
- Instaurar como derecho humano el de pedir y obtener una explicación de los algoritmos. (387). Es decir , no dejar que actúen sin tomar medidas de precaución.
- Comprender los puntos de referencia inflexibles de los algoritmos , por ejemplo, para la obtención de créditos bancarios (392) y estudiar las “probabilidades no siempre convincentes “ de los algoritmos (392)
En términos políticos, despues de su recorrido por esta nueva era, Harari destaca una paradoja. Pone como ejemplo lo que llama el “suicidio conservador “ , cuando Trump propició el ataque al Congreso de EEUU, en tanto que frente a ese acto, el partido demócrata se mostró protector “ del antiguo oden y de las instituciones establecidas” (379)
Harari propone hacia el futuro una necesaria flexibilidad como mayor habilidad humana para sobrevivir en el siglo XXI, evitar suposiciones inexactas lo que, a mi modo de ver, requiere una reflexión por parte de las universidades colombianas y en general, de los sistemas educativos., poco flexibles.
Más que espantarnos con el reino de los algoritmos ( la expresión es mía), Harari propone un necesario auditaje de “ las instituciones burocráticas “ y mayor capacidad ciudadana para entenderlas.
Y además de, por supuesto, lo que bien puede calificarse de una ética de ”puntuación social de nuestras aptitudes humanas ” que no pueden dejarse a la mera decisión algoritmera.
¿Cómo se logra? fomentando lo que Harari llama la “conversación social”y antes llamábamos el debate público, ahora socavado por las redes sociales. (397).
¿Qué se opone a esa "conversación"? Para el autor, los “bots” ( palabra que viene de robots) artificiales se meten donde no deberían caber, influyen de manera negativa en la opinión pública; terminan orientando las conversaciones públicas y estimulan lo que el autor llama “orquestarlas”. (400) Pero las democracias liberales podrían, como medida concreta, prohibirlos (401) ya que “los bots no tienen derecho alguno” (401) con lo cual estoy plenamente de acuerdo.
Finalmente hoy es posible, gracias a la tecnologia, que las democracias cobijen la mayor cantidad de personas, aunque pueden amenazar el debate público, de tal manera que resulta evidente aceptar que “ la red de información de muchas democracias se está descomponiendo” (403) al punto que resulta cada vez mas difícil, escribe Harari “contestar siquiera a la más esencial de las preguntas políticas : ¿por qué estamos discutiendo?” (404)
Sin duda esta es es una era post imperial en lo político y de aparición de lo que Harari llama "los imperios digitales". ¿Entramos ahora en un colonialismo de datos, es decir, en una nueva economía de la información?(431) Por ejemplo, "El activo más importante de la industria textil es la información, en lugar del algodón o la maquinaria" explica, con China y EEUU potencias líderes en lo que llama "puntuación social", como superpotencias en IA, que a su modo de ver , es "el depredador más terrible" .
Como historiador novedoso, a Harari le interesa la evolución de la información, sin ser exageradamente optimista pero tampoco "cínico", insistiendo en crear redes más sabias con mecanismos de autocorrección.
Un libro sin duda fundamental para entender mejor nuestra era, en la que el riesgo mayor es que la IA "pueda escapar de nuestro control". Pero a la vez, un libro que nos ayuda a dejar nuestros miedos para afrontar la nueva realidad humana.
MTH Obra Nostalgias Occidentales
BOTS Viene de Robot
Para otros usos de este término, véase Bot (desambiguación).
Para los Bots de Wikipedia, véase Wikipedia:Bot
https://es.wikipedia.org/wiki/Wikipedia:Bot
