La lógica del algoritmo es perversa y hace daño

Un mito muy utilizado para describir el mundo en que vivimos es el de la torre de Babel. En el libro del Génesis, los descendientes de Noé deciden levantar en la tierra de Sennaar un enorme edificio vertical «cuya cúspide toque el cielo». En aquella época, «toda la tierra tenía una misma lengua y las mismas palabras». Pero Dios no apreció esta torre. Tras bajar a verla en construcción, temiendo que los seres humanos, hinchados de orgullo, ya no pusieran límites a su arrogancia («ahora no les será imposible lo que piensan hacer», citando las escrituras), había decidido poner un radio en sus ruedas: «Bajemos, pues, y confundamos su lengua, para que ya no entiendan la de los demás».

Sin querer rozar la blasfemia, es difícil no pensar que, en nuestros días, la deidad iracunda que ha traído la incomprensión al mundo de los hombres toma la forma de plataformas digitales etéreas y caprichosas, en las que la realidad se ha cristalizado en fragmentos que parecen imposibles de recomponer. Hemos dado a nuestro Dios del Antiguo Testamento un nombre sencillo y un tanto aséptico: redes sociales.

Influyen en las decisiones cotidianas

Como muestra con acierto Max Fisher, periodista del New York Times especializado en conflictos algorítmicos y polarización, en su ensayo The Chaos Machine (La máquina del caos -Little, Brown y compañía, 2022-), han sido elecciones deliberadas, conscientes y consecuentes las que han traído el caos del título a nuestras existencias, que tienen que ver con la necesidad de las grandes empresas tecnológicas de maximizar el rendimiento de sus productos: «Recuerda que el número de segundos de tu día nunca cambia. Sin embargo, la cantidad de contenido en las redes sociales que compite por esos segundos se duplica aproximadamente cada año», escribe Fisher, explicando al lector que este mecanismo conduce a una exageración continua del contenido que puebla nuestras pantallas cada día.

Un post entre mil lo consigue (o más bien, menos) y para conseguirlo tiene que estar cada vez más orientado al engagement: y, por tanto, más airado, indignado, victimista, reductor, superficial, maniqueo. Con el paso de los años, y luego de las décadas, este proceso de empobrecimiento progresivo del discurso público ha dado lugar a una compartimentación estanca de nuestros procesos cognitivos, en virtud de la cual nuestra aproximación a la realidad está filtrada por mecanismos a priori que nos hacen desconfiar de todo lo que hay más allá de nuestro feed de noticias seleccionado algorítmicamente.

Los riesgos ocultos de lo social

Otro gran texto de dirección para entender cómo las plataformas digitales han cortocircuitado nuestras mentes es Dieci ragioni per cancellare subito i tuoi account social (Diez razones para eliminar tus cuentas sociales inmediatamente -Il Saggiatore, 2018, trad. it. Francesca Mastruzzo-), del informático y pionero de la web Jaron Lanier. Lanier es una leyenda de Silicon Valley: considerado el padre de la realidad virtual, puso su mano en el nacimiento de la web moderna y lleva cuarenta años entre las mentes más brillantes de la crítica tecnológica mundial.

Ya en 2006, cuando Facebook y Twitter eran aún un fenómeno relativo, se preguntaba en un artículo de una revista especializada: «¿Qué impide que una masa en línea de gente anónima pero conectada se convierta de repente en una turba malvada, como han hecho las masas una y otra vez en la historia de todas las culturas humanas?». En Diez razones, Lanier analiza los efectos de las plataformas digitales en la sociedad, llamándolas «imperios de modificación del comportamiento«: sus usuarios son continuamente engañados por porciones de realidad montadas para atraer su atención, que les inducen a convertirse en adictos a marcos, perspectivas e ideas funcionales a la creación continua de perfiles. Y luego, que un anunciante envíe la bola al hoyo con el tiro más fácil, explotando las taxonomías psicológicas alteradas de los consumidores potenciales para convertirlos en clientes.

Este es el ecosistema que habitamos desde hace al menos quince años: la foto del perrito de un amigo no es solamente un daguerrotipo con el que darse un capricho; la noticia falsa publicada por alguien no es solo una estrafalaria prueba de analfabetismo digital; la llamada a las armas de los seguidores del influencer de turno no es sólo una búsqueda de solidaridad. Razonando en términos sistémicos, los contenidos con los que nos bombardean en un flujo continuo en las redes sociales producen efectos que ya han puesto en serio peligro nuestra percepción de las relaciones sociales y el sentido profundo de nuestra civilización.