El algoritmo nos quiere enfrentados

De la pelea de sobremesa a la discusión en redes, o cómo la economía de la atención monetiza nuestra irritación

Hoy voy a empezar narrando una escena que seguro que os resulta cercana. Estáis en una comida en casa de un familiar, una cena de empresa, un cumpleaños, una boda… y la conversación con la gente de la mesa discurre durante un buen rato por un terreno bastante agradable y distendido, entre lo banal y lo bienintencionado, entre los jijis y los jajas, hasta que alguien, sin previo aviso, suelta una bomba. Una sobre alguna conspiración, sobre inmigrantes y el gran reemplazo, sobre las vacunas, sobre los chemtrails, sobre las renovables y la Agenda 2030, sobre “lo woke”, sobre lo que toque esa semana. Cualquier asunto, creo que me entendéis, que pueda servir para poner algo de guindilla a la mesa.

Ese primo. Ese suegro. Tu compañero de curro. Tu cuñao haciendo su entrada triunfal. Aquella persona con la que hace cinco años se podía hablar perfectamente hoy se ha vestido para la ocasión y ha soltado un argumento manifiestamente falaz, sin ningún dato contrastable detrás, sin el más mínimo fundamento y sin la más mínima vergüenza. Además, ves cómo lo expone con la convicción absoluta de quien ha visto varias veces ese vídeo de entre cuarenta segundos y tres minutos que se lo ha explicado todo. Y tú, mientras tanto, decides si discutir, reírte o morderte fuerte la lengua. Al mismo tiempo, por dentro, te preguntas: ¿qué habrá llevado a esta persona a pensar de esta manera?

Mientras lo observas y lo escuchas, tienes esa sensación de estar hablando idiomas distintos sobre una misma cosa. Y, además, te inquieta que este tipo de actitudes lleven un tiempo apareciendo repetidamente en sitios donde antes no se veían. Ya ningún espacio está a salvo, independientemente del capital cultural, social o económico del que se disponga. En un grupo de WhatsApp con amigos del instituto, en tu trabajo, en casa de tu tía Pepa... Te estás tomando tranquilamente un café cuando, ¡BOOM!, fulanito de copas, con dos carreras y un máster, te dice que ya no se echa crema solar porque es un timo de las farmacéuticas. Lo vio en TikTok, por supuesto¹.

Ojo, antes de seguir: conste que a mí me encanta debatir. Me gusta sentarme con alguien que piensa distinto, desde otro espectro ideológico, escuchar sus razones, aprender por el camino, cambiar de opinión cuando toca, descubrir que estaba muy equivocado… Esa fricción me parece, de hecho, una de las pocas cosas serias que sostienen la vida en común. Pero cada vez me cuesta más enfrentarme a este tipo de seres radicalizados, apologetas de la ignorancia, con los que hoy he querido comenzar este texto. Seres que creo que, en el fondo, no son más que víctimas de un sistema extractivo que los explota. Gente que sufre, en primera línea, los efectos de una dinámica algorítmica concreta, fabricada por unas plataformas concretas, con un modelo de negocio muy concreto. Una dinámica que luego, por contagio, terminamos sufriendo todos los demás.

El barro hasta las rodillas y seguimos dándonos garrotazos. Goya, visionario. [Duelo a garrotazos, Francisco de Goya (1820-1823)].

Me explico. Las plataformas no quieren que entendamos mejor el mundo. Tampoco optimizan sus sistemas para mostrarnos solo lo que nos interesa, como suele creerse, ni para que aprendamos, ni para que tengamos conversaciones decentes, ni, por supuesto, ordenan lo que nos muestran para que seamos mejores personas o mejores ciudadanos. Optimizan sus algoritmos con un único objetivo: mantenernos dentro. Cuanto más tiempo pasamos usando sus servicios, más anuncios consumimos y más datos extraen de nuestro tiempo y de nuestras conductas. Porque ese dato extraído no es banal: es la predicción de lo que vas a hacer mañana. Y esa predicción termina vendiéndose al mejor postor, que suele ser aquel que quiere moldear tu mañana.

No falla: primero tu tiempo, después tus datos, después la pelea por comprar tu información. Y todo esto caiga quien caiga, cueste lo que cueste. Si por el camino te has radicalizado, te has peleado con tu familia porque de repente son terraplanistas o te has acostado enfadado contigo mismo por haberte enfangado dialécticamente con un random en Twitter, da igual. A Zuckerberg no le importa. A Elon Musk tampoco. La toxicidad, con todas sus consecuencias, no es un defecto a corregir en sus sistemas. La toxicidad es el motor. Es aquello que los hace rendir a lo bestia.

¿Y qué contenido los hace rendir salvajemente? ¿Cuál maximiza tu tiempo dentro? Aquel que activa tus instintos más primarios, el que dispara procesos emocionales de alta excitación: cuando te indignas, cuando te asustas, cuando algo te da asco, cuando sientes tu identidad amenazada, cuando un meme es certero y te toca la fibra, cuando hay un pedazo de zasca (esto creo que ya no se dice mucho, pero estoy mayor, me lo perdonáis). Y esto no es una boutade mía: lo dijo la propia Facebook, aunque fuera sin querer. En 2021, Frances Haugen, exgerente de producto en la compañía, filtró miles de páginas de documentos internos. En ellas apareció que Meta había cambiado su algoritmo para priorizar las llamadas meaningful social interactions. Suena precioso, ¿verdad? En la práctica, lo que se descubría es que el algoritmo daba más peso a las publicaciones con más reacciones, comentarios y compartidos, amplificando sobre todo el contenido más divisivo y sensacionalista. Más recientemente, otro estudio cruzó más de un millón de enlaces de Facebook y 44000 tuits, y encontró tres cosas: 1) la desinformación activa más indignación que las fuentes fiables; 2) la indignación dispara el retuit o el compartir, da igual si es verdad o mentira, y 3) la gente comparte contenido indignante mayoritariamente sin leerlo. También, otro documento del equipo de data scientists de Meta hablaba de “efectos secundarios poco saludables” en política y discurso público². Por supuesto, a pesar de todo esto, no han modificado nada. La gente discute más, se queda más, hace más clic. Ergo caja.

---

En el segundo texto que escribía en Viernes en Kiribati, os hablaba del concepto de burbuja de filtros y de cómo las plataformas generan una especie de cámara de eco que a veces no nos permite ver la disonancia, que nos oculta a quienes piensan distinto a nosotros. De alguna forma, eso es lo que la mayoría de la gente cree que hacen los algoritmos, ¿no? Que sirven para mostrarnos lo que queremos ver. Pues bien, para que veáis que me gusta discutir, especialmente conmigo mismo, creo que estaba algo equivocado. Esa idea de que las redes nos encierran en burbujas ideológicas y por eso nos radicalizamos puede que funcionara durante un tiempo, pero hoy necesita matices, porque opera junto a otras lógicas quizá algo peores.

Hace unos años, el sociólogo Chris Bail y su equipo reclutaron a más de mil usuarios norteamericanos de Twitter, mitad demócratas y mitad republicanos, y les pagaron para que durante un mes siguieran a un bot que les exponía cada día a contenido del otro lado. Midieron actitudes antes y después, y el resultado no fue esa fantasía liberal de la deliberación en la que se cree que basta con escuchar al adversario para volverse más razonable. Pasó justo lo contrario. Salir de la burbuja les polarizó más, porque las redes funcionaron (y funcionan) como un prisma. No te tapan al adversario, sino que te lo enseñan deformado, agrandado, siempre en su peor versión. La persona del otro lado que más fácilmente cruza a tu feed, la que más te recomienda el algoritmo, es la que ha aprendido a producir lo que el campo digital premia: lo más estridente, lo más insufrible, lo más fácil de odiar. Lo más viralizable. Hace poco, otro estudio replicó el problema pero desde otro lugar: en lugar de exponer a la gente al otro bando, reordenaron en tiempo real sus feeds durante la campaña presidencial estadounidense para bajar la presencia de contenido cargado de inquina partidista. Con solo mover ese único parámetro relajaron el termómetro afectivo hacia el adversario en más de dos puntos. Vamos, que si quisieran, podríamos tener otro ambiente, pero no quieren.

Más que aislarnos o meternos en burbujas, el algoritmo ahora quiere que veamos al otro permanentemente en modo “lo peor que tiene”. Del proceso no salimos creyendo necesariamente cosas más extremas, pero sí sintiendo más asco hacia quien no piensa como nosotros. Y la gente previamente no está ideológicamente más lejos, pero las plataformas incentivan el ruido, lo que más odio y enfrentamiento genera, porque es aquello que nos conecta visceralmente y lo que les genera lucro a paladas.

Hay otro experimento que se ha citado hasta la saciedad y que aún hoy, con todas sus salvedades posteriores, sigue siendo ilustrativo. La socióloga Zeynep Tufekci contó hace unos años cómo había abierto cuentas limpias en YouTube y se había dedicado a dejar que el autoplay tomara las decisiones por ella. Empezando por vídeos de mítines de Trump, al cabo de un tiempo, acababa en discursos supremacistas blancos. Empezando por vídeos de Clinton o Sanders, acababa en conspiraciones sobre el 11-S. Pero el asunto no quedaba ahí, fuera del mundo político, el patrón también se repetía. De vídeos sobre senderismo, el algoritmo acababa empujándola a ultramaratones; de vegetarianismo, a veganismo militante. Nunca eras lo bastante hardcore para el sistema. Tufekci concluía afirmando que YouTube podía ser uno de los instrumentos radicalizadores más potentes del siglo XXI. Tras el revuelo causado por su investigación, la propia plataforma ajustó parcialmente su algoritmo ante la presión, y los estudios posteriores han ido matizando la versión más automática de la tesis, pero el principio sigue ahí: si optimizas para la atención, la atención te llevará, casi por necesidad estadística, hacia lo más estridente³. Porque nunca es suficiente, siempre se quiere un poco más. Otra investigación reciente hizo lo mismo que Tufekci, pero en TikTok. Auditaron las lógicas internas del algoritmo y encontraron que buena parte del acceso a contenido de extrema derecha procedía directamente del sistema de recomendaciones. Vamos, una maravilla.

[Esqueletos peleando por un arenque, del belga James Ensor (1891)]. El dos ratas peleando por un churro con música de fondo de Linkin Park HD 60fps del siglo XIX.

Cuando este sistema escala, además de cambiar cómo discutimos, también cambia el terreno mismo sobre el que se puede discutir.

La primera consecuencia es la fragmentación del mundo común, de todo aquello que podríamos compartir independientemente de nuestra ideología o de nuestra forma de habitar el mundo. Hannah Arendt decía que la política exige un espacio compartido: no hace falta estar de acuerdo, pero sí disentir sobre algo mínimamente común. Si cada grupo habita una versión distinta de los hechos, la deliberación pierde todo sentido. Y empezamos a no discutir qué hacer con la realidad, sino sobre la realidad misma, sobre si existe o no. Chantal Mouffe defendía que la democracia necesita conflicto, pero conflicto donde el adversario se vea como rival legítimo, no como un enemigo a destruir. El algoritmo, en cambio, nos entrena para lo contrario.

Si lo que tu plataforma de confianza te sirve cada día, a la hora del café, en el metro o en la cama antes de dormir, es que el “adversario” no es un conciudadano con el que discrepamos, sino un agente moral repugnante, la pregunta deja de ser “cómo podemos convencerle” y pasa a ser “cómo aislarle, derrotarle o hacerle callar”. Además, todo esto sucede con la aceleración propia de los tiempos en los que vivimos. Hoy los partidos reaccionan a un tuit antes de leer la ley que ese tuit comenta. Se piensa antes en la viralidad de la contestación pública que en su lógica interna y/o ideológica. Se organizan tertulias con alto contenido en gritos y alaridos alrededor de frases sacadas de contexto, un contexto que las propias redes limitan. Vamos, que tenemos un buen circo montado.

Y esto no nos beneficia a prácticamente nadie. La destrucción del terreno común es la destrucción de la democracia misma. Derechas e izquierdas se ven deformadas, ideologías completamente caricaturizadas: unas agarradas a la nostalgia altamente retuiteable, otras adictas a la microbatalla simbólica, mientras la batalla real de las ideas y la organización material de la vida misma quedan para otro día. Y quien se radicaliza, mientras tanto, tampoco es consciente de que su proceso se ha gestado en los laboratorios de captura de atención de Silicon Valley, los únicos beneficiarios, donde les importa más bien poco si la ciudadanía de una nación concreta se lleva mejor o peor.

---

Siempre que se filtra un documento interno de Meta o de cualquiera de las empresas tras las grandes plataformas, el guion es el mismo: lamentamos lo ocurrido, investigaremos, ajustaremos los parámetros. Muy de Borbón. Pobrecitos, cometieron un error. Pero la realidad es que no lo es. Imagina que mañana alguna de estas plataformas decide optimizar los algoritmos para favorecer conversaciones largas, pausadas, con matices, donde la gente cambia de opinión y reconoce que no había leído bien. ¿Qué pasaría? Que sería una experiencia mejor para la vida democrática, pero probablemente también una ruina para la cuenta de resultados de estas empresas. Su valoración bursátil depende de que sigamos discutiendo. El algoritmo nos enfrenta porque ese es el camino más corto entre nuestra atención y los números verdes del S&P 500. El campo digital premia la indignación articulada, el meme preciso, la respuesta inmediata, la simplificación memorable. Castiga la duda, la lentitud, la ambivalencia, el decir “no lo tengo claro”… Quien produce contenido aprende pronto qué circula y qué muere.

Las métricas que importan (usuarios activos diarios, tiempo de sesión, retención, el tan buscado engagement…) crecen cuando crece la fricción. Pero no cualquier fricción, claro. Necesitan suficiente conflicto para que no cierres la aplicación por aburrimiento, pero no tanto como para que la abandones del todo. Pasito a pasito para que sientas, a cada momento de tu vida, una pequeña caldera moral en el bolsillo.

Por eso venden la idea ficticia y falaz de su neutralidad cuando piden disculpas o reconocen no haber operado adecuadamente. Porque es mucho más cómodo que reconocer que ordenan sus parámetros exclusivamente bajo criterios comerciales y la estúpida idea del crecimiento infinito en un mundo finito. Cuanto más, mejor; cueste lo que cueste. Solo son neutrales si por neutralidad entendemos capitalismo salvaje. Europa, muy lentamente, está empezando a entrar en todo esto, exigiendo transparencia sobre los parámetros principales de los sistemas de recomendación y obligando a las grandes plataformas a evaluar y mitigar sus riesgos sistémicos y democráticos, sobre todo aquellos vinculados al diseño de sus sistemas algorítmicos. Pero vamos tarde, muy tarde⁴.

---

Ahora, para cerrar, es cuando el Kiribati te propone desconectar, salir a correr, leer un libro y no enzarzarte en discusiones con desconocidos. Pero no. Hoy no. Todo eso puede funcionar un rato, pero también es puro individualismo. Este problema es demasiado estructural como para que una pequeña disciplina de higiene digital personal pueda solventarlo. Sobre todo porque, además, desconectarse del todo también es un privilegio: hay quien necesita las redes para trabajar, informarse, organizarse, vender, cuidar vínculos o, sencillamente, para no desaparecer. La salida no puede ser personal porque el problema no lo es.

La salida, si es que existe, tiene que ser intervencionista, regulatoria y colectiva. Transparencia algorítmica real. Acceso de investigadores independientes a datos. Auditorías externas reales. Límites y gravámenes al diseño adictivo. Y, sobre todo, reconstrucción de espacios y mediaciones que las plataformas no puedan controlar, a ser posible con tanta parte offline como online: sindicatos, asociaciones, prensa local, espacios culturales, comunidades de barrio, escuelas, colectivos, bibliotecas, grupos y espacios donde una persona no sea solo ese comentario desafortunado que ha dejado en redes a alguien con quien discrepa. Lugares donde no haya un algoritmo que joda la marrana.

Y una última cosa para terminar. Una especie de autorreflexión y de propósito de enmienda. Yo mismo he discutido sobre cosas que no me importaban tanto. He sentido ese placer horroroso de ver caer al que piensa distinto. He citado fuentes que no había leído del todo para “ganar” una discusión. He confundido estar informado con estar simplemente estimulado para el enfrentamiento. He visto cosas que vosotros no creeríais. Atacar naves en llamas más allá de Orión…

¡Espera, que se me va! Vuelvo, perdón.

Lo de antes de la broma cinéfila no lo digo para flagelarme, sino para recordar que el algoritmo no funciona solo con los otros, con los radicalizados, con los pobres diablos que han sido abducidos por Facebook o TikTok. Funciona también conmigo, especialmente cuando me encuentra cansado, irritado o necesitado de una pequeña victoria moral. El algoritmo nos quiere enfrentados porque le funciona. Le funciona conmigo y posiblemente le funciona contigo. La primera victoria, antes que cualquier otra, sería recuperar el sentido de que esto no es irreversible, porque se sustenta sobre una decisión empresarial concreta: la de enriquecerse a tu costa y a costa de la ciudadanía en su conjunto. Y las decisiones empresariales, mira tú por dónde, se pueden discutir, se pueden regular y, llegado el caso, se pueden quebrar si somos capaces de resistir colectivamente.

Ale, voy a ver si puedo seguir tomándome el café tranquilamente. Y después me voy a decirle a la gente que quiero cuánto la quiero. A ver si el sistema me capitaliza eso.

1. Marcos Llorente a prisión, por favor.

2. Para saber más sobre los cambios de algoritmo de Facebook y los “efectos secundarios poco saludables”: https://archive.ph/iYGdL (pongo enlace desde archive.ph porque hay muro de pago).

3. Si lo ajustan para lo contrario, por lógica, nos empujaría hacia la homogeneidad y lo mainstream, lo cual generaría otro tipo de problemas que posiblemente algún día abordaremos en otro texto. De momento podemos quedarnos con que no hay algoritmo ni neutral ni bueno: el que no te la hace a la entrada, te la hace a la salida.

4. Rachel Griffin dice, en un análisis de 2025, que el problema de Europa no es solo que llegue tarde, sino que delega en las propias plataformas la identificación de los riesgos que ellas mismas generan. Vamos, como pedirle al zorro que sea él quien audite el gallinero: https://doi.org/10.1017/elo.2025.17