Las empresas de redes sociales y servicios de contenido en ‘streaming’ han campechano a los usuarios un pequeño reducto de control para ajustar los contenidos que el cálculo de recomendación les muestra, pero que no resuelve la efectividad con la que se ajusta a sus intereses reales ni el problema más de fondo de su funcionamiento.

El cálculo de recomendación es un sistema automatizado que usa la inteligencia químico para ofrecer nuevos contenidos a los usuarios, asiduamente a partir del estudio de los datos de su actividad en la plataforma social: dónde hacen clic, cuánto tiempo se paran a ver un vídeo o a escuchar una canción, en qué fotografía han impresionado un ‘Me gusta’, entre otros factores.

Está presente en servicios como Instagram, Netflix, TikTok, Spotify y YouTube, por citar algunos, como una forma de atrapar la atención de los usuarios con vídeos, fotografías o canciones que encajen con sus intereses y que les mantengan en la plataforma o les hagan querer regresar a ella.

Por lo genérico, la masa no tiene control sobre lo que se muestra en las recomendaciones. Sí pueden eliminar búsquedas o el historial al completo, o indicar que un contenido les gusta o no les interesa para intentar modificar la frecuencia con la que aparecen.

Sin confiscación, ello no impide que el cálculo muestre recomendaciones que no siempre encajan con las preferencias de los usuarios. Es más, ocurre que incluso cuando se ha intentado modificar el cálculo a través de los contenidos que se consumen (procurando centrarse exclusivamente en aquellos de los que sí se quieren acoger otros similares), un solo clic o un segundo de más en una foto o vídeo diferente ha tumbado por tierra el esfuerzo.

En los últimos meses, Pinterest, TikTok, Instagram, Threads y Spotify han anunciado una nueva útil de configuración, ya implementada o en pruebas, con la que los usuarios pueden pedir si quieren ver más o menos cantidad sobre determinados temas en las recomendaciones.

En el caso de Pinterest, este ajuste se limita a los contenidos generados por IA y permite activar o desactivar una serie de categorías propuestas por la red social. TikTok, por su parte, ya incluía una mostrador con la que resolver los temas, que puede moverse a la izquierda para ver menos contenidos o a la derecha para ver más, que ahora asimismo permite modificar la frecuencia con la que aparecen los contenidos generados por IA.

Instagram permitirá nominar los temas algunos sugeridos por la IA, otros introducidos manualmente por los usuarios– sobre los que quieren ver más vídeos cortos (‘reels’), para que aparezcan con más frecuencia, o eliminarlos, para reducirla. En el caso de Threads, la compañía tecnológica envite por un enfoque diferente: pedirle directamente al cálculo que muestra más o menos contenidos de temas concretos, mediante el comando ‘Dear Poco’ (Querido cálculo).

A esta pequeña tolerancia de personalización se ha unido Spotify con la prueba de una nueva relación de reproducción en la que, mediante instrucciones, los usuarios pueden ajustar el tipo de canciones que quieren escuchar. Para el resto de recomendaciones, ofrece lo que fuego el ‘perfil de satisfacción’, con el que los usuarios pueden eliminar canciones individuales y listas de reproducción que no sean de su interés.

Un cálculo que atrapa a los usuarios

La equivocación de control sobre el cálculo de recomendación es una de las principales críticas que recibe este factor central de redes sociales y servicios de ‘streaming’, diseñado para suministrar contenido de modo continua y retener a los usuarios.

Algunas plataformas muestran unos pocos contenidos sobre los que se puede hacer clic, que se actualizan constantemente, mientras que otras muestran las recomendaciones en una sucesión de contenidos sin fin que obliga a desplazarse por la pantalla de debajo a en lo alto para seguir viendo.

Su diseño ha provocado la aparición de lo que se conoce como ‘doom scrolling’, el engendro por el que los usuarios avanzan entre las recomendaciones de modo compulsiva, que puede tener mercancía adversos en su lozanía, como cansancio, ansiedad o omisión por dedicarle demasiado tiempo.

Estas consecuencias con más notables entre los adolescentes, que han protagonizado numerosas noticiario por los problemas de anexión a las redes sociales y los problemas de lozanía mental, como los trastornos de imagen, incluida la dismorfia corporal, la pérdida de concentración, de capacidad crítica y de habilidades sociales.

Según un estudio flamante de OnePlus, los españoles llegan a perder de media casi dos días al mes haciendo ‘scroll’ en redes sociales, y caen en el ‘scroll desatino’ en todos los ámbitos, aunque con longevo frecuencia mientras están tumbados en la cama, viendo una película o serie o en el baño.

Para mitigar en cierta forma este impacto placa, las redes sociales han introducido notificaciones y limitaciones sobre el tiempo de uso, dirigidas sobre todo a los usuarios más jóvenes, con la forma de controles parentales y cuentas específicas para adolescentes, para implicar a los adutos en su relación con estos servicios digitales.

Asimismo, algunos estudios han señalado que las recomendaciones en ocasiones incluyen contenidos que vulneran las propias políticas de las plataformas, como la desinformación o la elogio al odio, que los usuarios pueden consumir de modo intensa, mientras hacen ‘scroll’, sin percatarse de ello.

Por la cantidad de datos que manejan y el impacto que tienen en las personas, una de las peticiones a las firmas tecnológicas desde hace abriles es que sean más transparentes con su cálculo de recomendación y con su entrenamiento, sobre todo con los factores que efectivamente influyen en los resultados que ofrece y su funcionamiento.

La denuncia de sesgos, ya sean raciales, ideológicos o de otra índole, asimismo han sido una constante, fruto de los prejuicios presentes en los datos de entrenamiento.