«As marxes de manobra fronte aos algoritmos vanse reducindo cada vez máis»

Os algoritmos deciden boa parte do que facemos no noso día a día, desde que vemos nas redes sociais, que música escoitamos ou que oportunidades laborais chegan ata nós. A súa influencia esténdese a case todos os ámbitos da nosa vida diaria, alimentando a sensación de que estamos sometidos a un poder tecnolóxico invisible e inevitable. Pero somos realmente tan impotentes fronte a eles? En Algoritmos de resistencia o investigador Emiliano Treré, xunto a Tiziano Bonini, cuestiona esa visión determinista e pon o foco na capacidade das persoas para desafiar, sortear e transformar as regras das plataformas dixitais. Publicado orixinalmente en inglés en 2024 por MIT Press, chega na versión en español coas editorial Linguas de Trapo despois de ser traducido ao italiano e grego, e coas versións en coreano, árabe e chinés en proceso de publicarse.

A través das estratexias cotiás de usuarios e traballadores, con anos de investigación de campo sobre o uso de repartidores, creadores de contido e activistas, mostra que os algoritmos non son sistemas de poder absoluto, senón espazos de disputa nos que o control se negocia constantemente. Mostran como estes usuarios desenvolven estratexias individuais e colectivas para sortear, cuestionar ou aproveitar no seu beneficio as regras dos sistemas dixitais. Unha mirada que invita a repensar a nosa relación coa tecnoloxía e a preguntarnos quen ten realmente o poder no mundo dixital.

- Como xurdiu Algoritmos de resistencia?

Tanto Tiziano como eu compartiamos unha frustración. Interesábanos mirar como fan as persoas cos sistemas e viamos que isto estaba infravalorado, infraestudiado, mentres que o que os sistemas facían estaba bastante analizado. Todas estas investigacións sobre vixilancia, discriminación e explotación son obviamente imprescindibles, pero o problema aparecía cando o dominio borraba toda posibilidade de resposta. Parecíanos preciso mirar como a resistencia non aparece unicamente cando hai grandes protestas, grandes estalidos sociais, senón tamén en decisións máis pequenas, conversacións, arranxos, todo o que o libro describe. Así nace, dunha frustración compartida cara a grandes explicacións que non arroxan luz sobre as resistencias e as marxes de axencia que aínda temos como xente.

- Cambiou algo desde que o escribistes?

Cambiou, e eu creo que segue funcionando a nosa análise de axencia, de solidariedade, de tácticas e estratexias, das economías morais. Eu creo que talvez se podería dicir que as marxes de axencia son ata menores agora e as prácticas desenvólvense en plataformas e contornas diferentes. Hase complejizado o sistema, pero iso non fai que o noso libro envellecese mal. Aínda que algúns mecanismos talvez complicáronse, non é que sexa un libro optimista a nivel tecnolóxico, pero é un libro un pouco máis esperanzador. Agora talvez seriamos un pouquiño menos, porque a situación de concentración de poder é peor.

- Trátase tamén de facer visible todo o que hai detrás desa aparente inmaterialidad do dixital?

Si, precisamente. Era descubrir as persoas que están detrás e a súa axencia, tanto a nosa como a de repartidores, activistas, creadores de contido, pero non os grandes creadores de contido, os micro. Agora estou con temas de materialidad no sentido de sitios onde se cristaliza o impacto e a circulación do procesamiento destes datos, que son os centros de datos e as protestas e todo o que pasa coa expansión da computación. Son todos intentos de facer ver que detrás da nube e de mecanismos que nos parecen ata fáciles, banais, case inmateriais, hai xente e hai recursos, terra e intereses, por suposto.

- Temos marxe de manobra fronte aos algoritmos?

Temos marxe e iso vai un pouco coa idea do libro. A resistencia e o poder son dúas caras da mesma moeda e onde hai un hai o outro. Iso non quere dicir que estean balanceados. A capacidade reflexiva das persoas para influír nos resultados dos sistemas algorítmicos é o que denominamos axencia algorítmica. Obviamente, distinguimos entre axencia e resistencia. Adaptarse para render mellor pode ser unha forma de axencia perfectamente compatible cos obxectivos dunha empresa, pero para falar de resistencia interesa que a relación de poder estea a cuestionarse. Obter unha mellora individual non demostra por si soa que aumentase un control de tipo colectivo.

A axencia sempre é situada, depende dos ingresos, do tempo, do coñecemento, das redes de apoio, das posibilidades de asumir perdas. Fundamentalmente, é unha cuestión de clase social tamén. Unha persoa que necesita cobrar hoxe non pode experimentar igual que alguén que ten máis alternativas. Eu diría que se pode influír sobre os criterios mediante representación colectiva, reclamacións compartidas, e pode importar máis que conseguir unha vantaxe dentro dunha clasificación, aínda que todo suma.

Mostramos como se aprende, por ensaio e erro. Tense coñecemento útil e equivocado, porque o sistema é opaco, pero non quere dicir que haxa unha ausencia total de coñecemento. Hai aínda axencia? Si a hai. Tamén é un discurso importante para non aceptar o statu quo. As cousas pódense cambiar, as cousas poden mellorar. Se se acepta un discurso de ausencia total de axencia, non se imaxina un futuro diferente.

- As plataformas terminan absorbendo tamén as formas de resistencia?

Defendemos unha imaxe da ambivalencia. É certo que algunhas prácticas poden mellorar a vida de quen as utiliza e ao mesmo tempo achegar información útil para a empresa. Non hai algo puro ou completamente limpo. Entramos en debate con algúns que din que as prácticas de resistencia que vemos son reintegradas por parte do poder. Nós non cremos que sexa así. Vimos nos nosos datos que algunhas exceden.

Non hai un mecanismo de absorción total do capital. Hai sempre algo que excede. E o que excede normalmente son lazos de solidariedade entre traballadores, que se crean e permanecen, cristalízanse e nalgúns casos levan a cambios substanciais de verdade. Paréceme problemático teorizar unha captura total, porque entón estarías a dicir que xa non hai ningunha esperanza. Talvez estamos a ir cara a un sistema dese tipo, pero tamén hai sinais de que hai moitas gretas, moitas rupturas e non todo se pode subsumir. Iso non quere dicir que todas as prácticas sexan totalmente emancipadoras. Seriamos demasiado inxenuos ao pensar algo así. É moito máis impuro, complexo e imperfecto.

- Como inflúen no noso comportamento as ideas que nos facemos sobre os algoritmos?

Desenvolvemos estas teorías porque non podemos acceder ao algoritmo. Estes son privativos, corporativos, son caixas negras. A xente intenta reconstruír mecanismos que son alleos, pero que teñen impacto nas nosas vidas. Cos algoritmos pasa o mesmo.

Fallar continuamente, pero logo entender e, sobre todo, desempacar o funcionamento dun algoritmo de forma colectiva. É algo que fas tamén a nivel individual, pero falo máis eficazmente de forma colectiva. Con máis xente dis: «Deime conta de que todas as veces que fago isto dáme máis ordes ou pedidos». E outro che confirma que é así.

Hai toda unha serie de dinámicas de aprendizaxe detrás diso. Non é tanto saber como funciona, senón que se fago unha certa cousa e hei visto que dez veces dáme o mesmo, evidentemente funcionará así. Os movementos sociais sempre o fixeron, desde os indignados que querían ter trending topics ata os creadores de bulos da ultradereita. As chamadas folk theories son creacións, sobre todo colectivas, acerca de como funciona algo que non podemos entender. E o seu impacto é concreto, moldean as prácticas.

- Estamos suficientemente preparados para movernos neste ecosistema de plataformas?

Estamos moi pouco educados en xeral. Os índices dinnos que como capacidade crítica estamos a baixar moito. Desde o punto de vista das grandes tecnolóxicas hai moi pouco interese en que desenvolvamos unha capacidade crítica de uso, claramente. Hase visto que os actores sociais que entrevistamos, cos que fixemos etnografía, teñen moita máis conciencia disto do que normalmente lles atribuímos.

«Desde o punto de vista das grandes tecnolóxicas hai moi pouco interese en que desenvolvamos unha capacidade crítica de uso»

Emiliano Treré

— Sociólogo

- Pódese subvertir o funcionamento dunha plataforma?

Incorpóranse ferramentas a proxectos que non necesariamente coinciden cos do deseñador. Isto é algo que os sociólogos da comunicación estudamos desde sempre. A diferenza entre quen crea algo e os usos que se lle dan. Aquí falamos de usuarios, de actores sociais que se apropian das tecnoloxías. Amplifican, coordinan accións para aumentar a circulación dunha mensaxe, evaden restricións e reducen a exposición ao control.

Hai marxes de manobra enormes? Non, non os hai. Pero en protestas, en capacidades coordinadas de impactar algo, en capacidade de xerar folgas ou mellorar as condicións de traballo, foron efectivos. Todo isto entra dentro de formas dinámicas de contestación máis amplas. Revélanos que isto é un conflito vivo, que a sociedade algorítmica é un campo de batalla. Non é algo tan plano, monolítico, onde estás son as regras e trágaschas. Hai formas e tamén evolucionan. Nalgúns casos empeoran e hai menos marxe de manobra, noutros se abren posibilidades.

- Como poden as tácticas individuais converterse nunha resistencia colectiva?

O libro demostra que desde arriba hai unha estratexia de atomizar, fragmentar aos traballadores. Hai pequenos empresarios que están a intentar simplemente ter un certo tipo de control e grandes tecnolóxicas cuxa dominación ou control é máis totalizante. Desde o punto de vista dos traballadores, inténtase ter máis debate, máis discusión, máis concertación, máis capacidade de incidir para ter mellores condicións laborais.

A nivel colectivo é onde temos máis posibilidades. Espazos colectivos onde se poida discutir e crear eses lazos de solidariedade algorítmica dos que falamos. Desempacar o funcionamento e ver como colectivamente se pode mellorar. E de aí escalalo, como se viu en Amazon e noutras empresas. É híbrido, tanto online como offline. Crea novos tipos de organizacións, tanto sindicais como non, cooperativas ou sociedades que poidan manexalo con diferentes valores. Non hai unha soa resposta, non é algo máxico, hai un repertorio de posibilidades para mellorar a vida dos traballadores.

A conciencia crítica algorítmica é moi importante. Darche conta de que non es soamente unha engrenaxe, algo pasivo, senón concibirche como alguén que ten dereitos e pode basearse en prácticas que outros desenvolveron. E logo pasar do individual ao colectivo, que é o máis impactante en capacidade de presión e de cambio.

«A conciencia crítica algorítmica é moi importante»

Emiliano Treré

— Sociólogo

- Ata onde pode chegar a resistencia cando poucas empresas controlan a infraestrutura dixital?

O noso libro está baseado en datos que mostran gretas e posibilidades de acción dentro dun desequilibrio a favor de grandes poderes. Detrás da IA hai moita xente que fai traballo invisibilizado e mantén a súa infraestrutura, sobre todo xente no sur global explotada.

As marxes e estas gretas que describimos vanse reducindo cada vez máis. A IA está a substituír dalgunha forma a capacidade ata humana de contestar e resolver problemas. Pasamos cada vez máis a través de axentes que moitas veces son unha escusa para non contratar a persoas. Temos que reivindicar un nivel básico de humanidade dentro de procesos complexos. Pero hai moitas capacidades aínda. Hai grupos que loitan contra a tecnoloxía ao servizo do ICE en Estados Unidos e da vixilancia. Hai formas de desenmascaralo.

O intento é totalizante, de absorbelo todo dentro do seu propio terreo. A intelixencia generativa é tamén un intento de que todo estea dentro, ata de matar a procura online e facela dentro dun sistema, o xardín pechado. E iso lévanos a se tería que ser público ou se teriamos que ter máis modelos que respondan a diferentes intereses e valores para manexar o que se está convertendo na infraestrutura cotiá da nosa vida social.

«A intelixencia generativa é tamén un intento de que todo estea dentro, ata de matar a procura online e facela dentro dun sistema, o xardín pechado.»

Emiliano Treré

— Sociólogo

- Sería desexable algunha alternativa pública ou cooperativista?

Eu creo que absolutamente si. As alternativas hainas e estanse construíndo. Hai posibilidades de ter modelos de linguaxe máis locais, adestrados con diferentes tipos de cousas, que coexistan. A nivel masivo, como facer isto? Con regulación, concienciación e moitos tipos de prácticas.

Hai unha necesidade básica de garantir que a xente poida beneficiarse de algo sen ter necesariamente que pagar. Un país ten que ter un fondo, un acervo ao que poidas acceder, tanto bibliográfico como dixital, por ser cidadán. Podemos ter nosa propia innovación europea a todos os niveis, tanto de modelos como de empresas e industria, porque se non imos ser sempre os vasallos de Chinesa ou Estados Unidos, con problemas xeopolíticos importantes.

E o problema do gasto paréceme brutal. É desproporcionado, unha barbaridade. Fálasenos da promesa de algo moito mellor coa IA. A min gustaríame investilo na sanidade pública. Non me vale unha promesa. Paréceme alucinante que che digan que en dez anos a IA vai facer isto e aquilo. É como baleirar o Estado e os servizos prometendo algo a dez, quince ou vinte anos. É especulación brutal.

Subscríbeche para seguir lendo