La pregunta pel poder mai no ha estat aliena a la cultura. Cada època ha tingut els seus mecanismes de distribució simbòlica: l’església medieval que decidia quina imatge es podia exhibir, la indústria editorial del segle XX que determinava quin text es mereixia ser publicat i la televisió que va fixar durant dècades els ritmes del consum cultural de masses. Avui, aquest paper l’exerceixen els algoritmes. Amb una eficàcia sense precedents i una visibilitat gairebé nul·la, els sistemes de recomanació computacional organitzen el que milions de persones llegeixen, escolten, miren i, en última instància, pensen.
Aquest article proposa una lectura crítica de l’algorisme com a dispositiu cultural: no una eina neutral al servei dels usuaris, sinó una arquitectura de poder que produeix subjectes, organitza conductes i distribueix allò visible i allò invisible en l’esfera simbòlica contemporània. Per això, es recorre a marcs conceptuals provinents dels estudis culturals, la sociologia dels mitjans i la teoria crítica de la tecnologia, articulant aportacions de Michel Foucault, Shoshana Zuboff, Manuel Castells, Taïna Bucher, Kate Crawford, José van Dijck, Eli Pariser, Néstor García Canclini, Safiya.
El recorregut analític s’estructura en cinc moviments. En primer lloc, s’examina el concepte foucaultià de dispositiu com a entrada teòrica per comprendre els algorismes més enllà de la seva dimensió tècnica. A continuació, s’analitza el context macroeconòmic del capitalisme de la vigilància on aquests operen, i la seva relació amb la producció del gust i les preferències culturals. En tercer lloc, s’aborden els efectes de la personalització algorísmica sobre la formació de públics i la fragmentació de l’experiència cultural col·lectiva. Després s’examina la dimensió del biaix estructural i la desigualtat simbòlica que reprodueixen aquests sistemes. Finalment, l’article conclou amb una reflexió sobre les possibilitats de sobirania i agència crítica davant de la mediació algorítmica.
La hipòtesi que articula aquest text és que els algorismes no reflecteixen preferències preexistents: les produeixen. I que aquesta producció no és políticament innocent. Comprendre’l és el primer pas per disputar-lo.
De la instrucció tècnica al dispositiu social
Hi ha una escena que es repeteix milions de vegades al dia i que s’ha arribat a naturalitzar completament: algú obre una plataforma de streaming , una xarxa social o un motor de cerca, i abans que pugui formular un desig o una pregunta, el sistema ja ha decidit què veurà primer. Aquesta anticipació —silenciosa, invisible i eficient— és l’operació política central dels algorismes a la vida contemporània. No és una decisió tècnica neutra. És una forma de poder.
Interrogar l’algorisme des de les ciències socials i els estudis culturals implica desplaçar la pregunta. No n’hi ha prou amb indagar com funciona un sistema de recomanació, cal preguntar-se per a qui funciona, quins valors incorpora, quines jerarquies reprodueix i quines formes de vida fa possibles o invisibles.
El concepte de dispositiu, elaborat per Michel Foucault (1977) al context de l’anàlisi del poder, ofereix una entrada productiva per pensar els algorismes. Un dispositiu no és simplement una eina: és un conjunt heterogeni de discursos, institucions, pràctiques i tècniques que produeix subjectes, organitza conductes i distribueix allò visible i allò invisible.
En aquest sentit, Taina Bucher (2018) ha argumentat que els algorismes operen sota una lògica condicional que no és passiva sinó activament performativa: no només respon a les preferències dels usuaris, sinó que contribueix a produir-les. L’estructura de causa i efecte subjacent a qualsevol sistema de recomanació —«si ho fas, llavors allò»— genera un entorn de possibilitats que modela el comportament abans que l’usuari en sigui conscient.
Manuel Castells (2009) ja havia assenyalat que el poder a l’era de la informació s’exerceix, fonamentalment, a través del control dels nodes de la comunicació. Controlar què circula i què no a les xarxes —quin artista puja en visibilitat, quina notícia escala i quina veu roman als marges— és una manera d’exercir poder sobre com si de simbòlic transcendeix la vella pregunta sobre la propietat dels mitjans de comunicació.
Per la seva banda, Kate Crawford (2021) recorda que darrere de cada algorisme hi ha una infraestructura material concreta: centres de dades, minerals extrets de territoris empobrits, cossos humans precaritzats a les cadenes globals de l’etiquetatge d’informació. L’algorisme no existeix a l’espai abstracte del codi, és també una operació econòmica, política i ecològica. Comprendre’l com a dispositiu implica veure, simultàniament, la seva lògica simbòlica i la seva materialitat irreductible.
El mercat de les preferències
El context macroeconòmic en què operen els algorismes no és un teló de fons secundari: és constitutiu de la seva naturalesa. Shoshana Zuboff (2019) va encunyar el concepte de capitalisme de la vigilància per descriure un règim en què l’experiència humana es converteix en matèria primera per a pràctiques comercials que, majoritàriament, romanen ocultes als mateixos usuaris.
Aquesta descripció no és una metàfora. Apunta amb precisió el model de negoci de les grans plataformes digitals. Les dades de comportament són extretes, processades i convertides en prediccions de conducta que es venen a anunciants. El gust, la curiositat, la incertesa quotidiana: tot es tradueix en senyals que retroalimenten els sistemes de recomanació.
Nick Couldry i Ulises Mejias (2019) han anomenat colonialisme de dades aquesta dinàmica, establint una analogia incòmoda però necessària amb les formes històriques del colonialisme. Així com les potències colonials van extreure recursos dels territoris sotmesos, les plataformes extreuen els actius més íntims de les persones —els seus hàbits, els seus afectes i els patrons d’atenció— i els converteixen en capital. Aquesta metàfora adquireix especial ressò en contextos llatinoamericans, on la dependència tecnològica reprodueix estructures d’asimetria ja massa conegudes: les dades es generen a la perifèria i el valor es concentra als centres.
José Van Dijck (2013) va mostrar que les plataformes no són espais neutrals de connexió, sinó arquitectures que afavoreixen comportaments quantificables –m’agrada, compartits i temps de visualització– mentre desincentiven formes de consum més lentes, reflexives o complexes. El que explica com a cultura en una plataforma no sempre és el que té més profunditat o rellevància. És, sovint, el que genera més reacció en el menor temps possible. L’algorisme no només recomana cultura: sovint la defineix, establint els paràmetres del que mereix circular i del que roman invisible.
Bombolles epistèmiques i fragmentació cultural
Un dels efectes més documentats de la mediació algorítmica és la formació de bombolles de filtre . Eli Pariser (2011) va descriure com els algorismes de personalització tendeixen a mostrar a cada usuari informació que confirma les seves predisposicions prèvies, reduint l’exposició a perspectives divergents i creant ecosistemes informatius parcialment paral·lels. Aquesta dinàmica no només afecta la informació política: penetra en l’experiència cultural de manera igualment profunda, limitant l’horitzó del que cada persona pot arribar a conèixer, apreciar o debatre.
Néstor García Canclini (2020) va assenyalar que els algorismes estan redefinint el consum cultural de maneres que escapen tant a la lògica ciutadana com a la lògica del mercat tal com les coneixíem. Si històricament l’accés a la cultura va estar intervingut per institucions —l’escola, el museu, l’editorial o la sala de concerts—, avui està creixentment intervingut per plataformes la raó de les quals és la maximització del temps de pantalla, no la formació de subjectes crítics. Aquesta transformació produeix públics atomitzats, desconnectats dels contextos col·lectius que donen sentit a lexperiència estètica i política.
Des de la gestió cultural, Jaume Colomer (2013) ha insistit en la necessitat de pensar el desenvolupament de públics com a pràctica que va molt més enllà de la captació d’audiències. La pregunta pertinent no és quants usuaris consumeixen un contingut, sinó quin tipus d’enllaç hi estableixen i quina capacitat crítica desenvolupen a través d’aquesta trobada.
La mediació algorítmica desafia aquesta perspectiva al seu nucli: si el sistema preselecciona allò que cada persona veurà, l’espai per a la trobada amb allò desconegut —per a l’estranyament que fa possible l’experiència genuïnament estètica— es contreu de manera significativa. La sorpresa, que és un dels motors històrics de l¿experiència cultural, es converteix en una raresa administrada.
A Públics i algorismes. Estratègies d’emancipació cultural , l’obra més recent de Colomer (2025), l’autor proposa repensar la relació entre plataformes i públics des d’una perspectiva que recuperi la dimensió emancipadora de la trobada amb la cultura. L’apoderament en la relació entre les persones i els sistemes algorítmics passa, segons la seva anàlisi, per comprendre, qüestionar i donar forma activa a la tecnologia que organitza la nostra vida cultural, cosa que exigeix una participació informada que no es pot reduir a hàbits individuals de consum.
Biaix algorítmic i desigualtat simbòlica
La discussió sobre algorismes no es pot separar de la pregunta sobre quins cossos i quines veus són sistemàticament subordinats per aquests sistemes. Safiya Umoja Noble (2018) va demostrar, en la seva anàlisi dels motors de cerca, que els algorismes no són neutrals: incorporen els biaixos històrics dels seus creadors i dels conjunts de dades amb què van ser entrenats. La seva investigació va mostrar com les cerques associades a dones negres tornaven resultats sistemàticament degradants, no per una intenció conscient de discriminar, sinó perquè el sistema reproduïa i amplificava els prejudicis ja presents a la cultura dominant.
El biaix no és una anomalia tècnica que es pot corregir amb un pegat, és una conseqüència estructural de dissenyar sistemes sobre dades històriques que reflecteixen desigualtats històriques.
Aquesta observació té implicacions directes per a la política cultural. Si els algorismes que distribueixen visibilitat estan esbiaixats cap a certes estètiques, idiomes i mercats —en detriment de les produccions de les cultures del Sud Global, de les llengües minoritzades o de les formes expressives no mercantilitzables—, aleshores la promesa de democratització cultural que van inaugurar les plataformes digitals resulta, si més no, radical. La diversitat que apareix a la pantalla pot ser el resultat d’una elecció conscient de disseny, però també pot ser el producte d’un biaix estructural disfressat de personalització.
El problema s’aguditza en contextos com el llatinoamericà, on les indústries creatives locals competeixen per visibilitat en ecosistemes dissenyats en funció de mercats angloparlants, amb criteris de rellevància que privilegien el volum d’interaccions sobre la densitat cultural dels continguts. La conseqüència no és només econòmica. És epistèmica. El que no és visible en els algoritmes tendeix a no existir a l’imaginari col·lectiu de les noves generacions.
L’emancipació com a tasca col·lectiva
Davant aquest panorama, cal preguntar-se si hi ha alguna forma de relació amb els algorismes que no sigui de sotmetiment passiu. La resposta no pot ser ingènua —el poder estructural de les grans plataformes és immens—, però tampoc no pot ser determinista. El determinisme tecnològic, que presenta el domini algorísmic com un destí inevitable, és ell mateix una posició política que desactiva la possibilitat de transformació.
L’emancipació algorísmica requereix, en primer lloc, regulació pública i transparència en el disseny dels sistemes. Exigeix també una alfabetització digital que vagi molt més enllà del maneig d’aplicacions: una educació que formi les persones en la comprensió de com funcionen aquests sistemes, quins valors codifiquen i com es poden disputar. Però també requereix una mica més difícil de legislar: la voluntat col·lectiva de no delegar al codi les decisions sobre quina cultura mereix circular, quines veus mereixen ser escoltades i quins públics mereixen existir.
Aquesta voluntat és, en darrer terme, una decisió política que cap algorisme no pot prendre per nosaltres. I recuperar aquest espai de decisió és, potser, la manera més radical d’emancipació disponible al nostre temps.
L’algorisme que encara podem transformar
Els algorismes no són el destí inevitable de la cultura. Són, per ara, la condició més urgent i més contestada. Interrogar-los amb rigor crític, comprendre’ls en la seva dimensió política i històrica, i disputar els valors que codifiquen és una tasca que competeix no només a enginyers o reguladors, sinó a qualsevol persona compromesa amb el tipus de societat que està construint.
La cultura no pot continuar sent el residu del que l’algorisme no va filtrar. Mereix ser el resultat de decisions col·lectives, deliberades i conscients. Aquest és l’horitzó polític que aquest article ha volgut obrir: no pas una nostàlgia pel món analògic, sinó una exigència que la mediació tecnològica es posi al servei de la diversitat, l’equitat i l’experiència genuïnament humana del que és simbòlic.
Recuperar aquest espai no és una tasca tècnica. És una tasca cultural, política i ètica. I comença, com sempre, per fer-se les preguntes correctes.
Referències
- Bucher, T. (2018). Si… llavors: poder algorítmic i política. Oxford University Press.
- Castells, M. (2009). El poder de la comunicació. Oxford University Press.
- Colomer, J. (2013). Desenvolupament de públics i gestió cultural. Interarts.
- Colomer, J. (2025). Públics i algorismes. Estratègies d¿emancipació cultural. RGC Edicions.
- Couldry, N., i Mejias, U. (2019). Els costos de la connexió: com les dades estan colonitzant la vida humana i apropiant-la per al capitalisme. Stanford University Press.
- Crawford, K. (2021). Atles de IA: Poder, política i els costos planetaris de la intel·ligència artificial. Yale University Press.
- Foucault, M. (1977). El joc de Michel Foucault [entrevista]. ¿Ornicar?, 10, 62–93. Recopilat a Finds and Writings, 1976–1979 (pàg. 298–329). Gallimard, 1994.
- García Canclini, N. (2020). Ciutadans reemplaçats per algorismes. CALES.
- Marín-Marín, AE (2024). Humà-Algorisme, una correlació que transforma profundament la societat. Anesma. https://www.anesma.com/humano-algoritmo-una-correlacion-que-transforma-profundamente-a-la-sociedad/
- Noble, EL SEU (2018). Algorismes d’opressió: com els motors de cerca reforcen el racisme. NYU Press.
- Pariser, E. (2011). La bombolla de filtres: allò que Internet t’amaga. Penguin Press.
- Van Dijck, J. (2013). La cultura de la connectivitat: una història crítica de les xarxes socials. Oxford University Press.
- Zuboff, S. (2019). L’era del capitalisme de vigilància: la lluita per un futur humà a la nova frontera del poder. PublicAffairs.
