권력 문제는 문화와 결코 무관하지 않았습니다. 모든 시대에는 상징을 분배하는 메커니즘이 존재해 왔습니다. 중세 교회는 어떤 이미지를 전시할 수 있는지 결정했고, 20세기 출판업계는 어떤 텍스트가 출판될 가치가 있는지를 결정했으며, 텔레비전은 수십 년 동안 대중문화 소비의 흐름을 좌우했습니다. 오늘날에는 알고리즘이 그 역할을 수행합니다. 전례 없는 효율성과 거의 눈에 띄지 않는 방식으로, 컴퓨터 기반 추천 시스템은 수백만 명의 사람들이 읽고, 듣고, 보고, 궁극적으로 생각하는 것을 조직화합니다.
이 글은 알고리즘을 문화적 장치로서 비판적으로 해석하고자 한다. 알고리즘은 단순히 사용자를 위한 중립적인 도구가 아니라, 주체를 만들어내고, 행동을 조직하며, 현대 상징 영역에서 가시적인 것과 비가시적인 것을 분배하는 권력의 구조라는 것이다. 이를 위해 문화 연구, 미디어 사회학, 비판적 기술 이론의 개념적 틀을 활용하고, 미셸 푸코, 쇼샤나 주보프, 마누엘 카스텔스, 타이나 부허, 케이트 크로퍼드, 호세 반 다이크, 엘리 파리저, 네스토르 가르시아 칸클리니, 사피야 우모야 노블, 자우메 콜로메르 등의 학자들의 연구를 통합적으로 고려한다.
본 분석은 다섯 단계로 구성됩니다. 첫째, 푸코 의 ‘장치(dispositif)’ 개념을 이론적 출발점으로 삼아 알고리즘을 기술적 차원을 넘어 이해하는 데 살펴봅니다. 둘째, 이러한 알고리즘이 작동하는 감시 자본주의라는 거시경제적 맥락과 취향 및 문화적 선호도 형성과의 관계를 분석합니다. 셋째, 알고리즘적 개인화가 청중 형성과 집단적 문화 경험의 파편화에 미치는 영향을 다룹니다. 마지막으로, 이러한 시스템이 재생산하는 구조적 편향과 상징적 불평등의 측면을 검토합니다. 마지막으로, 알고리즘적 매개에 직면하여 주권과 비판적 주체성을 발휘할 가능성에 대한 고찰로 논문을 마무리합니다.
이 글의 근간을 이루는 가설은 알고리즘이 기존의 선호를 반영하는 것이 아니라, 오히려 선호를 만들어낸다는 것입니다. 그리고 이러한 만들어내는 과정은 정치적으로 무해하지 않습니다. 이 점을 이해하는 것이 알고리즘에 이의를 제기하는 첫걸음입니다.
기술 교육에서 사회적 장치에 이르기까지
하루에도 수백만 번씩 반복되고 완전히 일상화된 장면이 있습니다. 누군가 스트리밍 플랫폼 , 소셜 네트워크, 또는 검색 엔진을 열면, 원하는 것이나 질문을 생각하기도 전에 시스템이 이미 무엇을 먼저 보여줄지 결정해 놓는 것입니다. 이처럼 조용하고, 보이지 않으며, 효율적인 예측은 현대 생활에서 알고리즘이 작동하는 핵심적인 정치적 방식입니다. 이는 중립적인 기술적 결정이 아닙니다. 권력의 한 형태입니다.
사회과학 및 문화 연구의 관점에서 알고리즘을 살펴보는 것은 질문의 방향을 바꾸는 것을 의미합니다. 추천 시스템이 어떻게 작동하는지 조사하는 것만으로는 충분하지 않습니다. 누구를 위해 작동하는지, 어떤 가치를 내포하고 있는지, 어떤 위계질서를 재생산하는지, 그리고 어떤 삶의 방식을 가능하게 하거나 감추는지 질문해야 합니다.
미셸 푸코(1977)가 권력 분석의 맥락에서 발전시킨 ‘디스포지티브(dispositif)’ 개념은 알고리즘을 고찰하는 데 유용한 접근 방식을 제시한다. 디스포지티브는 단순한 도구가 아니라, 주체를 생산하고, 행동을 조직하며, 가시적인 것과 비가시적인 것을 분배하는 담론, 제도, 관행, 기술의 이질적인 집합체이다.
이러한 맥락에서 타이나 부허(Taina Bucher, 2018)는 알고리즘이 수동적인 것이 아니라 능동적으로 수행하는 조건 논리에 따라 작동한다고 주장했습니다. 즉, 알고리즘은 사용자 선호도에 반응할 뿐만 아니라 선호도를 형성하는 데에도 기여한다는 것입니다. 모든 추천 시스템의 근간을 이루는 인과관계 구조, 즉 «이렇게 하면 저렇게 된다»는 구조는 사용자가 인지하기도 전에 행동을 형성하는 가능성의 환경을 만들어냅니다.
마누엘 카스텔스(2009)는 정보 시대의 권력이 근본적으로 소통의 중심축을 통제함으로써 행사된다고 이미 지적했다. 네트워크 상에서 무엇이 유통되고 무엇이 유통되지 않는지, 즉 어떤 예술가가 주목받고 어떤 뉴스가 부각되며 어떤 목소리가 주변부에 머무르는지를 통제하는 것은 미디어 소유권이라는 기존 문제를 초월하는 상징적 질서에 대한 권력 행사 방식이다.
케이트 크로퍼드(2021)는 모든 알고리즘 뒤에는 구체적인 물질적 인프라가 존재한다는 사실을 상기시켜 줍니다. 데이터 센터, 빈곤한 지역에서 채굴된 광물, 그리고 전 세계적인 정보 분류 체계 속에서 불안정한 환경에 처한 인간의 몸 등이 바로 그것입니다. 알고리즘은 추상적인 코드 공간에만 존재하는 것이 아니라, 경제적, 정치적, 생태적 작동 방식이기도 합니다. 알고리즘을 하나의 장치로 이해한다는 것은 그 상징적 논리와 본질적인 물질성을 동시에 인식하는 것을 의미합니다.
선호 시장
알고리즘이 작동하는 거시경제적 맥락은 부차적인 배경이 아니라 알고리즘의 본질을 구성하는 핵심 요소입니다. 쇼샤나 주보프(Shoshana Zuboff, 2019)는 감시 자본주의라는 개념을 만들어 인간의 경험이 상업적 관행의 원자재가 되고, 이러한 관행이 대부분 사용자 자신에게는 감춰진 채로 이루어지는 체제를 설명했습니다.
이 설명은 비유가 아닙니다. 주요 디지털 플랫폼의 비즈니스 모델을 정확하게 지적하는 것입니다. 행동 데이터가 추출, 처리되어 행동 예측으로 변환되고, 이 예측은 광고주에게 판매됩니다. 취향, 호기심, 일상의 불확실성 등 모든 것이 신호로 변환되어 추천 시스템에 반영됩니다.
닉 쿠드리와 울리세스 메히아스(2019)는 이러한 현상을 «데이터 식민주의 » 라고 명명하며 , 역사적 식민주의 형태와 불편하지만 필요한 비유를 제시했습니다. 식민 열강이 정복지에서 자원을 착취했듯이, 플랫폼은 사람들의 가장 내밀한 자산, 즉 습관, 애정, 관심 패턴을 추출하여 자본으로 변환합니다. 이러한 비유는 특히 라틴 아메리카 맥락에서 강하게 공감을 불러일으키는데, 그곳에서는 기술 의존성이 주변부에서 생성되는 반면 가치는 중심부에 집중되는, 너무나 익숙한 비대칭 구조를 재생산하기 때문입니다.
호세 반 다이크(José Van Dijck, 2013)는 플랫폼이 단순히 중립적인 소통 공간이 아니라, 좋아요, 공유, 시청 시간과 같은 양적 행위를 장려하는 구조이며, 더 느리고 사려 깊거나 복잡한 형태의 소비를 저해한다고 지적했다. 플랫폼에서 문화로 인정받는 것은 항상 가장 깊이 있거나 관련성이 높은 것이 아니다. 오히려 가장 짧은 시간 안에 가장 큰 반응을 불러일으키는 경우가 많다. 알고리즘은 단순히 문화를 추천하는 데 그치지 않고, 무엇이 유통될 가치가 있고 무엇이 보이지 않게 될지를 결정하는 기준을 제시하며 문화를 정의하기도 한다.
인식의 거품과 문화의 파편화
알고리즘 매개 효과 중 가장 잘 알려진 것 중 하나는 필터 버블 형성입니다 . 엘리 파리저(2011)는 개인화 알고리즘이 사용자의 기존 편견을 강화하는 정보만 보여주는 경향이 있어 다양한 관점에 대한 노출을 줄이고 부분적으로 병렬적인 정보 생태계를 만들어낸다고 설명했습니다. 이러한 현상은 정치 정보뿐만 아니라 문화적 경험에도 깊이 스며들어 개인이 알고, 이해하고, 토론할 수 있는 범위의 한계를 제한합니다.
네스토르 가르시아 칸클리니(2020)는 알고리즘이 기존의 시민적 논리와 시장 논리를 모두 거스르는 방식으로 문화 소비를 재정의하고 있다고 지적했습니다. 과거에는 학교, 박물관, 출판사, 공연장 등의 제도를 통해 문화에 접근했지만, 오늘날에는 비판적 사고를 함양하기보다는 화면 사용 시간을 극대화하는 데 존재 이유를 두는 플랫폼을 통해 문화에 접근하는 경우가 점점 더 많아지고 있습니다. 이러한 변화는 미적, 정치적 경험에 의미를 부여하는 집단적 맥락에서 단절된 파편화된 관객을 만들어냅니다.
문화 경영 관점에서 Jaume Colomer(2013)는 시청자 유치 그 이상의 의미를 지닌 ‘관객 개발’이라는 실천의 필요성을 강조했습니다. 중요한 질문은 얼마나 많은 사용자가 콘텐츠를 소비하느냐가 아니라, 사용자가 콘텐츠와 어떤 관계를 맺고 그 경험을 통해 어떤 비판적 사고 능력을 개발하느냐입니다.
알고리즘적 매개는 이러한 관점의 핵심에 도전합니다. 시스템이 각 개인이 보게 될 콘텐츠를 미리 선택한다면, 미지의 것을 마주할 수 있는 공간, 즉 진정한 미적 경험을 가능하게 하는 낯설음을 느낄 수 있는 공간이 크게 축소됩니다. 문화적 경험의 역사적 원동력 중 하나인 놀라움은 관리된 희귀한 요소가 됩니다.
콜로머의 최신 저서인 『청중과 알고리즘: 문화 해방을 위한 전략 』(2025) 에서 저자는 플랫폼과 청중의 관계를 문화 체험의 해방적 차원을 되살리는 관점에서 재고할 것을 제안합니다. 그의 분석에 따르면, 사람과 알고리즘 시스템 간의 관계에서 권한을 부여한다는 것은 우리의 문화 생활을 조직하는 기술을 이해하고, 질문하고, 적극적으로 형성하는 것을 의미하며, 이는 개인의 소비 습관으로 축소될 수 없는 정보에 입각한 참여를 요구합니다.
알고리즘적 편향과 기호적 불평등
알고리즘에 대한 논의는 이러한 시스템에 의해 어떤 주체와 목소리가 체계적으로 억압되는지에 대한 질문과 떼려야 멉니다. 사피야 우모자 노블(2018)은 검색 엔진 분석을 통해 알고리즘이 중립적이지 않으며, 제작자의 역사적 편견과 학습에 사용된 데이터셋을 반영한다는 것을 보여주었습니다. 그녀의 연구는 흑인 여성과 관련된 검색 결과가 체계적으로 저속하게 나타나는 현상을 분석했는데, 이는 차별하려는 의도가 의도된 것이 아니라 시스템이 주류 문화에 이미 존재하는 편견을 재생산하고 증폭시켰기 때문입니다.
편향은 임시방편으로 고칠 수 있는 기술적 오류가 아니라, 역사적 불평등을 반영하는 역사적 데이터를 기반으로 시스템을 설계한 결과 발생하는 구조적 문제입니다.
이러한 관찰은 문화 정책에 직접적인 함의를 지닙니다. 만약 콘텐츠 노출을 배분하는 알고리즘이 특정 미학, 언어, 시장에 편향되어 있다면, 즉 글로벌 사우스 문화, 소수 언어, 또는 상품화되지 않은 표현 방식의 산물에 불이익을 준다면, 디지털 플랫폼이 내세우는 문화 민주화라는 약속은 적어도 근본적으로 모순적이라고 볼 수 있습니다. 화면에 나타나는 다양성은 의식적인 설계 선택의 결과일 수도 있지만, 개인화라는 가면을 쓴 구조적 편향의 산물일 수도 있습니다.
이 문제는 라틴 아메리카와 같은 환경에서 더욱 심화됩니다. 이곳의 지역 창조 산업들은 영어권 시장을 겨냥한 생태계에서 가시성을 확보하기 위해 경쟁하는데, 이러한 생태계에서는 콘텐츠의 문화적 깊이보다는 상호작용의 양을 우선시하는 관련성 기준이 적용됩니다. 그 결과는 경제적인 측면뿐만 아니라 인식론적인 측면에서도 나타납니다. 알고리즘에 포착되지 않는 것은 새로운 세대의 집단적 상상 속에도 존재하지 않는 경향이 있습니다.
해방은 공동의 과제이다
이러한 상황을 고려할 때, 수동적인 복종 외에 알고리즘과의 다른 형태의 관계가 존재하는지 질문해 볼 가치가 있습니다. 답은 순진할 수 없습니다. 거대 플랫폼의 구조적 권력은 막대하기 때문입니다. 하지만 결정론적일 수도 없습니다. 알고리즘의 지배를 피할 수 없는 운명으로 제시하는 기술 결정론은 그 자체로 변혁의 가능성을 차단하는 정치적 입장입니다.
알고리즘의 해방을 위해서는 무엇보다 먼저 공공 규제와 시스템 설계의 투명성이 필요합니다. 또한 단순히 애플리케이션을 사용하는 것을 넘어선 디지털 문해력, 즉 시스템이 어떻게 작동하는지, 어떤 가치를 내포하고 있는지, 그리고 어떻게 이의를 제기할 수 있는지를 이해하도록 훈련하는 교육이 요구됩니다. 하지만 법제화하기 어려운 또 다른 요소가 필요합니다. 바로 어떤 문화가 유통될 자격이 있는지, 어떤 목소리가 들려야 하는지, 어떤 청중이 존재해야 하는지에 대한 결정을 코드에 맡기지 않겠다는 집단적 의지입니다.
궁극적으로 이러한 의지는 어떤 알고리즘도 대신해 줄 수 없는 정치적 결정입니다. 그리고 의사결정의 영역을 되찾는 것이야말로 우리 시대에 가능한 가장 급진적인 해방의 형태일 것입니다.
우리가 여전히 변형할 수 있는 알고리즘
알고리즘은 문화의 필연적인 운명이 아닙니다. 다만 지금으로서는 문화가 직면한 가장 시급하고 논쟁적인 상황일 뿐입니다. 알고리즘을 비판적으로 검토하고, 정치적·역사적 차원에서 이해하며, 알고리즘에 내재된 가치관에 의문을 제기하는 것은 엔지니어나 규제 기관 관계자뿐 아니라, 그들이 만들어가는 사회에 헌신하는 모든 사람의 몫입니다.
문화는 더 이상 알고리즘이 걸러내지 못한 잔여물이 되어서는 안 됩니다. 문화는 집단적이고, 의도적이며, 의식적인 결정의 결과물이어야 합니다. 이 글이 제시하고자 하는 정치적 지평은 바로 이것입니다. 아날로그 세계에 대한 향수가 아니라, 기술적 매개체가 다양성, 형평성, 그리고 진정으로 인간적인 상징적 경험을 위해 활용되어야 한다는 요구입니다.
그 공간을 되찾는 것은 기술적인 과제가 아닙니다. 그것은 문화적, 정치적, 윤리적인 과제입니다. 그리고 언제나 그렇듯이, 그 시작은 올바른 질문을 던지는 것에서부터입니다.
참고 자료
- Bucher, T. (2018). If…Then: Algorithmic Power and Politics. Oxford University Press.
- Castells, M. (2009). The Power of Communication. Oxford University Press.
- Colomer, J. (2013). Audience development and cultural management. Interarts.
- Colomer, J. (2025). Audiences and algorithms. Strategies for cultural emancipation. RGC Ediciones.
- Couldry, N., & Mejias, U. (2019). The costs of connection: How data is colonizing human life and appropriating it for capitalism. Stanford University Press.
- Crawford, K. (2021). AI Atlas: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press.
- Foucault, M. (1977). The game of Michel Foucault [interview]. Ornicar?, 10, 62–93. Collected in Dits et écrits, 1976–1979 (pp. 298–329). Gallimard, 1994.
- García Canclini, N. (2020). Citizens replaced by algorithms. CALAS.
- Marín-Marín, AE (2024). Human-Algorithm, a correlation that profoundly transforms society. Anesma. https://www.anesma.com/humano-algoritmo-una-correlacion-que-transforma-profundamente-a-la-sociedad/
- Noble, SU (2018). Algorithms of oppression: how search engines reinforce racism. NYU Press.
- Pariser, E. (2011). The filter bubble: what the Internet hides from you. Penguin Press.
- Van Dijck, J. (2013). The culture of connectivity: a critical history of social media. Oxford University Press.
- Zuboff, S. (2019). The Age of Surveillance Capitalism: The Struggle for a Human Future on the New Frontier of Power. PublicAffairs.
