오랫동안 인공지능(AI)은 엔지니어와 연구실, 고급 프로그래밍의 영역에 속한 문제로 여겨져 왔다. 그러나 이러한 이미지는 더 이상 현실과 맞지 않는다. 오늘날 AI는 정상회의, 국가안보 위원회, 통상 협상, 다자기구에서 논의되고 있다. 한때 기술적 문제로 보였던 것이 이제는 권력의 문제가 되었다.
인공지능을 단순한 도구로만 바라본다면 오늘날 인공지능을 둘러싼 논쟁을 이해할 수 없다. 인공지능을 그 실체 그대로, 즉 국가와 기업, 시민 사이의 관계를 재편하는 하나의 체계로 바라보아야 한다.
사회기술적 시선
사회기술적 접근은 과학기술학의 다양한 흐름에 기반을 두고 있으며, 기술과 사회가 서로를 구성한다는 핵심 개념에서 출발한다.
언어 모델은 진공 속에 존재하지 않는다. 그 이면에는 세계의 몇몇 곳에서만 생산되는 반도체 칩, 막대한 물과 전력을 소비하는 거대한 데이터센터, 문화적 편향을 지닌 데이터셋, 정보에 라벨을 붙이는 노동자, 상업적 이해관계를 가진 기업, 그리고 규칙을 정하는 정부가 있다.
이러한 관점에서 AI를 바라보면 두 가지 가정에서 벗어날 수 있다. 첫째는 기술이 중립적이라는 가정이다. 둘째는 기술이 마치 방향을 바꿀 수 없는 자연의 힘처럼 저절로 발전한다는 가정이다. 둘 중 어느 것도 진지한 분석을 견뎌내지 못한다.
행위주체성에 관한 물음
여기서 사회과학의 핵심 개념인 행위주체성(agency)이 등장한다. 우리는 행위주체성을 인간 또는 비인간 행위자가 자신의 환경에 영향을 미치는 능력으로 이해한다. 이 개념을 인공지능에 적용하면, 실제로 결정을 내리는 주체가 누구인지 묻지 않을 수 없다. 규제하는 국가인가? 시스템을 설계하는 기업인가? 매일 그것을 사용하는 시민인가?
이러한 정의에서 출발하여, 일부 학자들은 자동화된 시스템 자체가 정보를 걸러내고, 결정을 추천하며, 행동을 형성하는 한 일종의 행위주체성을 행사한다고 주장한다. 기계에 의지를 부여할 필요는 없지만, AI가 행위주체성을 재분배한다는 점은 분명하다. AI는 이를 통제하는 이들에게 더 큰 행동 역량을 부여하고, 단지 소비하기만 하는 이들의 여지는 줄인다. 이러한 재분배는 본질적으로 지정학적이다.
권력의 새로운 지리
인공지능을 둘러싼 경쟁에는 흔히 간과되는 물질적 기반이 있다. 첨단 반도체, 핵심 광물, 에너지, 그리고 연산 능력은 전략 자원이 되었다. 그렇기 때문에 강대국들은 수출 통제, 산업 보조금, 기술 동맹에 의존한다.
이는 단순히 제품을 판매하는 문제가 아니라, 누가 가장 뛰어난 모델을 훈련할 수 있고 누가 뒤처질지를 확보하는 문제다. 이러한 상황에서 주권은 더 이상 영토나 군사력만으로 측정되지 않으며, 디지털 인프라에 대한 접근으로도 측정된다. 자체 연산 능력을 갖추지 못한 국가는 자국의 기술적 미래를 결정할 행위주체성이 제약된다.
게임의 규칙을 둘러싼 다툼
물질적 경쟁에 더해 규범적 경쟁도 벌어지고 있다. 적어도 세 가지 주요 모델이 긴장 관계에 놓여 있다. 첫 번째 모델은 위험 기반 규제와 기본권 보호를 우선시한다. 두 번째 모델은 시장의 자율 규제와 기업의 혁신을 신뢰한다. 세 번째 모델은 국가를 기술의 중심적인 안내자이자 감독자로 둔다.
각 모델은 프라이버시, 표현의 자유, 그리고 제도의 역할에 대해 서로 다른 정치적 가치를 드러낸다. 자신의 규범을 국제 표준으로 채택시키는 데 성공하는 쪽은 국경을 훨씬 넘어 영향력을 확대하게 될 것이다. AI를 규제한다는 것은 결국 하나의 세계관을 수출하는 일이다.
의존과 기회 사이의 글로벌 사우스
이러한 다툼 속에서 라틴아메리카, 아프리카, 그리고 아시아 상당수 국가는 부차적인 위치에 놓일 위험에 처해 있다. 이들 국가는 대개 데이터와 광물, 그리고 정보 라벨링이나 콘텐츠 검수와 같이 잘 드러나지 않는 노동을 제공하는 한편, 다른 우선순위와 다른 언어로 설계된 기술을 수입한다. 이러한 비대칭은 이들의 행위주체성을 제한한다.
그러나 판도는 아직 정해지지 않았다. 지역 협력, 현지 인재에 대한 투자, 자국의 언어와 맥락에 맞춘 모델 개발, 그리고 국제 포럼에 대한 적극적인 참여는 자율의 공간을 열어줄 수 있다. 핵심은 수동적인 시민에서 규칙을 정하는 데 목소리를 내는 참여자로 거듭나는 것이다.
기술을 다스리는 것은 사회를 다스리는 것
인공지능은 우리 사회에 밖에서 들이닥치는 힘이 아니다. 그것은 인간의 결정, 경제적 이해관계, 그리고 정치적 기획의 산물이다. 그러므로 근본적인 논쟁은 AI가 무엇을 할 수 있는가가 아니라, 누가 AI에 대해 결정할 능력을 보유하며 그것이 누구의 이익을 위한 것인가에 있다.
국가와 시민 모두를 포함한 사회의 행위주체성을 지키기 위해서는 투명성, 기술 교육, 그리고 민주적 숙의의 공간이 필요하다(비록 민주주의 그 자체가 집단적 행위주체성의 한 형태이긴 하지만). 인공지능이 권력이라면, 시급한 질문은 그것을 어떻게 더 공정하게 분배할 것인가이다.
