The covid tech that is intimately tied to China’s surveillance state

중국의 감시 시스템과 밀접하게 연결되어 있는 ‘코로나 기술’

코로나19에 대응하기 위해 체온을 측정하는 열화상 카메라와 얼굴인식 시스템이 건물 입구를 비롯해 여기저기에 설치됐다. 그러나 그런 기술을 사용하면서 우리는 우리도 모르게 위구르를 탄압하는 중국의 행위에 동조하는 공모자가 되고 있다.

2019년 중순, 중국 도시 쿠이툰(Kuitun)에서 북적이는 시장 교차로를 걷고 있던 워싱턴대학교 학생 베라 저우(Vera Zhou)의 어깨를 경찰이 톡톡 건드렸다. 이어폰을 꽂고 음악을 들으면서 인파 사이를 빠져나가고 있던 베라는 처음에 누군가 자신의 어깨를 건드렸다는 사실을 알아채지 못했다. 그러다가 고개를 돌려 검은 유니폼을 봤을 때 그녀의 얼굴에서는 핏기가 사라졌다. 경찰은 베라의 모국어인 중국어로 말하면서 근처에 있는 ‘인민 편의 경찰서’로 따라오라고 손짓했다. 현재 그 지역에 7,700개 정도 설치되어 있는 이러한 편의 경찰서는 지역 곳곳에서 감시 임무를 수행하는 중심지 중 한 곳이었다. 

네모난 회색빛 건물 안에 있는 모니터에서 베라는 노란색 사각형으로 둘러싸인 자신의 얼굴을 볼 수 있었다. 다른 화면들에는 시장을 지나가는 사람들의 얼굴이 보였고, 그들의 얼굴은 초록색 사각형으로 둘러싸여 있었다. 베라의 얼굴을 보여주고 있는 고화질의 정지화면 옆에는 베라의 개인 정보가 검은 텍스트 상자 안에 표시되어 있었다. 텍스트 상자에는 베라가 중국 북서부에 거주하는 1,500만 명의 무슬림 인구 중 100만 명 정도를 차지하는 후이족 사람이라고 적혀 있었다. 알람이 울린 것은 베라가 자신이 거주하는 동네 경찰서의 치안 감시망을 벗어났기 때문이었다. 재교육 수용소에 수감된 적이 있는 베라는 자신이 거주하는 동네의 감시대와 공안의 허가 없이 다른 지역으로 이동하는 것이 공식적으로 금지된 상태였다. 화면에서 베라의 얼굴을 둘러싼 노란 사각형은 베라가 무슬림들을 해당 지역에 묶어 두기 위한 디지털 감시 시스템에 포착되어 다시 한번 ‘예비 범죄자’로 인식됐다는 의미였다. 베라는 당시에 거의 숨이 멎은 것 같은 느낌이 들었다고 회상했다.

In the Camps book cover
이 이야기는 대런 바일러(Darren Byler)의 저서 <수용소에서: 중국의 최첨단 유형지(In the Camps: China’s High-Tech Penal Colony)>(Columbia Global Reports, 2021)에서 발췌하여 편집한 것이다.

쿠이툰은 카자흐스탄과 국경을 맞대고 있는 신장 위구르의 타청지구에 위치한 인구 28만 5,000명의 작은 도시이다. 2017년에 워싱턴대학교 지리학과 2학년 학생이었던 베라는 그해에 남자친구를 만나러 충동적으로 고향에 돌아갔다가 그곳에 억류되었다. 신장 위구르의 수도 우루무치시 영화관에서 밤을 보내고 나서 베라의 남자친구는 경찰서로 오라는 전화를 받았다. 경찰관들은 그의 여자친구인 베라에게 물어볼 것이 있다면서, 베라의 인터넷 사용에서 수상한 활동을 발견했다고 말했다. 베라는 대학교 G메일 계정 같은 ‘불법 웹사이트’에 접속하기 위해 ‘가상사설망(virtual private network, VPN)’을 사용했는데, 경찰은 나중에 베라에게 VPN 사용 같은 것이 ‘종교적 극단주의의 징후’라고 설명했다.

베라가 자신에게 무슨 일이 일어나고 있는 건지 깨닫기까지는 어느 정도 시간이 걸렸다. 베라의 남자친구가 무슬림이 아닌 한족이어서 경찰이 소란스러운 모습을 보여주고 싶어 하지 않았기 때문에, 경찰은 처음에 베라에게 무슨 일이 일어날지 정확히 알려주지 않았다. 그저 경찰서에서 대기하라고 말했을 뿐이었다.

베라가 자신이 체포되는 거냐고 물어도 경찰들은 아무런 대답이 없었다.

베라는 점점 겁을 먹기 시작했고, 고향에 있는 아버지에게 전화를 걸어서 상황을 설명했다. 그러다가 마침내 경찰차가 도착했다. 베라는 뒷좌석에 태워졌고, 베라의 남자친구가 보이지 않자 경찰들은 베라의 등 뒤로 손에 수갑을 채운 뒤 그녀를 뒷좌석에 거칠게 밀어 넣었다.

예비 범죄자

베라 저우는 ‘테러와의 전쟁’이 자신의 삶에 어떤 식으로든 영향을 줄 거라고 생각해본 적이 없었다. 자신을 커다란 귀걸이와 검은 옷을 좋아하는 비종교적인 패셔니스타라고 생각하던 베라는 미국 오리건주 포틀랜드 근교의 고등학교에 다녔고, 도시 설계전문가가 되려고 상위권 미국 대학교에도 입학했다. 베라는 대학교 졸업 후에 남자친구와 다시 만나서, 경제가 활기를 띠고 있는 것으로 보이는 중국에서 커리어를 쌓아갈 계획이었다. 그녀는 자신의 고향과 신장지구에서 2017년부터 새로운 ‘인터넷 보안법’이 시행됐다는 것을 알지 못했고, 그 보안법이 당국이 말하는 극단주의 ‘예비 범죄자’ 색출과 구금에 이용되고 있다는 것도 전혀 알지 못했다. 또한 신장지구에 새로 임명된 당서기가 ‘인민 전쟁’의 일환으로 ‘체포해야 할 모든 사람을 체포하라’는 명령을 내렸다는 것도 몰랐다.

경찰차 뒷좌석에서 베라는 두려움을 견딜 수 없었다. 베라는 울면서 “나에게 왜 이러는 거예요? 우리나라는 무고한 사람을 보호해주지 않는 건가요?”라고 소리쳤다. 마치 공포 영화의 한 장면 같은 이 상황이 베라에게는 끔찍한 농담처럼 느껴졌고, 자신이 옳은 말을 하면, 저들이 정신을 차리고 모든 게 실수였다고 말해줄 것 같았다.

그 이후로 몇 달 동안 베라는 쿠이툰 외곽에 위치한 예전 경찰서 건물 2층에 있는 감옥에서 다른 열한 명의 무슬림 소수자 여성들과 함께 감금되어 있었다. 베라처럼 감옥에 있는 다른 여성들도 사이버 ‘예비 범죄’를 저지른 죄로 수감되었다. 한 카자흐인 여성은 카자흐스탄에 있는 사업 파트너와 연락하기 위해 휴대폰에 왓츠앱(WhatsApp)을 설치한 죄로 잡혀 왔고, 시장에서 스마트폰을 팔던 위구르족 여성은 자신의 신분증을 이용해 여러 고객들의 심(SIM) 카드를 등록해준 혐의로 감금되었다.

그러다가 2018년 4월 무렵에 어떤 예고도 없이 베라와 다른 몇 명의 여성들은 지역의 사회 안정 직원에게 정기적으로 보고하고 거주지를 떠나지 않는다는 조건으로 석방되었다.

베라는 담당 감시원이 소셜 미디어에 무언가를 공유할 때마다 항상 첫 번째로 게시물에 ‘좋아요’를 누르고 자신의 계정에 공유해야 했다.

매주 월요일에는 베라의 보호관찰관이 베라에게 동네의 국기게양식에 참석해서 중국 국가를 큰 소리로 부르고, 중국 정부를 향한 충성을 맹세하는 발언을 하라고 요구했다. 이때쯤에 베라가 사는 동네에서는 사이버 범죄로 체포될 수 있다는 보도가 퍼지면서 온라인상의 행위가 새로 설치된 자동 인터넷 감시 시스템에 감지될 수 있다고 알려졌다. 다른 사람들과 마찬가지로 베라도 자신의 온라인 활동을 재점검했다. 베라의 담당 사회 안정 직원이 소셜 미디어에 어떤 게시물을 공유하라고 하면, 베라는 항상 첫 번째로 게시물에 ‘좋아요’를 누르고 자신의 계정에 공유했다. 베라가 아는 다른 사람들과 마찬가지로 베라도 적극적으로 국가의 이념을 홍보하면서 ‘긍정적인 에너지를 확산’시키는 데 동참하고 있었다.

구금에서 풀려나 집으로 돌아온 이후에 베라는 자신이 변했다고 생각했다. 자신이 수용소에서 목격했던 다른 수백 명의 억류자들을 자주 떠올렸고, 중국어도 할 줄 모르고 평생 이슬람교도로 살아온 그들 대부분이 수용소에서 절대 풀려나지 못할까 봐 두려웠다. 베라는 수용소에 갇혀 있는 동안 자신이 온전한 정신인지 의문을 갖게 됐다고 말했다. “가끔은 내가 조국을 충분히 사랑하지 않는다고 생각했다. 나 자신에 대해서만 생각했던 것 같다.”

그러나 베라는 자신에게 벌어진 일이 자신의 잘못 때문이 아님을 알고 있었다. 베라는 제도화된 이슬람 혐오의 대상이 되었을 뿐이었다. 또한 베라는 인종 및 민족적, 언어적, 종교적 차이를 이유로 위구르족과 카자흐인에게 엄청난 잔학 행위가 가해지고 있다는 것도 확실히 알고 있었다.

나는 항상 집에만 머물기 시작했다”

다른 수감자들과 마찬가지로 베라도 수용소로 보내지기 전에 인구 전체를 대상으로 하는 ‘모두를 위한 신체검사’ 프로그램에 따라 철저하게 생체 정보를 수집 당했다. 경찰은 베라의 얼굴과 홍채를 스캔했고, 음성 서명을 녹음했으며, 혈액과 지문, DNA까지 수집했다. 이런 식으로 수집한 데이터는 해당 지역 인구의 행동을 매핑하는 데 사용되는 방대한 데이터 세트에 추가됐다. 경찰은 또한 베라의 휴대폰을 압수해 이슬람 관련 이미지나 외국인과의 친분을 비롯해 ‘극단주의’의 흔적을 찾기 위해 그녀의 소셜 미디어 계정을 조사했다. 나중에 휴대폰은 돌려받았지만, 인스타그램 같은 미국 앱은 전부 삭제된 상태였다.

몇 주 동안 베라는 수백 미터마다 하나씩 위치한 감시 센터 주변에서 방법을 찾기 시작했다. 사람들이 많이 지나다니는 지역 이외에는, 얼굴을 실시간으로 감지할 수 없는 일반 고화질 감시 카메라를 사용하는 경우가 많았다. 베라는 한족처럼 보였고 표준 중국어를 사용했기 때문에, 검문소에 있는 보안 직원들에게 신분증을 깜빡했다면서 가짜 신분증 번호를 적고 빠져나가곤 했다. 아니면 그냥 한족처럼 검문소 출구의 ‘초록 선’에 서서 경찰을 무시하고 지나가기도 했다.

그러다가 어느 날 친구와 영화를 보러 나간 베라는 한족인 척하는 것을 잊어버리고, 영화관 검문소 스캐너에 자신의 신분증을 대고 카메라를 응시했다. 그러자 곧바로 경고음이 울렸고, 영화관에 있던 경찰관들이 베라를 옆으로 끌어냈다. 친구가 군중 속으로 사라지자 베라는 재빨리 자신의 소셜 미디어 계정을 삭제하고, 자신과 관련 있다는 이유로 잡혀갈 수도 있는 사람들의 연락처를 지웠다. “그때 나는 친구를 갖는 게 안전하지 않다는 것을 깨달았다. 나는 항상 집에만 머물기 시작했다.”

마침내 다른 많은 수감자들처럼, 베라도 강요에 의해 무급으로 일하게 되었다. 베라가 사는 동네의 지역 경찰 지휘관이 베라가 미국 대학생이었다는 사실을 알게 되자 베라의 보호관찰관을 통해 베라에게 자기 아이들의 영어 가정교사 일을 맡겼던 것이다.

베라는 당시를 이렇게 회상했다. “나는 돈을 달라고 요청하려고 했다. 하지만 아버지가 나를 말렸다. 아버지는 나를 통해 그들에게 음식을 보내기도 하면서, 자신이 그들을 위해 얼마나 노력하고 있는지 보여주려고 했다.”

경찰 지휘관은 어떤 식으로도 베라에게 노동의 대가를 지급하지 않았다.

그러다가 2019년 10월, 베라의 보호관찰관은 베라가 여러 부분에서 나아졌다고 생각한다며, 시애틀로 돌아가 공부를 계속해도 된다고 허가했다. 베라는 자신이 겪은 일을 발설하지 않겠다는 서약서에 서명해야 했다. 보호관찰관은 “네 아버지는 좋은 직업을 가지고 있고, 곧 은퇴할 나이가 다가온다. 이것을 항상 명심하라”고 말했다.

2019년 가을, 베라는 시애틀로 돌아왔다. 그로부터 불과 몇 달 후에, 세계에서 가장 부유한 기술 기업 아마존(Amazon)이 중국의 감시 시스템 제조 기업 다후아(Dahua)로부터 1,500대의 열화상 카메라 시스템을 배송받았다. 총 1,000만 달러에 달하는 이 시스템의 대부분은 아마존 창고에 설치되어 직원들의 열을 감지해 코로나19 증상을 보일 경우에 매니저에게 알리는 데 사용될 것이었다. 이 배송에 포함된 다른 카메라들은 IBM과 크라이슬러(Chrysler) 등 다른 구매 기업들에 전달됐다.

다후아는 코로나19 팬데믹을 기회로 삼은 수많은 중국 기업 중 한 곳일 뿐이다. 2020년 초에 코로나19가 중국 국경을 넘어 전 세계로 퍼져나가자, 베이징 유전체 연구소(Beijing Genomics Institute, BGI)가 소유한 의료 연구 기업들은 급격한 확장을 통해 18개국에 58개의 연구소를 세웠고, 180개국 이상에 3,500만 개에 달하는 코로나19 테스트 키트를 판매했다. 2020년 3월, 러셀 스토버 초콜릿(Russell Stover Chocolates)과 US 엔지니어링(US Engineering) 같은 기업들은 120만 달러 상당의 테스트 키트를 구입하고, 캔자스 의료 시스템 대학교 시설에 BGI 실험 장비를 설치했다.

다후아가 아마존 같은 기업에 장비를 팔고 있을 때, 다후아의 경쟁 기업 중 하나인 메그비(Megvii)는 중국의 병원, 슈퍼마켓, 대학 캠퍼스, 그리고 한국과 UAE의 공항에 열화상 시스템을 설치했다.

미국에서 코로나19에 대한 국가 차원의 효과적인 대응이 없는 상황에서 이렇게 기업들이 직원들을 보호하려고 발 빠르게 움직인 것은 칭찬할 만하다. 그러나 이 중국 기업들은 끔찍한 인권 침해와 연결되어 있었다.

다후아는 베라 저우가 신장에서 경험했던 ‘스마트 수용소’ 시스템의 주요 공급 업체 중 하나이다(다후아는 자신들이 만든 시설이 ‘컴퓨터 비전 시스템, 빅데이터 분석, 클라우드 컴퓨팅’ 같은 기술의 지원을 받는다고 말했다). 2019년 10월에 다후아와 메그비는 미국 시민이나 미국 기업으로부터 상품과 서비스를 구매할 수 없는 8개 중국 기술 기업 리스트에 포함됐다(미국 기업이 국익에 위협이 되는 것을 국외 기업에 공급할 수 없도록 막는 이 리스트로 인해 아마존은 다후아에 제품을 팔 수 없었지만 다후아로부터 제품을 구매할 수는 있었다). 신장에 있는 BGI의 자회사도 2020년 7월에 미국의 무역 금지 기업 리스트에 올랐다.

아마존이 다후아의 열화상 카메라를 구매한 것을 보면, 세계 자본주의가 확산되던 순간에 역사학자 제이슨 무어(Jason Moore)가 말했던 기억할 만한 구절, ‘맨체스터 뒤에는 미시시피가 있다’가 떠오른다.

무어의 말은 무슨 의미였을까? 그는 잉글랜드 맨체스터에 이익을 안겨준 섬유산업에 대한 프리드리히 엥겔스(Friedrich Engels)의 분석을 다시 읽으면서, 영국 산업혁명의 많은 측면이 미국에서 노예 노동으로 생산해 저렴하게 판매할 수 있던 면이 없었다면 불가능했을 것임을 발견했다. 이와 유사하게 시애틀, 캔자스시티, 서울이 빠르게 코로나19 팬데믹에 대응할 수 있었던 것도 중국 북서부에서 벌어진 인권 탄압적인 시스템으로 인해 생체 측정 감시 알고리즘을 훈련할 수 있었던 상황과 어느 정도 관련되어 있다.

열감지 카메라와 얼굴인식 시스템 등 팬데믹 시대에 직원들을 보호하는 방법에는 베라 저우와 같은 사람들의 고통이 담겨 있다. 그런 기술을 이용하는 것은 수천 수만 명의 억류자들과 자유롭지 못한 노동자들에 대한 인간성 말살을 무시하는 것과 관련되어 있다.

동시에 시애틀은 어떤 면에서 신장지구의 인권 탄압에 적극적으로 도움을 주고 있다.

불법체류 이민자들을 대상으로 한 미국 이민세관집행국과의 협력과 취약한 생체 측정 감시 관련 규정을 지지하는 적극적인 로비 활동을 고려할 때, 아마존은 소수인종에게 주로 피해를 주는 감시 행위에 일조하고 있다고 할 수 있다. 더 직접적인 사례로는, 소위 ‘중국 AI의 요람’이라고 하는 마이크로소프트 아시아 연구소(Microsoft Research Asia)가 있다. 이 연구소는 다후아와 메그비의 성장과 발전에서 중요한 역할을 수행하고 있다.

중국 기업들이 얼굴인식 및 음성인식 분야에서 세계를 이끌게 된 배경에는 중국의 국가 차원의 연구비 지원, 전 세계의 테러리즘 담론, 미국 산업 교육 등이 있다. 중국의 감시 시스템은 위구르족, 카자흐인, 후이족을 디지털로, 또 물리적으로 통제하는 데 초점을 맞춘 테러와의 전쟁 덕분에 급격하게 발전하기 시작했고, 이제는 데이터 집약적인 인프라 시스템을 통해 신장에서와 같은 수준은 아니지만 중국 전체를 대상으로 사람들을 통제하기 시작하면서 중국 기술 산업 전체로 확장되고 있다.

코로나19 팬데믹에 광범위하고 신속하고 대응하는 과정에서 중국은 이러한 감시 시스템을 빠르게 시행하고 시스템이 ‘제대로 작동하는지’ 확인했으며, 이를 통해 중국의 감시 시스템은 더 빠르게 늘어나고 있다. 이렇게 광범위하면서도 은밀한 방식으로 국가의 통제력을 확장하고 있는 중국은 효과적으로 인간의 행동을 바꿔 놓을 수 있다.

대안

그러나 팬데믹에 대응하는 중국의 방식이 팬데믹을 멈출 유일한 방법인 것은 아니다. 뉴질랜드와 캐나다 같은 민주국가들 역시 코로나19 검사와 마스크, 집에 머물러야 하는 이들에게는 경제적 지원 등을 제공하면서 나름대로 효과를 거두고 있다. 이러한 국가들은 국가 차원에서도 감시 시스템이 대다수의 행복을 보호할 유일한 방법이 아니라는 것을 분명히 보여주고 있다.

실제로 수많은 연구에서 감시 시스템이 목표가 되는 대상을 구속할 수 있게 하면서 조직적인 인종차별과 인간성 말살을 초래한다는 사실이 드러났다. 과거와 현재 미국 행정부가 다후아나 메그비 같은 기업에 제품 판매를 금지하는 ‘엔티티 리스트(Entity List)’를 사용하는 것은 중국 기업에는 인종차별을 자동화하는 것을 이유로 불이익을 주면서 미국 기업에는 같은 일을 하도록 연구비를 지원하는 이중 잣대를 만들어내고 있다.

더 많은 미국 기업들이 동의를 전제로 한 방식을 통해서라고 해도, 인종적 특징을 감지하기 위한 자체적인 알고리즘을 개발하려고 하고 있다. 레블론(Revlon)을 비롯한 기업들은 립스틱 같은 제품을 마케팅할 때 편리하다는 이유로 그런 알고리즘을 통해 자동으로 인종을 구분하려고 한다.

그 결과, 인종은 사람들이 세상과 상호작용하는 과정에서 다양한 방식으로 계속 생각지 못한 부분이 되고 있다. 미국과 중국의 경찰은 사람을 자동으로 평가하는 기술이 잠재적 범죄자나 테러리스트를 파악하는 데 도움을 줄 도구라고 생각한다. 그러나 그런 알고리즘은 흑인이나 위구르족이 이런 시스템에 더 많이 감지되는 것이 정상적인 일인 것처럼 보이게 한다. 또한 알고리즘은 감시라는 것이 항상 권력을 가진 이들의 생각에 맞지 않는 사람들을 통제하고 처벌하는 방식이라는 사실을 경찰이나 경찰이 보호하는 사람들이 깨닫지 못 하게 한다. 중국뿐만 아니라 전 세계가 감시 시스템과 관련한 문제를 안고 있다.

자동화된 인종차별이 점점 평범하고 일상적인 일이 되지 않도록 하기 위해서는, 생체 측정 감시 시스템의 해악을 우선 명백하게 밝혀내야 한다. 그리고 그런 시스템으로 인해 통제되고 감시 받는 사람들의 삶이 더 명확하게 드러나야 한다. 그러면 세계 최고의 엔지니어, 투자자, 홍보 회사들이 이런 상황에서 맡을 역할이 분명해질 것이다. 물론 신장지구의 인권 탄압과 기술 발전과의 상호 연결망도 반드시 고려되어야 한다.

이 기사는 대런 바일러(Darren Byler)의 저서 <수용소에서: 중국의 최첨단 유형지(In the Camps: China’s High-Tech Penal Colony)>(Columbia Global Reports, 2021)에서 발췌한 내용을 편집한 것이다. 대런 바일러는 사이먼프레이저대학교의 국제학 연구 조교수로, 중국 도시의 기술과 정치를 연구하고 있다.

미리보기 3회1회

MIT Technology Review 구독을 시작하시면 모든 기사를 제한 없이 이용할 수 있습니다.