South Africa’s private surveillance machine is fueling a digital apartheid

디지털 인종차별을 악화시키는 AI 카메라

민간 기업이 인공지능 기술을 무분별하게 도입함에 따라 시민들이 감시당하고 있다는 우려의 목소리가 높아지고 있다.

우리가 전봇대에 다가갔을 때 아직 카메라는 없었고 전선만이 설치되어 있었다.

태미 은코시(Thami Nkosi)가 한 길가 전봇대 꼭대기에 노골적으로 달려있는 검은 형체를 손으로 가리켰다. 이 지역은 노벨상 수상자를 두 차례나 배출한 곳이다. 오래전 남아프리카공화국 최초의 흑인 대통령 넬슨 만델라와 반(反) 아파르트헤이트(anti-apartheid), 즉 인종차별정책 반대 활동가이자 성직자인 데스몬드 투투가 여기 살았다.

은코시는 늘 이런 식이라고 했다. 먼저 전선, 그다음에는 감시 카메라가 설치되는 것이다. 촬영된 영상이 통제실로 전송되어 경비원과 알고리즘이 감시할 수 있게 되기 전까지 카메라는 무용지물이다.

남아프리카공화국 소웨토(Soweto)의 빌라카지(Vilakazi) 거리는 요하네스버그 근교의 유서 깊은 마을이다. 계속해서 확장하고 있는 대도시 요하네스버그는 세계 보안 및 감시 산업의 영향을 받아 남아공 특유의 보안 감시 모델을 탄생시켰으며, 이제는 자체 모델을 주변국에 수출하는 수준에 이르렀다. 시민 인권 운동가들은 이러한 현상이 디지털 아파르트헤이트를 부추기며 사람들의 민주적 자유를 약화시키고 있다고 비판한다.

빌라카지 거리 근처에 ‘부마(Vuma)’ 광통신의 서비스 개시를 알리는 옥외 광고가 설치되어 있다.
MADELENE CRONJE

5년 전까지만 해도 이러한 시스템을 운영하는 것은 불가능한 일이었다. 당시에는 도시 인프라도 부족했지만, 비디오 분석 소프트웨어의 성능상 이렇게 큰 규모의 영상 정보를 처리할 수 없었다. 하지만 이후 광통신망이 보급되고 인공지능(AI) 기술이 발전하면서, 호시탐탐 이윤 창출의 기회를 노리던 외국 기업들이 최신 보안 감시 기술을 무분별하게 도입하기 시작했다. 높은 범죄율이 그치지 않던 이 지역 보안 업계는 새 기술을 받아들일 수밖에 없었다.

그리고 그 결과는 대중 감시 시스템의 급격한 확산으로 나타났다. 이는 전적으로 민간 기업에 의해 운영되면서 중앙 집중적인 양상을 띠었다. 남아공 모든 지역에 CCTV 네트워크를 설치하고 있는 사설 경비 업체 ‘부마캠(Vumacam)’은 벌써 6,600개가 넘는 CCTV를 설치하였는데, 이 중 5,000개가 넘는 카메라가 요하네스버그에 집중적으로 분포되어 있다. CCTV로 촬영한 영상은 전국에 퍼져 있는 보안실로 전송되어 AI의 분석을 거친다. AI는 차량 번호판 인식부터 인구 이동, 개인 추적에 이르기까지 할 수 있는 모든 기술을 동원해 영상을 처리한다.

이미 몇 년 전부터 여러 전문가들은 AI 기술이 과거 제국주의 역사가 지나온 길을 그대로 답습하고 있다고 지적했다. 아직 제국주의의 유산이 많이 남아있는 이곳 남아공에서도 AI 기술을 무차별적으로 도입하는 행태에 대한 우려의 목소리가 높다. 첨단 기술이 우리를 밝은 미래로 이끌어주기 보다는 어두운 과거로 회귀하게 할 것이라는 걱정 때문이다.

관광객으로 붐비어 세련되게 꾸며진 빌라카지 지역과는 달리, 소웨토의 나머지 구역은 여전히 궁핍하고 불결하다. 주로 흑인들이 거주하는 이 구역은 금광 산업 폐기물로 이루어진 언덕에 둘러싸여 있다.

소웨토 지역에서 나고 자란 은코시는 지난 15년간 모든 종류의 차별에 맞서 투쟁해왔다. 성폭력, 상수도 및 위생 문제, 그리고 가장 최근에는 시민의 자유를 위협하는 대중 감시 문제를 위해 싸우고 있다. 우리와 함께 쓰레기더미가 널려 있는 길을 지나던 중, 이러한 쓰레기에서 길거리로 화학물질이 유출되었던 일에 대한 이야기가 나왔을 때 그는 심지어 자조섞인 웃음을 보였다.

그는 “나는 아직도 내가 살아있다는 사실이 놀랍다”고 말한다.

소웨토의 빌라카지 거리는 넬슨 만델라와 데스몬드 투투의 고향이다.
MADELENE CRONJE

다행히 아직 소웨토 지역에는 감시 카메라가 별로 없지만, 엄밀히 말하자면 이는 단순히 이 지역이 가난하기 때문이다. 부마캠은 유료 고객층이 두터운 지역부터 카메라를 설치하고 있다. 우리가 빈민촌에서 고속도로, 그리고 부촌으로 점점 진입함에 따라 카메라들은 모습을 드러내기 시작했다. 회색 철제 기둥의 가운데 부분에 두꺼운 원반이 놓여있고, CCTV 카메라가 마치 박쥐처럼 매달려서 거리를 감시하고 있었다.

우리가 요하네스버그 교외의 부촌인 로즈뱅크(Rosebank)에 이르렀을 때 카메라는 셀 수 없을 정도로 많아졌다. 쇼핑몰 근처에서 가장 최근에 설치된 CCTV를 보았을 때는 경악을 금치 못했다. 이곳의 카메라는 다른 곳에 설치된 것보다 4배 더 컸다.

“이런 건 처음이다. 저 커, 커, 커다란 카메라는 나도 처음 본다.” 그는 점점 더 커지는 모습을 묘사하는 동작을 하면서 말을 더듬었다. “저건 분명히 얼굴을 알아볼 것이다.” 그는 단정하듯이 말했다. 안면인식을 할 수 있으려면 고해상도의 영상을 찍을 수 있는 카메라가 필요하기 때문이다. “하나님 맙소사, 안 돼.” 그가 신음했다.

이러한 추측에 대해 부마캠은 이 카메라가 안면인식 시스템을 사용하고 있지 않으며, 앞으로도 안면인식 기술이 적절하게 규제되기 전까지 도입할 계획이 없다고 답변했다. “우리는 현재 안면인식 기술이 아직 충분히 발전하지 않았기 때문에 이를 윤리적인 측면에서 도입하기 어렵다고 생각한다.” 부마캠의 CEO 리키 크룩(Ricky Croock)이 말했다.

세계에서 가장 큰 안면인식 기술업체 ‘NEC 엑손(XON)’의 남아프리카공화국 지사 역시 부마캠의 새 카메라가 안면인식 기술에 적합하지 않다고 확인해 주었다. 이 업체는 2년 전부터 부마캠과 안면인식 기술 도입에 관해 논의해오고 있다. 

결국 시스템에 안면인식 기술이 도입될지 여부는 아직 확실하지 않다. 이는 공공 감시(public surveillance)의 사유화 모델(privatized model)과 관련된 이야기이다. 이 문제가 어디로 흘러갈지 예측하기는 어렵다.

지역사회 활동가 태미 은코시
MADELENE CRONJE


민간 보안 회사 ‘AI 서베일런스(AI Surveillance)’의 CEO인 롭 니콜(Rob Nichol)이 우리에게 가장 먼저 보여주고 싶어 한 장소는 통제실이었다. 우리가 공용 사무공간에서 나와 복도 끝에 위치한 문을 열자, 한쪽 벽면 전체가 스크린으로 뒤덮인 휑한 방이 나왔다.

스크린에는 도시 곳곳에 위치한 카메라의 영상이 재생되고 있었다. 하지만 이 영상은 그저 보여주기용일 뿐이었다. 실제 감시 활동은 그 밑에 두 줄로 배치된 개인용 컴퓨터에서 진행된다. 이곳에서는 직원들이 부마캠의 물리보안시스템(PSIM) 소프트웨어 ‘프루프 360(Proof 360)’를 이용해서 영상들을 감시하고 있었다.

수많은 동영상을 그저 동시에 재생하는 것 대신에, 프루프 360은 AI 및 기타 기술을 이용해서 보안 경고가 발생한 영상을 선별해 보여준다. 이러한 시스템에는 ‘특이’ 상황 감지 및 차량 번호판 인식 기술이 포함된다.

특이 상황 감지 기술은 ‘아이센트리(iSentry)’라고 알려진 회사가 제공하는데, 이는 당초 호주 군대를 위해 개발된 것이었다. 이 소프트웨어는 각 카메라에 대해 100시간 분량의 영상을 학습시켜 카메라 자체적으로 어떠한 것이 ‘정상’ 상황인지를 판별하게 한다. 그러면 각 카메라가 이상 상황이 발생했을 때 이를 감지하여 경고 신호를 보낼 수 있다. 또한 카메라별로 사람들이 진입하면 안 되는 구역이나 차들이 정차해서는 안 되는 구간 등의 특정 규칙을 입력할 수도 있다.

통제실 첫 번째 줄의 직원들 화면에 하나둘씩 주의 경보가 나타났다. 한 화면에서는 한 남성이 달리고 있었고, 다른 화면에서는 여성이 복도에서 문자를 보내고 있었으며, 세 번째 화면에서는 한 여성이 차에 너무 가깝게 걷고 있었다. 감시 직원은 각 화면을 살펴본 후 화면의 ‘무시’ 버튼을 클릭했다. 화면 안에는 특이 사항을 입력할 수 있는 공간과 ‘집중 감시’ 버튼도 있었다.

‘집중 감시’의 대상이 되는 화면은 통제실 두 번째 줄의 직원에게로 전송되며, 이곳에서 경보의 종류와 고객의 요구사항에 따라 대응 방식이 결정되었다. 대응 방식이란 해당 구역에 위치한 경비원이 얼쩡거리는 사람을 내쫓도록 지시하거나, 혹은 범죄 용의자를 경찰에 신고하는 것과 같은 것이었다.

부마캠의 프루프 360 시스템은 수배 차량을 식별하기 위해 번호판 인식 기술을 이용한다.
VUMACAM

니콜은 수배 차량 경보를 가리켰다. 부마캠은 남아프리카공화국 경찰청(SAPS)에서 제공한 수배 차량 데이터베이스와 인식 차량을 대조하여 경보를 울린다. “이러한 차량을 식별하는 것은 굉장히 중요하다.” 그는 경찰청에서 제공한 정보를 읽어 주었다. 여기에는 이들에 대응할 때 주의해야 할 사항이 기록되어 있다. 

  • 이 범죄자들은 수차례의 가택 침입 및 살해 전과를 가지고 있어 매우 위험함
  • 대응 시 대구경 총기를 소지해야 하며 위험에 처할 경우 즉시 발포할 것
  • 경비업체 및 경찰에 즉시 신고할 것

부마캠은 구독 기반의 서비스를 제공한다. 남아공 경찰청 및 시 경찰 등의 사설 경비 업계 규제 당국에 등록된 기업들은 프루프 360 플랫폼 내에서 원하는 CCTV 영상에 접근할 수 있는 권한을 유료로 확보할 수 있다. 2019년에 부마캠은 각 카메라당 월 730 남아프리카 란드(약 6만 4천 원)의 비용을 부과했다. 회사 측은 최근의 가격에 대해서는 공개를 거부했다. 

현재까지 부마캠의 서비스를 이용하고 있는 고객은 대부분 AI 서베일런스와 같은 민간 보안 업체들이다. 이들은 학교, 기업 및 거주 시설에 대해 단순 감시부터 무장 경비원에 이르기까지 보안과 관련된 모든 서비스를 제공한다. 이는 처음부터 계획된 것이었다. 부마캠의 CEO인 크룩은 니콜과 함께 AI 서베일런스를 설립했지만, 다른 부마캠 고객들과의 이해 충돌을 막기 위해 곧 이 회사를 떠났다.

오늘날 요하네스버그의 부촌 및 상업지역을 담당하는 경비 업체들은 대부분 부마캠 구독 서비스를 이용하고 있다. “이제 공공 보안을 지키기 위해서 카메라는 필수 요소가 되었다.” 크레이그홀파크(Craighall Park) 지역 주민인 라이언 로즈비어(Ryan Roseveare)가 말한다. 크레이그홀파크는 부마캠 서비스를 이용하기 시작한 첫 번째 교외 지역 중 한 곳이다. 

이 사설 경비 업체들은 주로 치안 유지와 연관된 서비스를 제공한다. 물론 그들의 권한은 공권력과 엄연히 다르다. 그럼에도 불구하고 남아공에는 고작 1,100개의 경찰서에 18만 명의 경찰관이 근무하는 반면, 등록된 경비 업체의 수는 1만 1,372개에 달하며 고용된 경비원의 수는 56만 4,540명에 달한다. 이는 군인과 경찰관을 합친 것보다도 많다.

이러한 불균형은 아파르트헤이트의 잔재이다. 1970년대 후반 남아공 여당이었던 국민당은 정부에 반발하는 광범위한 사회적 불안을 잠재우고 정치적 이익을 지키기 위해 경찰을 배치했다. 이 임무는 실제 경찰 업무보다 우선시되었고, 그로 인한 공백을 민간 기업이 파고들었다.

남아공은 ‘피델리티 ADT(Fidelity ADT)’와 같은 회사에 고용된 사설 경비원이 경찰과 군인을 합친 수보다 많다.
MADELENE CRONJE


이후 이미 부족했던 경찰력은 아파르트헤이트 종식(1994년) 후 더욱 축소되었다. 사설 보안 산업은 경이로울 정도로 급격히 상승한 범죄율과 함께 크게 성장했다. 2021년 남아공의 1인당 살인범죄율은 미국의 4배 이상일 정도로 높았다.

정부 정책은 지역사회와 경찰이 이러한 사설 기관과 협력하도록 장려했다. 하지만 이는 사설 경비원이 점점 더 강력하게 무장하는 결과를 낳았다. 요하네스버그 근처를 운전해서 지나다 보면 어디서든 준군사조직(paramilitary units)을 볼 수 있다. 그들은 제복을 입고 큰 총을 들고 있으며 전차를 타고 있다. 그들은 실제 경찰보다 훨씬 더 쉽게 만날 수 있지만 공익 대신 유료 고객을 위해 봉사한다는 차이점이 있다.

정부는 군 병력뿐만 아니라 기업과 시민을 위한 경찰 인력조차 유지하지 못했다. 요하네스버그에는 2009년에 첫 폐쇄회로 카메라가 설치되었는데, 지금 이 숫자는 574개로 늘어났다. 하지만 이들 중 상당수는 고장으로 제대로 작동하고 있지 않은 상태이다. 심지어 2017년 스마트시티 계획의 일환으로 빌라카지 거리에 설치된 25개의 카메라 중에도 고장 난 것들이 있다고 은코시는 이야기했다.

부마캠은 이렇게 충족되지 못한 보안 수요를 노리고 시장에 뛰어들었다. 이 기업의 CEO인 크룩은 이전에 부유한 교외 지역에서 사설 경비 및 보안 업체를 운영한 바 있었으며, 요하네스버그의 보안 업계에 능통한 인물이었다. 그는 인터넷이 발달함에 따라 인터넷 기반 CCTV 및 인공지능 분석이 보안 업체에 훌륭한 상품이 될 수 있을 것으로 생각했다. 

부마캠은 중국의 ‘하이크비전(Hikvision)’과 스웨덴의 ‘액시스 커뮤니케이션즈(Axis Communications)’라는 회사로부터 하드웨어를 공급받았고, 덴마크의 유명한 비디오 감시 업체인 아이센트리와 ‘마일스톤(Milestone)’으로부터는 소프트웨어를 공급받았다. 이후 그들은 다른 사설 보안 업체들과 함께 요하네스버그 곳곳에 고해상도 CCTV를 설치했다.

부마캠은 고객사들에게 카메라의 유지 보수와 관리, 그리고 30일 동안 영상을 저장할 것을 약속했다. 이 기간  동안 경비원이나 경찰은 범죄 수사를 위해 영상을 요청할 수 있다. 2021년 3월까지 보안 회사 50여 곳이 부마캠의 서비스에 가입했다. 부마캠 측은 현재 서비스를 구독하고 있는 고객사의 숫자에 대해서는 공개하기를 거부했다.

소웨토에서 빌라카지 거리를 제외한 지역은 여전히 가난하다. 주로 흑인이 거주하는 이 지역은 금광 산업의 폐기물로 이루어진 언덕에 둘러싸여 있다.
MADELENE CRONJE

최근에 부마캠은 쇼핑몰, 사무 공간, 심지어는 사람들의 집 안까지 서비스를 확장하고 있다. 부마캠이 이 구역에 직접 카메라를 설치하지는 않지만, 고객들은 그들의 CCTV를 부마캠의 프루프 360 서비스에 연결하여 통합 보안 모니터링 서비스를 이용한다.

이처럼 서비스를 크게 확장한 부마캠은 이제 범죄 행위에 대처하기 위해 새로운 차원의 집중화, 조직화 전략을 도입하려고 한다. 그들은 범죄자가 범죄를 저지르는 순간부터 이후 도시 어디로 향하든 그들을 추적할 수 있는 기술을 개발하고자 노력하고 있다.

프루프 360의 사용자들은 그들의 데이터베이스에 범죄에 사용된 차량이나 도난 차량과 같은 수배 차량 정보를 추가할 수 있다. 또한 이 정보는 관할 구역을 넘나드는 차량을 추적하기 위해 각 사용자 간에 공유도 가능하다. 대중교통이 발달하지 못한 요하네스버그와 같은 도시에서 이와 같은 기술은 안면인식과 거의 비슷한 수준으로 범죄자를 특정해낼 수 있는 수단이다.

부마캠은 이와 같은 방식이 경찰 조사보다 훨씬 더 신속하다고 자부한다. 피해자들은 범죄 신고서를 작성하고, 경찰로부터 사건 번호를 부여받은 뒤, 시스템에 용의자의 차 번호를 입력하는 번거로운 과정을 거치지 않아도 된다. “바로 조금 전 무장 강도 사건이 발생했다고 가정해보자.” 부마캠의 소프트웨어 매니저인 켈리 드 리케부르그(Kelly de Ricquebourg)가 말한다. “나는 용의자의 차 번호를 시스템에 입력하여 10분 내로 이들을 잡을 수 있다. 만약 내가 경찰에 신고하려고 하면 사건 번호를 받는 데만 족히 48시간이 걸릴 것이다.”

만약 공용 데이터베이스에 범죄 용의 차량이라고 등록된 차량에 대하여 48시간 이후에도 경찰이 사건 번호를 부여하지 않으면 이 번호는 자동으로 데이터베이스로부터 삭제된다고 그녀는 덧붙였다. 하지만 이러한 과정에 있어서 투명성이나 외부 감시와 같은 안전 조항은 없었다. 공용 데이터베이스가 아닌 각 업체의 데이터베이스에 있어서는 이러한 제한적인 삭제 조치조차 이루어지지 않고 있으며, 이는 말 그대로 어떠한 차량이라도 쉽게 용의 차량으로 데이터베이스에 추가될 수 있다는 것을 의미한다. 즉, 아무런 혐의도 없는 차량도 실수나 정당하지 않은 이유로 감시 및 검문의 대상이 될 수 있다. 

이러한 불법적인 체포는 사설 보안 업체나 경찰 중 그 누구에 의해서도 일어날 수 있다. 때로는 경찰이 먼저 민간 보안 업체에 부마캠의 네트워크를 이용해달라고 요청하기도 한다. 사건 번호를 부여하는 등의 관료주의적인 절차를 피하기 위해서다. “지난주에는 경찰이 이 방에 와서 우리가 하고 있는 일을 확인하고 가기도 했다.” AI 서베일런스의 니콜이 말한다. “작년 7월에는 경찰이 온종일 머물면서 카메라를 모니터링하기도 했다.”

부마캠에 따르면, 요하네스버그의 상업 지역인 샌튼 중앙 개발 지구(Sandton Central Improvement District)에 카메라가 설치된 이후 7개월간 97대의 차량과 85명의 범죄자가 부마캠 덕분에 검거될 수 있었다고 한다. 다만 크룩은 이러한 체포가 실제 기소로까지 이루어졌는지는 공개할 수 없다고 말했다.

요하네스버그의 부유한 교외 지역인 로즈뱅크는 부마캠의 카메라가 많이 설치된 장소 중 한 곳이다.
KAREN HAO


부마캠은 이제 프루프 360 플랫폼에 여러 새로운 기능을 추가하고 있다. 이 중에는 다른 두 곳에서 같은 번호판을 가진 차량이 나타나는 경우를 인식하는 번호판 복제 인식 기능, 서드 파티(third party) 개발자가 자신들이 개발한 추가 애플리케이션을 부마캠의 구독자들에게 판매할 수 있는 기능들도 포함되어 있다. 

이와 병행하여 부마캠 측은 감시 카메라 네트워크를 남아공 전역으로 확장시키는 데에도 주력하고 있다. 크룩에 따르면 회사는 올해 말에 과금 체계를 바꿀 예정이다. 새로운 요금 체계에 따라 고객사들은 정해진 금액만 지불해도 이전과는 다르게 모든 카메라에 접근할 수 있게 된다. 각 회사들은 자신의 관할 구역에서 발생하는 경보만을 보고받을 수 있지만, 그럼에도 불구하고 전국의 어떠한 카메라도 확인할 수 있다. 

이러한 접근 방식으로 인해 부마캠은 유료 고객의 위치에 상관없이 전국에 감시 카메라를 설치할 수 있게 된다. 이와 관련해서 크룩은 “우리는 보통 무선 통신회사에 가입할 때 ‘이곳과 이곳에 중계기를 설치해달라’고 하지 않는다. 대신에 ‘전국 어디서든 통화가 되죠?’라고 한다”고 말했다.

드 리케부르그는 “우리도 전국을 커버하는 감시 체계를 구축하기 위해 노력하고 있다”면서 “이렇게만 된다면 범죄를 저지른 차량은 빠져나갈 구멍이 없다”고 덧붙였다.

범죄는 현실이다. 우리가 스마트폰을 녹음기 삼아 은코시 앞에 내밀며 함께 로즈뱅크 주변을 걷던 날, 몇 분 지나지 않아 행인 두 명이 경고를 외쳤다. “저기요, 이 근처에서는 조심해야 합니다”라고 한 사람이 말했다. “정말 좋은 스마트폰이네요. 뺏기면 아주 슬프겠어요”라고 다른 사람이 말했다.

비록 은코시와 이 기사를 공동 작성한 남아공 출신 기자 하이디 스워트(Heidi Swart) 둘 다 이번 만남 바로 며칠 전 휴대전화를 도난당했지만, 이는 단지 사소한 절도가 아니다. 2021년 10월부터 12월까지 남아공 전국에서 살인, 강간, 일반 폭행, 강도 같은 강력범죄 165,000건이 경찰에 신고되었다.

이곳에 부마캠을 처음 설치할 때 감독을 맡았던 로즈비어는 이 점이 크레이그홀파크와 크레이그홀, 두 교외 지역에서 서둘러 부마캠을 도입하고자 노력했던 이유라고 말한다. “카메라가 높이 올라가는 모습을 보고 사람들은 이 지역이 더 안전해졌다고 느꼈다”라고 그는 말한다. 그는 이 카메라들이 범죄를 억제했다고 믿는다. 비록 통계상 이를 입증하기 힘들다는 점은 인정하지만 말이다. “남아공에서 범죄는 마치 인플레이션처럼 항상 증가하고 있다”며 “그러므로 카메라의 효과는 중범죄의 비율이나 범죄율 증가 속도의 감소로 나타날 것”이라고 말했다.

현재 두 지역에는 출입구 및 진입 지점과 주요 교차로에 설치된 번호판 인식 카메라 70대를 포함해 모두 159대의 카메라가 설치되었다.

하지만 이 대화에서는 애초에 범죄가 존재하는 이유가 배제되었다. 산업 사회의 연구자들은 불평등이 범죄율을 증가시킨다는 것을 재차 증명해왔다. 남아공은 세계에서 가장 불평등한 국가일 뿐만 아니라 아파르트헤이트가 남긴 유산으로 인해 인종 차별도 매우 심각한 수준이다. 최근 정부 보고서에 따르면 2015년 남아공 인구의 절반이 빈곤한 생활을 이어 나갔으며, 그들 중 93%가 흑인이었다.

결과적으로 감시 시스템에 대한 비용을 지불할 수 있는 수단을 가진 사람들은 대부분 백인이다. 반면 감시에 대한 발언권이 없는 사람들은 대부분이 흑인이다.

덧붙여, 안면인식 및 이상 감지와 같은 AI 툴이 항상 정상적이지 않을 수 있다는 점도 문제다. 안면인식 소프트웨어가 야외나 통제되지 않는 조건에서 촬영된 영상을 분석할 때는 식별 오류의 가능성이 현저히 증가하며, 이러한 일은 특히 흑인들에게서 훨씬 더 많이 발생한다.

남아공의 보안 감시 산업을 연구하면서 2019년 언론사 바이스(Vice)에 처음 이 현상에 대해 글을 쓴, 미국 예일대 로스쿨의 방문 연구원인 마이클 크위(Michael Kwet)은 카메라가 여러 가지 면에서 아파르트헤이트 시절의 상황을 재현하고 있다고 말한다. 그 당시에는 정부가 국내 여권 또는 통행 증명서를 이용하여 흑인들이 백인 거주지를 왕래하는 것을 제한했었다. 물론 백인에게는 이러한 통행 증명서가 요구되지 않았다. 크룩은 이러한 주장이 “의도적으로 대중을 호도하여 범죄와 싸우는 기술에 대해 희망보다는 공포를 불러일으키려는 것”이라고 반박한다.

한편, 공공 안전의 민간 외주화는 이러한 자본이 대중 감시 체계가 아닌 사회 안전 및 복지와 같은 분야에 사용되었을 때 어떠한 효과가 있을지에 대한 논의가 활발하게 일어나는 것을 막고 있다. 상수도 개선, 위생 사업, 전력, 보건, 교육 및 청년 고용 등과 같은 문제들이 이에 해당한다. 이러한 정책들은 치솟는 범죄율의 근본적인 원인인 빈부 격차를 해소하는 데 도움이 된다. 하지만 기업들은 이러한 빈부격차에서 이윤을 창출할 기회만을 엿보고 있다. 

“그들은 기본적으로 공적인 공간과 공적인 생활을 자본화하고 있다.” 은코시가 말한다.

한편 크룩은 “부마캠의 기술은 범죄를 예방하기 위한 목적으로 개발되었으며, 대중 감시를 위해 개발되지도 않았고 그러한 능력도 갖추고 있지 못하다”고 말한다. 그는 “소위 ‘활동가’라고 불리는 사람들은 아무런 근거 없이 우리를 흠집 내려고 악의적인 주장을 하고 있다”라고 했다.

MADELENE CRONJE


남아공의 범죄율은 팬데믹 기간 동안 일시적으로 감소하다가 이후 다시 폭발적으로 증가했다. 우리가 인터뷰한 많은 기업들은 이를 근거로 보안 감시 기술에 대한 투자를 늘려야 한다고 주장한다. “범죄를 예방하기 위한 감시 기술은 범죄를 이해하고 예방하는 데 중요하다. 범죄는 이 나라의 경제 성장과 투자를 막고 있으며, 이로 인해 직업이 늘어나지 않고 빈곤율 또한 높게 유지되고 있다.” 크룩의 주장이다.

NEC 엑손의 보안 감시 및 분석 담당 책임자인 잔 에라스무스(Jan Erasmus)는 “적절히 설치된 감시 체계와, 선제적으로 대응하는 분석 기술이 범죄 활동을 감소시키는데 큰 효과가 있다는 것을 확인했다”고 말했다.

에라스무스는 경비 회사들이 범죄 용의자를 식별하기 위해 안면인식 기능을 개발하고 있다고 덧붙였다. 이 기술은 감시 영상에서 추출된 얼굴들을 범죄자들의 얼굴 데이터베이스와 비교하는 방식으로 이루어진다. ‘비드베스트 프로테아 코인(Bidvest Protea Coin)’이라고 불리는 보안 업체는 NEC 엑손과 협력하여 48,000명의 용의자 얼굴 사진을 시스템에 업로드하였다. 이들의 혐의는 코뿔소 및 전복 밀렵에서부터 기지국 배터리 절도에 이르기까지 다양하다. 이 두 회사는 이 시스템을 다른 경비 회사들 및 은행, 정부 기관과 공유하고자 한다.

하지만 이미 범죄자들이 아닌 개인들을 대상으로 안면인식 기술이 사용된 경우가 수차례나 있었다. 2016년 경제적으로 어려운 대학생들이 전국적으로 높은 등록금에 반대하는 시위를 진행했을 때, NEC 엑손은 SNS에 업로드된 사진과 비디오로부터 시위자들의 얼굴을 수집하여 대학교의 학생증 사진 데이터베이스와 대조한 전력이 있다. 에라스무스는 이는 시위자들을 막기 위해서가 아니라 실제로 그들이 학생이었는지를 판별하기 위해서였다고 주장했다. 그리고 그에 따르면 시위자들은 대부분 학생이 아니었다고 한다. 또한 이는 대학의 사유재산에 대한 손실을 막기 위해서이기도 했는데, 실제로 이 시위에서 전국의 대학교들이 입은 물적 피해는 총 786 남아프리카 란드 (약 653억 1,200만 원)에 이르렀다고 한다.

하지만 5년 뒤 시위가 다시 발생했을 때 학생들은 그들이 범죄자 취급을 받고 있다고 느꼈다고 말했다. 열아홉 살의 법대생이자 윗워터스란드 대학교(University of the Witwatersrand)의 활동가인 은탸턈보 볼사카(Ntyatyambo Volsaka)는 경찰들이 고무탄으로 무장한 채 현장에 도착했고, 소위 ‘채증’이라는 명분 아래 시위자들을 근거리에서 촬영했다고 말했다.

“우리는 모든 사람이 교육받을 수 있는 권리를 보장받기를 원한다.” 그가 말했다. “하지만 경찰들은 우리를 동물처럼 다뤘다.” 에라스무스는 NEC 엑손이 2021년 시위에서 경찰들의 채증 활동을 돕지 않았다고 말했다.

이 회사들은 전 세계에서 감시 시스템을 구축하고 있다. 남아프리카공화국에서 나타난 현상의 의미는 단순히 빠르게 성장하는 시장에 그치지 않는다. 이 기업들은 이 국가에서 그들의 기술을 더욱더 발전시키고 있다. 요하네스버그에 위치한 액시스 커뮤니케이션즈의 세일즈 엔지니어인 카일 딕스(Kyle Dicks)는 AI 기술이 “미국 및 유럽 같은 선진국에서 개발되었지만, 남아공은 이러한 기술들을 시험하기에 좋은 장소인 것 같다”라고 말했다.

2019년 2월 출시된 이후 조용히 도처에 깔린 부마캠의 카메라 네트워크는 그동안 별다른 저항 없이 확장해 나갔다.

그러나 지난해 요하네스버그 도로국(JRA)이라는 예상 밖의 사생활 보호 옹호자로부터 반발이 있었다. JRA는 평소 도시 보행로에 구조물을 세우는 사람이 교통을 방해하거나 전원 케이블 및 수도관을 절단하지 않도록 통제하는 임무를 맡은 기관이다. 부마캠의 카메라는 공공 보도의 특수 전봇대에 장착되므로 부마캠은 JRA의 승인이 필요했다.

JRA가 갑자기 사람들의 프라이버시를 이유로 부마캠에 대한 추가적인 허가를 거절하기 전까지 모든 것은 순조로웠다. 이 기관은 요하네스버그가 감시 카메라 규제 체계를 내놓기 전까지 추가적인 설치를 중단할 것이라고 선언했다. 부마캠은 JRA에 소송을 제기했다.

사설 경비원이 요하네스버그 거리를 부마캠의 감시 네트워크로 모니터링하고 있다.
AI SURVEILLANCE


궁극적으로 JRA는 이 소송에서 패소했지만, 프라이버시에 대한 논쟁에서는 진전을 보였다. 먼저 판사는 JRA의 업무가 도로 인프라 건전성을 지키는 것이지 인권 보호가 아니라고 판단했다. 그러나 법원은 사안의 복잡성을 인정하면서 사생활 침해 혐의에 대한 판단은 유보했다.

그 이후 시민사회단체들로부터 더 이상의 소송은 없었고, 공공장소에서의 감시 카메라나 안면인식과 같은 분석을 특별히 규제하는 법률도 생기지 않았다. 대중은 더 시급한 문제들에 몰두하고 있다. 은코시는 “사람들은 일자리나 먹거리, 나라의 정치적 불안정에 대해 걱정하고 있다”라고 은코시는 말한다. 우리는 민주주의 사회에서 감시의 위험성과 그것의 의미에 대한 문제의식을 느낄 만큼 높은 수준의 교육을 받지 못했다.”

그러나 이 소송으로 제기된 문제들은 점점 더 심각해지고 있다. 세계 보안 감시 산업은 항상 국경을 넘어 기술을 주고받아왔다. 오늘날까지 안면인식과 같은 현대 감시 기술의 첫 번째 주요 자금 제공자인 미국 정부는 자체적인 표준과 공급업체 순위를 통해 산업의 방향성을 결정하는 가장 중요한 기관이라고 워싱턴 대학(University of Washington)의 박사생인 오스 케예스(Os Keyes)는 말한다.

남아공에서 사용되고 있는 많은 기술이 이러한 영향 아래 등장했고, 추후 미국 시장 진출을 염두에 두고 계속해서 발전해 왔다. 이제 기술과 이데올로기는 모두 이 방향으로 다시 흐르기 시작했다.

예를 들어 AI 서베일런스는 미국의 고객사로부터 실시간으로 CCTV 영상을 전송받아 요하네스버그의 통제실을 통해 이를 감시하고자 한다. AI 서베일런스의 CEO 니콜은 회사의 풍부한 경험과 남아공의 저렴한 현지 임금이 이 회사의 강점이 될 것이라고 생각한다. “미국은 하드웨어와 녹화 기술이 더 발전되어 있다. 미국에는 이미 많은 카메라가 설치되어 있으며 저장된 영상도 많다”고 그는 말한다. “남아공은 영상 분석 및 실시간 대처에 더 능숙하다. 우리가 바라던 것은 아니었지만 말이다.” 그가 덧붙였다.

부마캠은 다른 나라에서도 남아공에서 키운 모델을 적용하기 시작했다. 예컨대 나이지리아에서는 자체 전봇대를 세우는 대신 기지국과 같은 기존의 기반 시설에 카메라를 설치하고 있다. 미국과 영국 등 기존 CCTV 카메라 네트워크가 있는 나라에서는 프루프 360 플랫폼 판매에 집중하고 있다. 크룩은 “우리는 우리가 엄청난 일을 하고 있다고 생각한다”고 하면서 “우리는 세계시장을 무대로 하는 원대한 야망을 품고 있다”라고 말했다.

이밖에 다른 보안 감시 산업도 플랫폼 기반 접근 방식으로 이동하고 있다는 징후가 있다. 프루프 360은 비디오 관리 도구 ‘마일스톤’을 기반으로 개발되었는데, 이들은 다른 기업들도 자신의 소프트웨어를 기반으로 얼굴 및 차량 번호판 인식과 같은 AI 애플리케이션을 구축할 수 있도록 허용했다. 미국과 남아공에 지사를 두고, 최근 자체 플랫폼을 출시한 ‘액시스 커뮤니케이션스’도 마찬가지다.

올해 NEC 엑손의 모회사인 NEC(일본전기주식회사) 역시 정부 기관들이 부마캠의 번호판 데이터베이스 중앙화와 같은 방식으로 그들의 감시목록을 통합할 수 있는 ‘NEC 넥서스(Nexus)’라는 제품을 출시할 계획이다. NEC는 현재 가장 큰 규모의 안면인식 정보를 확보한 영국에서 넥서스를 시험하고 있으며, 곧 전 세계를 대상으로 출시할 예정이라고 에라스무스는 말했다. 다만 아직 남아공에서의 출시 계획은 없다고 한다.

MADELENE CRONJE

은코시는 다음에 일어날 일을 염려한다. 그는 세계 각국의 정부가 공공 안전을 구실로 이러한 기술을 도입한 후, 이를 활동가들과 시민에게 확대하여 적용할 것을 우려한다. 우리가 미국의 흑인 인권 운동이나 중국의 위구르 소수민족 탄압에서 이미 경험했듯이 말이다.

“결국 국가는 민간 기업들과 결탁하게 될 것이다. 왜냐하면 주 정부는 이렇게 복잡한 CCTV 카메라 네트워크를 운영할 능력이 없기 때문이다”라고 그는 말한다. “그것이 내게는 더 큰 위험이다.”

사실 남아공은 ABIS라고 불리는 국가 생체인식 데이터베이스를 구축하고 있다. 여기에는 모든 거주자와 외국인 방문객의 얼굴 정보가 포함될 것이다. 부마캠의 전국적인 감시 네트워크 및 카메라 기술의 개선, 그리고 안면 인식의 확대로 인해 언젠가 ABIS는 남아공 내 모든 사람의 움직임을 추적할 수 있게 할 수 있을 것이다.

“우리는 활동가들, 언론인, 기업가들이 나쁜 의도를 품은 사람들로부터 불법적으로 추적당하고 신체적인 위해를 입을 위험성을 과소평가하지는 않는다.” 크록이 말한다. “하지만 우리는 일반인들을 우리의 기술로 추적할 수 없다. 이 시스템은 그런 의도로 제작되지 않았다.” 그는 덧붙였다.

“NEC 엑손은 안면인식 기술을 언제나 윤리적인 범위 안에서 사용할 것이라고 보장한다.” 에라스무스는 말했다.

함께 로즈뱅크 거리를 걸을 때 은코시는 눈에 보이는 카메라의 숫자를 세었다. 한 전봇대에 7개의 카메라가 달려 있었고, 길 건너에는 3개, 다른 전봇대에는 6개가 더 달려있었다.

“우리나라는 아직 이 문제를 심각하게 생각하고 있지 않지만, 언젠가는 이러한 논의가 필요해질 것이다.” 그는 집에 돌아와 이렇게 말했다. “사회운동이나 시위를 할 장소가 부족해질 것이며, 민간 회사들은 떼돈을 벌 것이다.” by Karen Hao & Heidi Swart

미리보기 3회1회

MIT Technology Review 구독을 시작하시면 모든 기사를 제한 없이 이용할 수 있습니다.