A Roomba recorded a woman on the toilet. How did screenshots end up on Facebook?

로봇 청소기 ‘룸바’의 위험한 실내 사생활 촬영

로봇 청소기 제조사들은 청소기가 실내에서 찍은 이용자의 이미지가 안전하게 보호된다고 말하지만, 가정용 청소 로봇의 공급망이 전 세계로 널리 뻗어나감에 따라서 수집된 데이터가 유출될 위험도 커지고 있다. 청소기 룸바(Roomba)가 여성의 신체를 촬영한 사진은 어떻게 페이스북 그룹에 올라가게 된 것일까?

2020년 가을, 베네수엘라의 긱 워커(gig worker)들은 잡담을 나누는 여러 온라인 포럼 사이트에 실내에서 촬영된 사진들을 올렸다. 사진들 가운데는 낮은 각도에서 촬영한 일상적이지만 사적인 집안에서의 생활 모습과 사진 속 인물이라면 결코 스스로 인터넷에 올리지 않을만한 장면도 있었다.

노출이 심한 경우는 라벤더색 티셔츠를 입은 젊은 여성이 바지를 허벅지까지 내리고 변기에 앉아 있는 사진도 있었다.

이런 집안 사생활의 모습을 촬영한 것은 사람이 아닌 아이로봇(iRobot)이 개발한 실내 청소기 룸바(Roomba) J7 시리즈였다. 그 이미지들은 인공지능 학습에 사용되는 오디오, 사진 및 동영상 데이터를 라벨링 하는 스타트업인 스케일 AI(Scale AI)로 전송되었다. 이 회사는 전 세계에 거주하는 직원들과 계약을 맺고 있다.

촬영된 사진들은 인터넷에 연결된 룸바 제품이 일상적으로 촬영하여 클라우드로 전송한 것들이었다. 일반적으로 이런 경우에는 스토리지 및 접근 권한이 더 엄격하게 관리된다. 그러나 2022년 초, MIT 테크놀로지 리뷰는 비공개 소셜 미디어 그룹에 올라온 사적인 사진들로 구성된 스크린샷 15장을 입수했다.

동의 없이 촬영된 실내 생활 사진의 유형과 민감도는 다양하다. MIT 테크놀로지 리뷰가 확인한 사진 중 사생활 침해 우려가 가장 큰 사진은 변기에 앉은 젊은 여성을 촬영한 여러 장의 영상 캡처 이미지였다. 대표 이미지에서는 해당 여성의 얼굴이 가려져 있었지만, 저화질 스크린샷에서는 그 모습을 알아볼 수 있었다. 또 다른 이미지에는 8~9세 정도로 보이는, 얼굴이 선명하게 찍힌 소년이 복도 바닥에 배를 대고 엎드려 있다. 소년은 눈 밑에서 자신을 촬영하는 물체가 흥미로운 듯이 흐트러진 머리카락을 이마 위로 흘러내린 채로 룸바를 응시하고 있다.

촬영된 다른 이미지들에는 전 세계 가정의 모습이 고스란히 담겨 있다. 몇몇 방들에는 사람들이 있고 어떤 방에는 개가 한 마리 있다. 이미지에는 가구, 장식품, 벽의 높은 부분이나 천장에 설치된 물건들의 윤곽이 직사각형으로 표시되어 있고 그 직사각형 옆에는 ’TV’, ‘식물 또는 꽃’, ‘천장 조명’과 같은 이미지의 설명을 담은 데이터 라벨링이 붙어있다.

슬라이드 이미지 보기

사진 1. 아이로봇이 개발한 룸바 J7에 의해 촬영된 후 데이터 라벨링 담당자들이 어노테이션(annotation) 작업을 진행 중인 이미지. 개인의 얼굴이 식별될 수 있어서 MIT 테크놀로지 리뷰가 회색 상자로 가림 처리했다.
사진 2. 아이로봇이 개발한 룸바 J7에 의해 촬영된 후 데이터 라벨링 담당자들이 어노테이션(annotation) 작업을 진행 중인 이미지. 원래 어린이의 얼굴을 식별할 수 있었지만 MIT 테크놀로지 리뷰가 가림 처리했다.
사진 3. 아이로봇이 개발한 룸바 J7에 의해 촬영된 후 데이터 라벨링 담당자들이 어노테이션(annotation) 작업을 진행 중인 이미지.
사진 4. 아이로봇이 개발한 룸바 J7에 의해 촬영된 후 데이터 라벨링 담당자들이 어노테이션(annotation) 작업을 진행 중인 이미지.
사진 5. 아이로봇이 개발한 룸바 J7에 의해 촬영된 후 데이터 라벨링 담당자들이 어노테이션(annotation) 작업을 진행 중인 이미지.
사진 6. 아이로봇이 개발한 룸바 J7에 의해 촬영된 후 데이터 라벨링 담당자들이 어노테이션(annotation) 작업을 진행 중인 이미지.
사진 7. 아이로봇이 개발한 룸바 J7에 의해 촬영된 후 데이터 라벨링 담당자들이 어노테이션(annotation) 작업을 진행 중인 이미지.
사진 8. 아이로봇이 개발한 룸바 J7에 의해 촬영된 후 데이터 라벨링 담당자들이 어노테이션(annotation) 작업을 진행 중인 이미지.
사진 9. 아이로봇이 개발한 룸바 J7에 의해 촬영된 후 데이터 라벨링 담당자들이 어노테이션(annotation) 작업을 진행 중인 이미지.
사진 10. 아이로봇이 개발한 룸바 J7에 의해 촬영된 후 데이터 라벨링 담당자들이 어노테이션(annotation) 작업을 진행 중인 이미지.
사진 11. 아이로봇이 개발한 룸바 J7에 의해 촬영된 후 데이터 라벨링 담당자들이 어노테이션(annotation) 작업을 진행 중인 이미지.
사진 12. 아이로봇이 개발한 룸바 J7에 의해 촬영된 후 데이터 라벨링 담당자들이 어노테이션(annotation) 작업을 진행 중인 이미지. 원래 여성의 얼굴을 식별할 수 있었지만 MIT 테크놀로지 리뷰가 가림 처리했다. 룸바 J7의 전면 조명이 오븐에 반사되고 있다.
사진 13. 아이로봇이 개발한 룸바 J7에 의해 촬영된 후 데이터 라벨링 담당자들이 어노테이션(annotation) 작업을 진행 중인 이미지.

세계 최대 로봇 청소기 공급업체 아이로봇은 이미지들이 2020년 룸바 청소기에서 촬영된 이미지들이라고 인정했다. 아이로봇은 아마존(Amazon)이 최근 17억 달러에 인수한 기업으로, 인수합병 절차는 아직 연방거래위원회(FTC)의 승인을 앞두고 있다. 아이로봇은 이미지 유출 사실이 드러나자 모든 이미지가 ‘아이로봇에 설치된 새로운 하드웨어 및 소프트웨어 수정 버전의 개발용 로봇’으로부터 수집되었다고 밝혔다. 해당 이미지들은 계약을 통해 동영상 등의 학습용 데이터 스트림을 다시 아이로봇으로 전송하는 데 동의한 ‘유급 수집자와 직원들’에게 제공되었다. 아이로봇은 룸바 J7 로봇에 ‘동영상 녹화 중’이라는 연두색 스티커가 부착되었으며 ‘어린이 등 로봇의 작동 공간에서 민감하다고 여겨지는 모든 요소를 제거’할 책임은 수집자들에게 있다고 주장했다.
다시 말해, 아이로봇은 데이터 스트림에 표시된 사진이나 동영상에 찍힌 이용자들이 룸바를 통한 촬영에 동의했다는 입장이다. 아이로봇은 MIT 테크놀로지 리뷰가 해당 동의서를 확인하도록 허락하지 않았으며, 아이로봇의 유급 수집자 또는 직원들을 통해 이러한 계약조건에 동의했는지를 확인할 기회도 주지 않았다.

MIT 테크놀로지 리뷰가 아이로봇 고객들로부터 직접 위의 이미지들을 제공받은 것은 아니지만, 소비자들은 일반적으로 그 정도는 다르더라도 개인 데이터가 아이폰, 식기세척기 등 다양한 디바이스를 통해 모니터링될 수 있다는 점에 동의한다. 이런 관행은 오래전부터 존재했으며, 최근 몇 년 사이 인공지능(AI)이 획기적 제품과 서비스에 통합되면서 데이터 수집에 열을 올리는 사례들이 더 보편화되었다. AI 기술 중 상당수는 머신러닝 기반으로 인간의 음성, 얼굴, 가정생활 등 방대한 양의 저장 데이터로 알고리즘을 학습시켜 패턴을 인식하도록 한다. 가장 유용한 데이터 세트는 가장 현실적인 데이터이기 때문에 실내 가정생활 같은 현실 환경의 데이터 확보가 매우 중요하다. 대부분의 경우, 우리는 “제조사들에 소비자 정보의 유포와 분석에 대한 폭넓은 재량을 부여한다”는 모호한 언어로 쓰인 프라이버시 정책 문구에 따라 단지 제품을 사용하는 것만으로 소비자 정보 제공에 동의하게 된다.

로봇 청소기가 폭넓게 수집한 데이터는 특히 심각한 사생활 침해로 이어질 수 있다. 노스이스턴 대학교(Northeastern University) 박사 과정에서 로봇 청소기 등 사물 인터넷 디바이스의 보안 취약성을 연구하고 있는 데니스 기즈(Dennis Giese)는 로봇 청소기에는 “강력한 하드웨어와 고성능 센서”가 설치되어 있고 “로봇은 집안 곳곳으로 이동할 수 있기 때문에 통제가 불가능하다”고 지적했다. 그는 아이로봇의 룸바 J7 시리즈처럼 최첨단 카메라와 인공지능이 탑재된 디바이스의 경우 이러한 문제가 특히 심각하다고 덧붙였다.

수집된 데이터는 더 스마트한 로봇을 제작하는 데 사용되지만 데이터 분석의 목적은 언젠가 청소보다 훨씬 더 고차원적인 용도로 진화할 수 있다. 하지만 이러한 데이터 세트를 머신러닝에 사용하려면 개별 작업자가 각각의 데이터를 확인하고 분류하고 라벨링한 이후에 맥락화된 정보를 추가해야 한다. 원본 데이터를 설명하기 위해 이미지에 메타 데이터를 태그(tag)하여 추가하는 작업이 데이터 어노테이션(data annotation)이다.

아이로봇 대변인 제임스 보스만(James Baussmann)은 이메일을 통해 아이로봇이 “관련 법률에 따라 개인 데이터를 안전하게 처리하기 위해 최선을 다했으며” MIT 테크놀로지 리뷰에 공유된 이미지들은 “아이로봇과 이미지 어노테이션 서비스 공급자 사이에 체결된 기밀 유지 계약서를 위반하여 공유되었다”고 전했다. MIT 테크놀로지 리뷰가 이미지들을 입수한 지 몇 주 후, 아이로봇 CEO 콜린 앵글(Colin Angle)은 이메일로 “아이로봇은 이미지들을 유출한 서비스 공급자와 거래를 종료할 예정이며 이 문제에 대해 적극적으로 조사하고 향후에 어떤 서비스 공급자도 유사한 유출을 할 수 없도록 조치를 취할 예정”이라고 설명했다. 아이로봇은 해당 조치의 구체적인 내용을 묻는 추가 질문에는 답하지 않았다.

문제를 수습하려는 노력에도 불구하고 이러한 실내 촬영 이미지들은 결국 하나의 개별 기업을 넘어선, 더 고차원적인 문제를 보여준다. 룸바의 이미지 유출 사고는 사생활 침해로 이어질 수 있는 데이터 공유가 증가하고 있으며, 단 한 장의 이미지라도 전 세계에 퍼질 수 있다는 사실을 보여준다. 룸바 사례에서 이미지들은 북미, 유럽, 아시아 지역의 가정에서 수집된 후, 아이로봇이 위치한 미국 매사추세츠주의 서버를 거쳐, 샌프란시스코에 있는 스케일AI로 전달되었다. 최종적으로 스케일AI가 고용한 전 세계에 퍼져있는 데이터 작업자들에게 넘어갔다. 데이터 작업자들 가운데는 페이스북(Facebook), 디스코드(Discord) 등의 비공개 그룹에 이미지를 업로드한 베네수엘라의 긱 워커들도 포함된다.

요컨대, 룸바를 통해 유출된 이미지들은 데이터 공급망 전체와 대부분의 소비자가 전혀 인식하지도 못하는 새로운 사생활 유출의 가능성을 보여준다. 미국 연방거래위원회(FTC) 조사실에서 일하다가 현재 컨슈머 리포트(Consumer Reports)의 기술 정책 이사로 일하는 저스틴 브룩맨(Justin Brookman)은 “사람이 직접 원본 영상을 검토할 것이라고 예상하기는 어렵다”고 강조했다.
아이로봇은 특히 ‘사람’이 이러한 민감한 실내 촬영 이미지를 살펴보고 있다는 사실을 ‘데이터 수집자들’이 알고 있었는지 여부에 대해서는 침묵했지만, 동의 양식을 통해 ‘서비스 제공자’가 살펴볼 것이라고 분명히 했다.

“사람이 직접 원본 영상을 검토할 것이라고 예상하기는 어렵다”

메릴랜드 대학교(University of Maryland) 커뮤니케이션학과 및 정보 연구 대학(College of Information Studies)에서 정보 과학자 겸 교수로 재직하고 있는 제시카 비탁(Jessica Vitak)은 “우리가 기계를 대하는 것과 사람을 대하는 방식 사이에는 실제로 큰 차이가 있다”며 “작고 깜찍한 청소기가 집 안 여기저기를 돌아다니는 상황은 카메라를 든 누군가가 집 주변을 걸어 다니는 경우보다 훨씬 더 쉽게 허용될 수 있다”고 덧붙였다.

안타깝게도 이런 가정은 현실이 되었다. 이제는 로봇 청소기뿐만 아니라 사람도 화장실에 있는 여러분의 모습을 지켜보고 있을 수 있다.

청소기 혁명

로봇 청소기가 처음부터 지능적이지는 않았다.

스위스에서 최초로 개발한 일렉트로룩스 트릴로바이트(Electrolux Trilobite) 모델은 2001년 출시됐다. 이 청소기는 초음파 센서를 사용하여 벽의 위치를 파악하고 청소 패턴을 정했으며, 측면의 추가 충격 센서와 바닥의 클리프(cliff) 센서로 물체에 부딪히거나 계단에서 떨어지지 않도록 했다. 그러나 이러한 센서들에는 결함이 많아 로봇이 커튼 주변 공간을 빠뜨리거나 동일한 위치를 여러 번 청소하는 문제가 발생했다. 그 결과 청소가 꼼꼼하지 못하고 불만족스러웠다.

이듬해 아이로봇은 기존과 유사한 기본 충격 센서와 회전 센서를 활용한 1세대 룸바를 선보였다. 이 모델은 경쟁 모델보다 훨씬 저렴해서 상업적으로 성공한 최초의 로봇 청소기가 되었다.

오늘날 가장 기본적인 모델들은 여전히 비슷한 방식으로 작동하지만, 중간급 청소기의 경우 성능이 더 뛰어난 센서와 함께 방 안에서 청소기 위치를 파악하고 더 나은 청소 경로를 차트에 표시하는 동시 위치 파악 및 지도 작성 등의 탐색 기능도 갖추고 있다.

고급 디바이스의 알고리즘은 컴퓨터 비전(computer vision) 또는 라이다(lidar)를 활용하는 수준으로 발전했다. 컴퓨터 비전은 이미지 및 동영상에서 정보를 추출하도록 훈련되어 인간의 시각과 흡사하게 작동하는 인공지능의 하위 집합 기술이며, 라이다는 나사(NASA)에서 사용하는 레이저 기반 감지 기술로 현재 출시된 기술 중 가장 정확하지만 동시에 가장 비싼 항행(navigational) 기술로 알려져 있다.

컴퓨터 비전은 초고화질 카메라를 사용한다. MIT 테크놀로지 리뷰의 추산에 따르면 10개가량의 회사가 내비게이션 및 사물 인식을 위해 로봇 청소기에 전면 카메라를 설치했으며, 홈 모니터링 목적으로 카메라를 설치하는 경우도 증가하고 있다. 스트래티지 애널리틱스(Strategy Analytics)에 따르면, 시장 점유율 기준 상위 3개 로봇 청소기 제조업체인 아이로봇(시장 점유율 30%, 2002년 이후 4천만 대 이상의 기기 판매), 에코백스(Ecovacs, 시장 점유율 약 15%), 로보락(Roborock, 시장 점유율 약 15%)이 이러한 업체에 해당한다. 또한 삼성, LG, 다이슨처럼 유명한 가전 업체들도 로봇 청소기 시장에 뛰어들었다. 스트래티지 애널리틱스는 2021년에만 유럽과 미주 지역에서 약 2,340만 대의 로봇 청소기가 팔렸다고 발표했다.

아이로봇은 시작부터 컴퓨터 비전에 승부수를 던졌고, 2015년 이러한 기능이 탑재된 첫 번째 자체 디바이스인 룸바 980을 출시했다. 이 모델은 와이파이(Wi-Fi)를 이용할 수 있는 최초의 아이로봇 디바이스로 집안의 공간 정보를 지도로 작성하고 방 크기에 따라 청소 전략을 조정하며, 피해야 할 기본 장애물을 식별할 수 있는 최초의 모델이기도 했다.

아이로봇의 최고기술책임자(CTO) 크리스 존스(Chris Jones)는 컴퓨터 비전을 사용할 경우 “로봇이 다양한 정보로 가득한 주변 세계를 볼 수 있다”고 말하며, “덕분에 아이로봇의 디바이스들은 바닥 위의 전기 코드를 피하거나 소파를 인식할 수 있다”고 설명했다.

하지만 로봇 청소기에서 컴퓨터 비전이 의도한 대로 작동하려면 제조업체가 청소기의 시야에 포함될 수 있는 각종 요소를 반영하는 양질의 다양한 데이터 세트로 컴퓨터 비전을 학습시켜야 한다. 베이징에 위치한 로보락에서 선임 연구개발(R&D) 이사로 재직 중인 우 얼치(Wu Erqi)는 “다양하게 구성된 집 안 환경을 다루는 작업은 매우 까다롭다”고 평가했다. 그는 교통 시스템은 “상당히 평이한 편”이라며 무인 주행 차량 제조업체들은 “차선이나 교통 표지가 어떻게 생겼는지 알고 있다”고 설명했다. 하지만 각 가정의 내부 구조는 천차만별이다.

그는 “가구의 형태는 통일되어 있지 않고, 바닥에 무엇이 놓여있을지도 예측할 수 없다. 때에 따라 양말이 놓여있을 수도, 케이블이 놓여 있을 수도 있다”고 덧붙였다. 케이블만 하더라도 미국 케이블과 중국 케이블의 형태가 다를 수 있다.

일러스트: MATTHIEU BOUREL

MIT 테크놀로지 리뷰는 로봇 청소기 판매업체 12곳을 대상으로 인터뷰를 하거나 질문지를 송부했고, 그 결과 업체들이 학습용 데이터 수집 문제에 서로 다르게 대처하고 있다는 점을 확인했다.

아이로봇의 경우, 이미지 데이터 세트의 95% 이상을 아이로봇의 직원들 또는 (아이로봇이 공개를 거부한) 외부 데이터 공급업체에서 고용한 지원자들의 실제 집에서 제공받는다. 아이로봇의 성명서에 따르면 아이로봇이 개발한 디바이스의 사용자들은 대부분 ‘참여에 대한 보상’을 받고, 디바이스가 작동하는 동안 아이로봇이 동영상 스트림 등의 데이터를 수집하는 행위에 동의한다. 아이로봇은 이러한 보상이 구체적으로 무엇인지 밝히지는 않았으며 “데이터 수집물의 길이 및 복잡도를 기준으로” 달라진다고만 말했다.

나머지 학습 데이터는 아이로봇이 자체적으로 “단계별 데이터 수집(staged data collection)”이라고 부르는 방법을 통해 수집되며, 이 과정에서 아이로봇은 모델을 구축한 후 해당 모델을 녹화한다.

아이로봇은 일반 소비자들에게도 아이로봇 앱을 통해 학습 데이터를 자발적으로 제공할 기회를 부여하기 시작했다. 해당 앱에서는 특정한 장애물의 이미지를 선택하고 아이로봇 서버로 전송하여 아이로봇의 알고리즘을 개선할 수 있다. 아이로봇은 고객이 이러한 “사용자가 주인공이 되는” 학습에 참여할 경우, 아이로봇은 알려진 대로 일부 선택된 이미지만을 수신하며 다른 이미지는 확인할 수 없다고 말했다. 아이로봇 대표자 보스만은 이메일을 통해 아직 해당 이미지들이 알고리즘 학습에 사용된 적은 없다고 밝혔다.

이에 반해 로보락은 “내부 연구실에서 자체적으로 이미지들을 생산”하거나 “중국에 있는 외부 공급업체에 학습 목적을 위해 구체적으로 바닥에 놓인 사물들을 촬영하고 그에 대한 이미지들을 제공해달라고 요청”한다고 말했다. 한편, 고급 로봇 청소기 모델 2종을 판매하는 다이슨은 주로 “보안 관련 허가를 받은 다이슨의 연구개발 부서 내부의 가정용 테스트 담당자들”, 또는 합성되거나 AI에 의해 생성된 학습 데이터를 이용하는 두 가지 방법을 통해 데이터를 수집하며, 두 번째 방법을 따르는 경우가 점점 늘고 있다고 설명했다.

MIT 테크놀로지 리뷰가 인터뷰한 대다수의 로봇 청소기 업체들은 자체 머신러닝 알고리즘을 학습시키기 위해 고객 데이터를 사용하지 않는다고 명확히 선을 그었다. 삼성은 (데이터 어노테이션을 위해 스케일 AI를 이용하지는 않는다고 명시했지만) 데이터 수집방법에 대한 질문에 답하지 않았고, 에코백스는 학습용 데이터의 출처를 ‘기밀사항’이라고 밝혔다. LG와 보쉬(Bosch)는 아무런 응답도 하지 않았다.

“작업자들은 분명히 서로 도움을 주고받을 것이다.
규정에는 이런 행위는 금지되어 있지만, 이를 통제하기는 매우 어렵다” 

다른 데이터 수집 방법에 대한 일부 단서들은 IoT 해커 데니스 기즈를 통해 얻을 수 있다. 노스이스턴 대학교에 있는 그의 연구실에는 로봇 청소기들이 가득하며 그는 이 청소기들을 분해하여 그 안에 적용된 머신러닝 모델들을 파악했다. 여기에는 중국 선전에 비교적 최근 설립된 업체로, 경제적이며 기능이 다양한 디바이스들을 판매하는 드리미(Dreame)가 생산한 청소기들도 있었다.

기즈는 드리미 청소기에 ‘AI 서버’라고 표시된 폴더와 함께 이미지 업로드 기능들을 발견했다. 청소기 업체들은 대부분 “카메라 데이터가 클라우드 등으로 전송되는 일은 절대 없다”고 이야기한다. 하지만 기즈는 “디바이스에 접근했을 때 나는 기본적으로 그 말이 사실이 아님을 입증할 수 있었다”고 지적한다. 그는 업체들이 실제로 사진을 업로드하지 않았더라도 “[업로드 기능]은 언제나 가능하다”고 덧붙였다.

드리미에서 제조된 로봇 청소기들은 브랜드를 바꿔 다른 업체들에서 판매되기도 한다. 따라서 기즈는 다른 브랜드들도 이러한 제조 관행을 따를 여지가 있다고 주장한다.

드리미는 이용자들이 사용하는 로봇 청소기들에서 수집된 데이터에 대한 이메일 질의에 답하지 않았다. 하지만 MIT 테크놀로지 리뷰가 처음으로 접촉을 시도하고 며칠 후, 드리미는 프라이버시 수집 방법 및 다수의 펌웨어 업데이트 배포에 관한 사항을 규정한 자체 프라이버시 정책을 변경하기 시작했다.

그러나 제조업체들의 직접적인 설명이나 해킹 외에 그들의 주장을 검증할 방법이 없다면, 해당 업체들이 학습 목적으로 고객으로부터 어떤 정보를 수집하고 있는지 정확히 파악하기는 어렵다.

우리의 데이터가 지구 반대편으로 이동한 과정과 그 이유

머신러닝 알고리즘을 위한 원시 데이터(raw data)가 수집되면, 대규모 노동 수요가 발생한다. 그리고 바로 이 지점에서 데이터 어노테이션이 등장한다. 역사는 짧지만 급격한 성장을 보이고 있는 데이터 어노테이션 산업은 2030년 무렵에는 시가총액이 133억 달러에 이를 것으로 전망된다.

이 분야는 주로 무인 주행 차량에 사용되는 알고리즘 학습용 라벨링 데이터에 대한 막대한 수요를 충족하기 위해 탄생했다. 오늘날 대부분 개발도상국에서 저임금 계약직 근로자로 일하는 데이터 라벨링 작업자들은 우리가 당연하게 여기는 ‘자동화된’ 온라인 세계의 상당 부분을 움직이고 있다. 이 작업자들은 게시물들을 직접 분류하고 플래그를 표시하여 소셜 미디어 피드에서 현저하게 질이 낮은 인터넷 활동을 제외시키고, 품질이 낮은 음성을 듣고 문자로 기록해 음성 인식 소프트웨어의 품질을 높이며, 사진 및 동영상에 라벨을 붙여 로봇 청소기들이 작업 환경 안의 사물들을 인식하도록 돕는다.

지난 10년 동안 수많은 기업들이 우후죽순 생겨난 가운데, 스케일AI는 데이터 어노테이션 시장의 선도기업으로 자리 잡았다. 2016년 설립된 이 회사는 크라우드 소싱(crowdsourcing platform) 플랫폼 리모태스크(Romotasks)에서 프로젝트 또는 작업별 비용을 지불하고 빈곤국의 원격 근로자들에게 계약 건마다 일을 주는 비즈니스 모델을 수립했다.

2020년, 스케일AI의 리모태스크 플랫폼에는 프로젝트 IO(Project IO)라는 새로운 작업이 올라왔다. 데이터에는 바닥에서 약 45도 각도로 위를 향해 촬영된 이미지들이 포함되어 있었고, 전 세계 집 내부의 벽, 천장, 바닥의 모습과 이 위치에서 발생한 모든 사건들이 표시되었다. 라벨링 작업자들은 사람들의 얼굴들도 분명히 알아볼 수 있었다.

라벨링 작업자들은 페이스북, 디스코드 및 자체적으로 만든 기타 그룹에서 프로젝트 IO에 관해 논의하며 임금 체불 문제 처리나 가장 요율이 높은 작업에 대해 이야기를 나누거나 라벨링하기 어려운 사물들에 대한 도움을 요청했다.

아이로봇은 작업자들이 만든 그룹에 게시된 이후 MIT 테크놀로지 리뷰가 입수하게 된 이미지 15장의 출처가 아이로봇의 디바이스라는 점을 시인했으며, 해당 이미지들이 생성된 구체적인 일자들(2020년 6월~11월 사이)과 국가들(미국, 일본, 프랑스, 독일 및 스페인), 그리고 해당 이미지들을 만든 디바이스들의 일련번호와 함께 각 디바이스 사용자의 서명을 받은 동의서를 기록한 스프레드시트를 공유했다. (스케일AI는 15장의 이미지들 중 13장이 “2년 전 아이로봇과 함께 작업한 연구개발 프로젝트”에서 유출되었다고 인정했지만, 나머지 2장의 출처를 밝히거나 그에 대해 추가 정보를 제공하지는 않았다.)

아이로봇은 소셜 미디어 그룹에 이미지들을 공유하는 행위는 아이로봇이 스케일AI와 체결한 계약에 대한 위반이라고 말했고, 스케일AI는 이러한 이미지들을 공유한 계약직 근로자들이 스스로 계약을 위반한 것이라고 설명했다.

“가장 큰 문제는 여러분의 얼굴이 바꿀 수 없는 비밀번호와 같다는 것이다. 누군가 여러분의 얼굴에서 ‘두드러진 특징’을 녹화하면,이 특징을 이용해 사진이나 동영상 속에서 평생에 걸쳐 여러분을 찾아낼 수 있다.”

하지만 크라우드소싱 플랫폼에서 이러한 행위들을 규제하기는 쉽지 않다. 기자가 스케일AI의 경쟁업체로 비슷한 방식으로 계약직 근로자들을 통해 작업하는 하이브(Hive)의 CEO 케빈 구오(Kevion Guo)에게 데이터 라벨링 작업자들이 소셜 미디어에 콘텐츠를 공유한다는 사실을 알고 있는지 묻자, 그는 대수롭지 않다는 반응을 보이며 “이 작업자들은 서로 떨어진 곳에서 일한다. 이들은 분명히 서로 도움을 주고받을 것이다. 규정 상에는 언제나 이런 행위가 금지되어 있지만, 이를 통제하기는 매우 어렵다”고 답했다.

이는 특정 업무를 맡을지에 대한 결정이 서비스 공급자들에게 달려있음을 의미한다. 구오는 하이브의 경우 민감한 데이터를 효과적으로 보호하기 위해 “현재 노동자들에 대한 적절한 통제 수단을 갖추고 있지는 않다고 판단한다”고 말했다. 그는 하이브가 어떤 로봇 청소기 업체와도 작업하고 있지 않다고 덧붙였다.

프린스턴 대학교(Princeton University)의 시각 인공지능 연구실(Visual AI Lab)에서 수석 연구원으로 일하며 AI4All 그룹을 공동 창립하기도 한 올가 루사코브스키(Olga Russakovsky)는 “개인적으로 그 이미지들이 크라우드소싱 플랫폼에서 공유되었다는 사실이 꽤 놀랍다”고 밝혔다. 그녀는 라벨링 작업을 사내에서 수행하도록 하여 “사람들이 엄격한 기밀유지 계약서(NDA)를 체결하고”, “회사 컴퓨터에서” 작업하도록 한다면 데이터를 훨씬 더 안전하게 유지할 수 있다고 지적했다.

즉, 멀리 떨어진 곳에 있는 데이터 어노테이션 작업자들을 이용하는 방식은 분명히 데이터를 보호할 수 있는 안전한 방법이 아니다. 스탠퍼드 대학교(Stanford University)에서 컴퓨터 비전을 연구하는 박사 과정 학생 피트 워든(Pete Warden)은 “고객으로부터 받은 데이터는 일반적으로 접근 차단 기능이 있는 데이터베이스에 보관된다”고 말했다. 그러나 머신러닝 학습이 이뤄지는 경우에는 고객 데이터가 모두 ‘대규모 묶음’으로 결합되어 접근할 수 있는 ‘사람들의 범위’가 넓어지게 된다.

MIT 테크놀로지 리뷰에 공유된 데이터 어노테이션 작업 과정의 스크린샷

아이로봇은 학습용 이미지의 일부만 데이터 어노테이션 파트너사와 공유하고, 민감한 정보가 담긴 이미지에 플래그를 지정하며, 민감한 정보가 감지된 경우에는 내부의 최고 프라이버시 보호 책임자에게 알린다고 주장했다. 보스만은 이런 상황을 “이례적”이라고 표현하며, 이런 일이 발생하면 “민감한 이미지 뿐만 아니라 전체 동영상 로그가 아이로봇 서버에서 삭제된다”고 덧붙였다.

아이로봇은 “나체 또는 그 일부나 성행위 등 이미지 속 사용자에게 피해가 갈 수 있는 이미지가 발견될 경우, 이러한 이미지는 해당 로그의 모든 다른 이미지와 함께 삭제된다”고 명시했다. 하지만 아이로봇은 이러한 감별 작업을 알고리즘이 자동으로 수행하는지 아니면 사람이 직접 수행하는지, 그리고 화장실에 있는 여성을 촬영한 이미지의 경우에는 왜 이런 작업이 이뤄지지 않았는지에 대해 명확한 답변을 내놓지 않았다.

그러나 아이로봇의 정책에 따르면, 얼굴은 민감한 정보로 간주되지 않으며, 이는 미성년자의 얼굴도 마찬가지다.

보스만은 프라이버시 문제를 우려하는 고객들에게 홍보한 기능처럼 로봇이 인간과 인간의 이미지를 수집하지 않도록 훈련시키기 위해서는 “먼저 로봇에게 인간이 무엇인지를 가르쳐야 한다”고 설명하며, “이런 의미에서 모델 훈련을 위해서는 먼저 인간의 데이터를 수집해야 한다”고 주장했다. 이는 이용자의 얼굴이 수집용 데이터의 일부로 포함된다는 사실을 암시한다.

하지만 텍사스 대학교(University of Texas) 알링턴 캠퍼스에서 컴퓨터 과학 교수로 재직하며 로봇 비전 연구실을 운영하는 윌리엄 벡시(William Beksi)는 알고리즘이 사람을 감지하는 데 실제 얼굴 이미지가 필요하지는 않을 수 있다고 주장한다. 인간 감지 모델들은 “인간의 윤곽(실루엣)만으로도” 인간을 인식할 수 있기 때문이다.

벡시는 “프라이버시 문제를 우려하는 대기업이라면 이러한 이미지들을 사전에 처리할 수 있다”고 말한다. 예를 들어, 해당 기업은 디바이스의 이미지들이 “어노테이션을 위해 누군가에게 전달되기 전에” 사람의 얼굴을 모자이크 처리할 수 있다.

그는 “특히 미성년자의 동영상이 촬영되는 상황은 분명 바람직하지 못한 측면이 있다”고 주장했다.

화장실에 있는 여성의 이미지에서 데이터 라벨링 작업자는 여성의 얼굴 위에 검은색 원을 덧붙이는 등 그녀의 신원을 보호하기 위해 노력했다. 그러나 사람들이 찍힌 다른 이미지들에서는 데이터 라벨링 작업자, 스케일AI 또는 아이로봇 중 그 누구도 개인의 신원을 보호하지 않았다. 이런 이미지들 가운데에는 바닥에 엎드려 있는 어린 소년의 이미지도 있다.

보스만은 아이로봇이 “이미지들에서 모든 식별 정보를 분리하여 이러한 사람들의 신원”을 보호했으며 “불순한 의도를 가진 행위자가 이미지를 손에 넣더라도 이미지 속 사람의 모습을 거꾸로 대조하여 해당 인물을 식별할 수는 없다”고 설명했다.

그러나 워든은 얼굴을 촬영하는 행위가 본질적으로 프라이버시 침해에 해당한다고 주장한다. 그는 “가장 큰 문제는 여러분의 얼굴이 바꿀 수 없는 비밀번호와 같다는 것이다. 누군가 여러분의 얼굴에서 ‘두드러진 특징’을 녹화하고 나면, 평생 이 특징을 이용해 사진이나 동영상 속에서 여러분을 찾아낼 수 있다”고 말한다.

일러스트: MATTHIEU BOUREL

또한 2013년부터 2017년까지 연방거래위원회 소비자 보호국에서 국장으로 근무하다 현재 개인정보 보호 전문 변호사로 활동 중인 제시카 리치(Jessica Rich)는 “프라이버시 부문의 입법 및 집행 담당자들은 얼굴을 포함한 생체정보를 민감한 정보로 간주할 것”이라고 지적했다. 이러한 해석은 특히 미성년자가 카메라로 촬영된 경우에 적용되며, 그녀는 “직원[또는 테스트 작업자]에게 받는 동의와 어린이에게 받는 동의는 별개다. 해당 직원에게는 사진 속 인물로 보이는 어린이는 물론이고, 다른 개인들에 대한 데이터를 수집하는 작업에 동의할 능력이 없다”고 덧붙였다. 그녀는 이 의견에서 특정 회사를 언급하고 있지는 않다고 밝혔다.

사회학자이자 컴퓨터 과학자로 일하며 다양한 지역들에서 데이터 어노테이션 회사와 계약을 맺은 작업자들을 몇 년에 걸쳐 인터뷰해 온 밀라그로스 미셀리(Milagros Miceli)는 결국 가장 큰 문제는 데이터 라벨링 작업자들이 소셜 미디어에서 이미지들을 공유했다는 사실이 아니라, 특히 이처럼 사람의 얼굴들을 표시하는 AI 훈련 세트 방식이 대부분의 사람들이 이해하는 수준보다 훨씬 더 널리 사용되고 있다는 점이라고 평가한다. 미셀리는 한 연구팀에서 유출된 이미지들과 유사하게 동일하게 낮은 각도에서 촬영되어 때로는 사람이 옷을 벗는 모습이 여러 장 찍히기도 한 이미지들을 본 여러 라벨링 작업자들을 인터뷰했다.

그녀는 데이터 라벨링 작업자들이 이런 작업을 “매우 부담스러워했다”고 덧붙였다. 

믿을 수 없겠지만, 여러분은 이미 촬영에 동의했을 수 있다

로봇 청소기 제조업체들 스스로도 디바이스 내 카메라로 인해 프라이버시 관련 위험이 커졌다는 점을 인정한다. 아이로봇의 최고기술책임자(CTO) 존스는 “컴퓨터 비전에 투자하기로 했다면 프라이버시 보호와 보안에 매우 신경 써야 한다. 소비자에게 제품과 이점을 제공하는 동시에, 프라이버시 보호와 보안을 최우선 과제로 삼아야 한다”고 말했다.

실제로 아이로봇은 암호화 기능 사용, 정기적인 보안 취약점 해소 등 고객 디바이스들을 대상으로 다양한 프라이버시 보호 및 보안 보호 조치를 시행하여 정보에 대한 내부 직원의 접근을 제한하고 감시했으며, 아이로봇이 수집한 데이터에 대한 상세 정보를 고객들에게 제공했다고 MIT 테크놀로지 리뷰에 밝혔다.

하지만 기술 업체들이 말하는 프라이버시 보호의 수준과 소비자들이 이해하는 프라이버시 보호의 수준 간에는 상당한 차이가 있다.

예를 들어, 프라이버시 보호와 보안 관점에서 소비자용 디바이스를 검토하는 모질라(Mozilla)의 수석 연구원 젠 칼트라이더(Jen Caltrider)는 프라이버시와 보안을 혼동하기 쉽다고 말한다.

데이터 보안은 제품의 물리적/사이버 보안이나 해킹 또는 침입에 대한 취약성 정도를 나타내는 반면, 데이터 프라이버시에서는 기업들이 보유한 데이터, 해당 데이터가 사용되는 방법, 공유되는 이유, 해당 데이터의 보존 여부 및 보존 기간, 회사가 처음에 수집하는 데이터의 양을 파악하고 이러한 정보들을 관리할 수 있는 능력을 의미하는 투명성(transparency)이 가장 중요하다.

칼트라이더는 자신이 2017년에 제품 추적을 시작한 이후로 “보안은 계속 개선되었지만, 프라이버시 보호 수준은 크게 악화되었기 때문에”, 기업들에게는 두 가지 개념을 혼용되는 상황이 유리하다고 덧붙였다. 그녀는 “현재 디바이스들과 앱들은 훨씬 더 많은 프라이버시를 수집한다”고 말한다.

회사 대표들은 때에 따라 데이터 “공유”와 데이터 판매 사이의 구분처럼 미묘한 차이를 이용하여, 일반인들이 회사가 프라이버시를 처리하는 방법을 매우 이해하기 어렵게 만든다. 어떤 회사에서 여러분의 데이터를 절대 판매하지 않겠다고 말한다고 해서, 해당 회사가 분석 목적으로 데이터를 사용하거나 다른 사람들과 공유하지 않는다는 의미는 아니다.

데이터 수집에 대한 포괄적인 정의는 많은 경우 업체들이 모호하게 규정한 프라이버시 처리 정책 상에 흔하게 존재하며, 거의 모든 업체가 ‘제품 및 서비스 개선’을 위한 데이터 사용이 허용된다는 일부 문구를 포함하고 있다. 리치는 이러한 문구가 “사실상 모든 경우를 허용”할 정도로 포괄적이라고 말한다.

“전통적으로 개발자들은 보안과 같은 개념에 대해 잘 알지 못한다.” 개발자들은 “기능을 구현하기 위해 노력하고, 기능이 작동하면 제품을 배송한다”는 식의 태도를 가지고 있고, “그러다 결국 사고가 터졌다.”

실제로, MIT 테크놀로지 리뷰는 로봇 청소기 12대의 프라이버시 정책을 검토했는데 아이로봇의 정책을 포함해 모든 정책에 ‘제품 및 서비스 개선’에 관한 유사한 문구가 포함되어 있었다. MIT 테크놀로지 리뷰가 의견을 요청한 대부분의 업체들은 ‘제품 개선 활동’에 머신러닝 알고리즘이 포함되는지에 관한 질문에 대해 답하지 않았다. 반면 로보락과 아이로봇은 그렇다고 답했다.

브룩맨은 미국에는 데이터 프라이버시에 관해 통합적으로 규율하는 법률이 존재하지 않기 때문에, 캘리포니아주 소비자 프라이버시법(California Consumer Privacy Act)처럼 주마다 각기 다른 주법(state law)를 따르는 대신, 이러한 프라이버시 정책이 기업들의 법적 책임을 규율한다고 말한다. “다수의 프라이버시 정책에는 ‘당사는 일부 파트너사 또는 서비스 공급자들과 귀하의 데이터를 공유할 수 있는 권리를 보유한다”고 적혀 있을 것이라고 말한다. 이는 소비자들이 자신들이 잘 알고 있는 업체인지 여부와 관계없이 자신들의 데이터를 또 다른 회사들과 공유하는 데 동의할 가능성이 높음을 의미한다.

브룩맨은 기업이 소비자들에게 직접 데이터를 수집하는 행위를 막는 법적 장벽이 상당히 낮다고 설명한다. 미국 연방거래위원회 또는 주 정부의 법무부 장관들(state attorneys general)은 ‘불공정’하거나 ‘기만적인’ 관행이 발견되면 개입할 수 있지만, 이러한 관행은 기업이 프라이버시 정책에서 구체적으로 “당사는 계약업체들이 귀하의 데이터를 보도록 허용하지 않는다”고 규정한 후, 어떤 식으로든 해당 데이터를 공유하는 경우를 제외하고는 제한적으로만 인정된다. 브룩맨은 연방거래위원회가 “그동안 프라이버시 보호 관련 규정을 집행”한 “주된 근거인 기만성 측면에서는 기업들에 별문제가 없을 것”이라고 말했다. 한편, 어떠한 관행의 불공정성을 입증하기 위해서는 피해 입증 등 추가적인 책임을 부담해야 한다. 브룩맨은 “실제로 법원이 불공정성을 인정한 판례는 없다”고 덧붙였다.

대다수 회사들의 프라이버시 정책에서는 몇몇 예외를 제외하고 촬영되는 시청각 데이터에 대해 언급조차 하지 않는다. 아이로봇의 프라이버시 정책은 개인이 아이로봇의 모바일 앱을 통해 이미지를 공유하는 경우에만 시청각 데이터를 수집한다고 규정한다. 카메라 및 인공지능을 이용하는 홈-봇 터보+(Hom-Bot Turbo+)에 대한 LG의 프라이버시 정책은 해당 앱에서 ‘청각적, 전자적, 시각적 정보 또는 프로필 사진, 음성 녹음 및 동영상 녹화 등 유사한 정보’를 포함한 시청각 데이터를 수집한다고 설명한다. 라이다와 파워봇(Powerbot) R7070(두 가지 부품 모두에 카메라 있음)이 탑재된 삼성의 제트 봇(Jet Bot) AI+ 로봇 청소기의 프라이버시 정책에 따르면 ‘사진, 연락처, 텍스트 로그, 터치 상호 작용, 설정 및 일정 정보처럼 디바이스에 저장하는 정보’와 ‘음성 명령을 사용하여 서비스를 제어하거나 고객 서비스 팀에 문의할 때 사용하는 음성의 녹음’이 수집된다. 한편, 로보락의 프라이버시 정책은 시청각 데이터에 대해 전혀 언급하지 않지만, 로보락의 대표들은 중국에 있는 소비자들이 해당 데이터를 공유할 수 있는 선택권을 갖는다고 MIT 테크놀로지 리뷰에 전했다.

현재 정원 제초 로봇을 판매하는 스타트업 테르틸(Tertill)을 운영하는 아이로봇의 공동 창업자 헬렌 그레이너(Helen Greiner)는 기업들이 이 모든 데이터를 수집하는 과정에서 의도적으로 고객들의 프라이버시를 침해하지는 않다고 강조한다. 그녀는 기업들이 더 나은 제품 개발, 또는 아이로봇의 경우에는 “더 만족스러운 청소”를 위해 애쓰고 있을 뿐이라고 말한다.

하지만 아이로봇과 같은 기업들이 최선을 다하고 있음에도 불구하고 프라이버시 보호에는 분명히 허점이 존재한다. IoT 해커인 기즈는 “악의라기보다는 능력 부족의 문제에 가깝다”고 말한다. “전통적으로 개발자들은 보안과 같은 개념에 대해 잘 알지 못한다.” 개발자들은 “기능을 구현하기 위해 노력하고, 기능이 작동하면 제품을 배송한다”는 식의 태도를 가지고 있다.

기즈는 “그러다 결국 사고가 터졌다”고 덧붙인다.

로봇 혁명은 이제 막 시작됐을 뿐

데이터에 대한 수요는 앞으로 몇 년 동안 계속 증가할 것이다. 청소기는 우리의 삶 전반에서 확산되고 있는 커넥티드 디바이스(connected device) 중 극히 일부에 불과하며, 아이로봇, 삼성, 로보락 및 다이슨을 포함한 로봇 청소기 대표업체들은 자동 바닥 청소보다 훨씬 더 원대한 목표를 공식적으로 발표하고 있다. 가정용 로봇 공학을 포함한 로봇 공학 분야는 오랫동안 많은 혜택을 누렸다.

2018년 당시 아이로봇의 기술 부문 수석 부사장이었던 마리오 무니치(Mario Munich)가 회사의 목표를 어떻게 설명했는지 돌이켜보자. 아이로봇이 최초로 개발한 컴퓨터 비전 청소기 룸바 980 프레젠테이션에서 그는 탁자, 의자 및 스툴이 있는 부엌 사진 한 장을 포함하여 디바이스의 낮은 지점에서 촬영한 이미지들과 이미지들이 로봇의 알고리즘에 의해 라벨링되고 인식되는 방법을 소개했다. 무니치는 “문제는 청소기가 아니다. 관건은 로봇이다. 아이로봇은 로봇의 작동 방식을 변경할 수 있도록 환경을 이해하려고 한다”고 설명했다.

무니치의 발표로 스케일 AI의 데이터 어노테이션 작업자들은 한층 더 까다로운 업무를 맡게 되었다. 로봇이 피해야 할 바닥 위의 물품(아이로봇이 홍보하는 기능)이 아니라 ‘캐비닛’, ‘주방 조리대’ 및 ‘선반’과 같은 물품들을 라벨링하는 작업이 문제였다. 룸바 J 시리즈 디바이스가 작업 공간 전체를 인식하기 위해서는 두 가지 정보가 모두 필요하다.

로봇 청소기 제조업체들은 이미 로봇 공학에 기반한 미래를 보다 빨리 실현하기 위해 다른 기능들과 디바이스들에 투자하고 있다. 룸바의 최신 모델은 네스트(Nest) 및 알렉사(Alexa)를 통해 음성으로 제어할 수 있으며 가정 곳곳에 있는 80개가 넘는 다양한 사물들을 인식한다. 한편, 에코백스의 디봇(Deebot) X1 로봇 청소기에는 에코백스의 특허받은 음성 지원 기능이 탑재되었으며, 삼성은 사람과 소통하는 ‘동반자 로봇’을 개발하는 여러 회사 중 하나다. RX2 스카우트 홈 비전(RX2 Scout Home Vision)을 판매하는 밀레(Miele)는 카메라 기반 스마트 오븐과 같은 다른 스마트 디바이스에 집중하기 시작했다.

또한 17억 달러에 이르는 아마존의 아이로봇 인수가 완료될 경우(현재 이 거래는 연방거래위원회의 승인을 기다리고 있으며, 해당 위원회는 합병이 스마트 홈 시장 경쟁에 미치는 영향을 검토하고 있다.), 룸바는 미래의 상시 작동 스마트 홈을 구현하려는 아마존의 비전을 위해 더욱 적극적으로 활용될 것이다.

물론, 공공 정책 부문에서도 데이터 프라이버시에 대한 대중의 관심 증가를 반영하기 시작했다. 2018년부터 2022년 사이에 캘리포니아 소비자 프라이버시법 및 일리노이 생체인식 정보 프라이버시 보호법(Illinois Biometric Information Privacy Act)처럼 프라이버시 보호 조치를 고려하고 통과시키는 주가 눈에 띄게 늘었다. 연방 정부 수준에서 연방거래위원회는 새로운 규칙을 마련하여 학습용 데이터에 사용되는 경우를 포함하여 유해한 상업용 감시 데이터 및 느슨한 데이터 보안 관행을 단속하는 방안을 고려하고 있다. 연방거래위원회는 두 건의 사례에서 인공지능 훈련을 위해 비밀리에 고객 데이터를 사용한 행위에 대해 조치를 취했으며, 그 결과 웨이트 워처스 인터내셔널(Weight Watchers International)과 사진 앱 개발업체 에버앨범(Everalbum)은 수집된 데이터와 이를 바탕으로 제작된 알고리즘을 모두 삭제했다.

그러나 이러한 단편적인 노력들만으로는 성장하는 데이터 어노테이션 시장과 전 세계에 위치한 기업들 또는 대부분 데이터 보호에 대한 법적 규제가 매우 불완전한 국가에서 거의 어떠한 감독도 없이 작업하는 글로벌 긱 워커들과 계약을 체결하는 기업들이 늘고 있는 현실에 대처하기 어렵다.

내가 올여름 진행한 인터뷰에서 그레이너는 프라이버시 보호와 관련해 아이로봇이 시사하는 우려사항에 대해 개인적으로 걱정이 되지 않지만 일부 소비자들이 다르게 반응하는 이유는 이해한다고 말했다. 그녀는 프라이버시를 소비자 선택의 관점에서 이해하며 프라이버시 보호 문제가 심각하게 우려되는 사람이라면 디바이스를 구입하지 않으면 된다고 주장한다.

그녀는 “누구나 자신의 프라이버시에 대해 스스로 결정을 내려야 한다”고 말하며, “어떤 기능이 비용 효율적인 가격으로 제공되기만 한다면 압도적으로 많은 사람들이 해당 기능을 구입하는 결정을 내릴 것이라고 확신한다”고 덧붙였다.

그러나 모든 사람이 이러한 접근 방식에 동의하지는 않는다. 그 이유 중 하나는 소비자가 충분히 정보에 입각한 선택을 하기가 너무 어렵기 때문이다. 메릴랜드 대학교의 정보 과학자 비탁은 동의의 형태가 서명을 받기 위한 ‘종이 한 장’이나 가볍게 훑어보는 프라이버시 정책 이상이 되어야 한다고 말한다.

비탁은 진정한 정보에 입각한 동의란 “해당 사용자가 절차를 완전히 이해하고, 그 안에 포함된 위험들과… 그러한 위험이 해소되는 방식, 그리고 자신이 보유한 권리가 무엇인지를 정확히 인지하는 행위”를 의미한다고 설명한다. 그러나 이러한 종합적인 동의는 거의 찾아보기 힘들며, 특히 기업들이 클릭 한 번으로 깨끗한 바닥을 약속하는 사랑스러운 로봇 도우미를 판매하는 상황에서는 더욱 어려울 것이다.

미리보기 2회1회

MIT Technology Review 구독을 시작하시면 모든 기사를 제한 없이 이용할 수 있습니다.