인공지능
I Was There When: Facebook put profits over safety

허위 정보 유포 참을 수 없었던 페이스북 내부고발자 소피 장

페이스북을 퇴사하면서 회사 내의 가짜 계정들이 허위 정보를 퍼뜨리며 여러 국가에서 정치적 혼란을 초래하고 있다는 사실을 알렸던 ‘소피 장’이 MIT 테크놀로지 팟캐스트에 출연했다.

지난 10월 월스트리트저널(Wall Street Journal)이 보도한 페이스북 파일(Facebook Files)의 주요 제보자가 미 방송사 CBS의 시사 프로그램 ’60분(60 Minutes)’에서 정체를 드러냈다. 페이스북의 전임 프로덕트 매니저였던 프랜시스 하우겐(Frances Haugen)이었다. 하우겐은 방송에서 페이스북 경영진이 계속해서 안전보다 이익만을 우선시하는 태도를 보이자 직접 나서게 되었다고 밝혔다. 하우겐은 이후 페이스북에 근무하면서 자신이 알아낸 것들에 대해 미국과 영국 국회의원들 앞에서 증언하기도 했다.

그러나 페이스북이 자사의 알고리즘으로 인한 심각한 문제 해결에 전혀 의지를 내보이지 않는 것에 대해 경고하려고 나선 내부고발자가 하우겐만 있었던 건 아니다. 2020년 우리는 페이스북에 데이터과학자로 고용됐던 소피 장(Sophie Zhang)에 대해 알게 되었다. 그녀는 페이스북을 나오면서 8,000자에 달하는 퇴사 메모를 통해 한국, 인도, 멕시코, 아프가니스탄 등 수십여 개 나라에서 정치인들이 가짜 계정으로 ‘좋아요’ 수를 조작하면서 대중에게 허위 정보를 퍼뜨리고 권력을 얻고 있다는 사실을 알아냈다고 폭로했다. 또한 그녀가 계속해서 경영진에 이 문제에 관해 알렸는데도 페이스북에서는 아무 조치도 취하지 않았다는 내용도 폭로했다.

MIT 테크놀로지 리뷰는 지난 8월 소피 장에 대한 기사를 이미 다룬 바 있다.

MIT 테크놀로지 리뷰의 <In Machine We Trust> 팟캐스트가 준비한 새로운 구두 역사 프로젝트 ‘그때 내가 그곳에 있었다(I Was There When)’ 최신 에피소드에서는 소피 장을 만나 그녀가 했던 페이스북에 대한 폭로에 관해 더 자세한 이야기를 들어봤다.

크레딧

이 에피소드는 제니퍼 스트롱(Jennifer Strong), 앤서니 그린(Anthony Green), 에마 실러켄스(Emma Cillekens)가 제작을 맡았고, 마이클 라일리(Michael Reilly)와 맷 호넌(Mat Honan)이 편집했으며, 제이콥 고스키(Jacob Gorski)가 사운드 디자인 및 음악, 개럿 랭(Garret Lang)이 믹싱을 담당했다.

전체 스크립트:

(녹음된 목소리) 프랜시스 하우겐: 페이스북에 근무할 당시 끔찍한 진실을 깨닫게 되었습니다. 페이스북 외부에 있는 사람들 거의 대부분은 페이스북 안에서 어떤 일이 벌어지고 있는지 모릅니다.

제니퍼: 프랜시스 하우겐은 페이스북의 전임 프로덕트 매니저였죠. 하우겐은 페이스북 경영진이 계속해서 안전보다 이익만을 중시해왔다고 주장하며 연방 법집행기관에 페이스북을 제소하기도 했습니다.

(녹음된 목소리) 프랜시스 하우겐: 페이스북은 대중, 미국 정부, 그리고 전 세계 정부로부터 중요한 정보를 의도적으로 감추고 있습니다.

제니퍼: 하우겐은 퇴사 전에 모아 놓은 귀중한 기밀 자료들을 공개하며 제소했는데요. 페이스북이 의도적으로 플랫폼의 문제를 방치했음을 보여주기 위해서였죠.

그녀가 폭로한 자료 중에는 페이스북 뉴스피드에 사용되는 알고리즘이 혐오를 조장하고 허위 정보를 퍼뜨렸으며 정치적 불안을 가중시켰다는 내용도 담겨 있습니다.

그런데 자사 플랫폼에 허위 정보가 범람하는 것을 페이스북이 못 본 체 했다고 고발한 내부고발자가 하우겐뿐만은 아니었습니다.

또 한 명의 내부고발자, ‘소피 장’은 해고될 때까지 페이스북에서 데이터과학자로 일하면서 전 세계 선거 여론을 조작하는 데 사용된 가짜 계정과 코멘트, ‘좋아요’ 수 조작 문제를 찾아내고 추적했습니다. 장이 퇴사하면서 남긴 메모는 무려 8,000자에 달했죠. 메모를 통해 그녀는 페이스북이 이 문제에 관해 거의 어떤 대응도 하지 않았다는 사실을 폭로했습니다.

저는 제니퍼 스트롱이고, 이 방송은 ‘그때 내가 그곳에 있었다’입니다.

이 팟캐스트는 인공지능과 컴퓨팅 분야의 중요한 사건들이 어떻게 벌어졌는지 이야기를 들려주는 역사 프로젝트입니다. 직접 그 사건을 목격한 목격자의 이야기를 듣는 방송이죠.

소피 장: 안녕하세요, 저는 소피 장입니다. 페이스북에서 저는 데이터 과학자였고 ‘허위 참여 활동 팀(fake engagement team)’에서 일하고 있었습니다. 여기서 ‘허위’란 예를 들어 가짜 계정이나 해킹된 계정을 말하는 것이고, ‘참여 활동’이란 ‘좋아요’를 누르거나 ‘코멘트’를 남기고 ‘공유’하는 등의 활동을 말합니다. 회사에서 일하면서 남는 시간에 저는 정치 활동을 하는 가짜 계정들을 찾기 시작했어요. 아주 교묘하게 위장한 허위 정치 활동들을 찾아내곤 했죠. 이런 것들도 ‘허위 참여 활동’에 포함된다고 주장할 수도 있었겠지만, 사실 그건 제가 기대했던 제 업무가 아니었어요.

그러다가 저는 허위 참여 활동과 시민 활동 사이의 교차점을 조사하기 시작했고, 곧 전 세계에서 결과를 발견할 수 있었어요. 저는 이런 결과를 브라질, 인도, 인도네시아, 온두라스 등 많은 국가에서 발견했고, 특히 온두라스에서는 국가 규모에 비해 상당히 많은 활동을 찾아냈죠. 그러고 나서 이 문제를 경영진에 알리기 위해 보고서를 작성하는 과정에서 저는 온두라스에서 이 문제로 가장 큰 이익을 얻은 후안 올란도 에르난데스(Juan Orlando Hernández)의 페이지를 캡처하려고 했어요. 그런데 알고 보니 그가 온두라스의 대통령이었죠.

저는 그의 페이지에서 갑자기 활동이 멈춘 시점에 스크린샷을 찍으려고 했어요. 뭔가 매우 이상한 점을 발견했기 때문이었죠. 그의 페이지에 ‘좋아요’를 누르고 코멘트를 달았던 많은 계정들이 사람이 아니었던 거예요. 그것들은 대부분 ‘이용자’인 척하는 가짜 페이지들이었어요. 여기서 잠깐 멈춰서, 페이지(page)는 무엇이며, 이용자(user)는 무엇일까요? ‘페이지’란 공적인 인물이나 공공 기관 등을 위한 페이스북의 기능입니다. 예를 들어 MIT 테크놀로지 리뷰도 페이스북 페이지를 가지고 있죠. 그런데 MIT 테크놀로지 리뷰는 사람이 아니니까 실제로 그 페이지는 페이스북의 다른 누군가가 운영하고 있는 거죠.

페이스북 페이지의 의도는 어떤 공적인 단체를 대표하는 것이고, 이용자 한 사람이 여러 페이지를 관리할 수 있어요. 예를 들어, 같은 관리자가 ‘CNN’ 페이지와 ‘CNN 필리핀’, ‘CNN 유럽’ 등을 전부 운영할 수도 있는 거죠. 그런데 이용자 한 명이 수백 개의 페이지를 만들어서 실존 인물인 것처럼 각 페이지마다 다른 이름과 프로필 사진을 사용하고 행동한다고 해도 막을 방법이 없어요. 사실 이렇게 여러 페이지를 운영하는 건 상당히 쉬운 일이기도 합니다. 매번 로그인이나 로그아웃할 필요도 없이 간단하게 페이지를 전환할 수 있거든요.

이용자인 척하는 이런 가짜 페이지들을 알아채자마자 저는 온두라스에 이런 페이지가 수천 개나 있다는 사실을 알게 됐어요. 그리고 그런 페이지 중 수백 개는 온두라스 대통령의 페이스북 페이지 관리자가 개인적으로 운영하고 있었죠. 그 운영자는 온두라스 정부의 소셜 미디어에 상당한 신뢰를 가진 인물인 것이 분명했어요. 게다가 시민들을 속이기 위해서 수천 개의 가짜 계정을 사용하고 있다는 사실을 굳이 숨기지도 않았죠.

그래서 처음에 저는 굉장히 순진하게 생각했어요. 저는 그냥, ‘그래. 내가 이걸 발견했어. 이 사람들이 멍청하니까 우리가 잡아낸 거야. 이제 정보를 다른 사람들에게 넘기면 그들이 알아서 처리해 줄 거고, 나는 내 본래 업무로 돌아갈 수 있겠지. 다 잘 된 거야’라고 생각했어요. 그런데 생각과 달리 그 이후로 2년 동안 끝없는 시련이 시작됐어요. 제가 이 문제를 공개했을 때 모든 사람들은 이 문제가 너무 끔찍한 일이라는 점에 동의했어요. 그 점에는 논란의 여지가 없었죠. 모두가 이런 일을 용납할 수 없다고 했어요. 그런데 문제는 ‘우리가 무엇을 해야 하는가? 우리에게 이 일에 대해 조치를 취할 능력이 있는가? 우리 회사의 정책 중에 여기에 대응할만한 내용이 있는가?’ 같은 것들이었죠. 

처음에 저는 문제를 이해하는 것처럼 보이는 모든 사람들에게 이 일을 알렸어요. 페이지 무결성(Pages Integrity) 팀과 그룹 무결성(Groups Integrity) 팀에도 알렸고, 시민 무결성(civic integrity) 팀에도 이야기했어요. 위협 인텔리전스(threat intelligence) 팀의 흥미를 끌어보려고도 했어요. 제 말을 들어줄 것 같은 모든 사람들에게 말하고 있었던 거죠. 경영진도 예외는 아니었고, 가이 로젠(Guy Rosen) 부사장에게도 말했어요. 하지만 제 말은 아무 소용도 없었어요. 결국 저는 결과를 얻으려면 올바른 경로를 통해 소통을 시도하는 것이 아니라 페이스북의 온라인 업무 공간인 ‘워크플레이스(Workplace)’에서 공론화하는 것이 더 낫다고 판단했어요. 그래서 회사 내 모든 직원들이 볼 수 있도록 워크플레이스에 이 문제에 관한 포스트를 작성했죠. 물론 많은 사람들이 같이 분노해줬어요. 회사의 그런 태도는 우리가 몸담고 있고, 일하고 싶었던 기업인 페이스북이 보여줄 만한 태도가 아니었으니까요. 그 포스트 덕분이었는지 다른 방법 덕분이었는지 잘 모르겠지만, 결국 페이스북은 온두라스 정부가 운영하는 페이지를 강제로 폐쇄했고, 이 일은 국제적인 뉴스가 되었죠.

하지만 몇 주 후에, 온두라스 정부 페이지 운영자가 다른 방법을 찾아서 다시 나타났어요. 우리가 온두라스 페이지를 폐쇄했을 때도 저는 여전히 순진하게, 이상적으로만 생각했어요. 저는 ‘이전에는 우리에게 선례가 없어서 다들 어떻게 해야 할지 모르겠다고 했었지만, 이제는 선례가 있어. 이제 우리는 이런 식으로 선례를 만들었다고 이야기하겠지. 다들 그 방법으로 문제를 해결할 수 있을 거라고 할 거야’라고 생각했어요. 그래서 이 일 이후에 저는 모든 사람들에게 제가 발견한 것을 전송하면 그들이 알아서 처리해줄 거라고 믿었죠. 그런데 그들은 문제를 처리해주지 않았어요. 제가 정상적인 경로로 문제를 보고하면, 페이스북 측은 보고 내용을 무시하고 삭제해버렸어요.

2019년 하반기에 저는 아프가니스탄에서 알바니아, 브라질에서 볼리비아, 인도에서 인도네시아까지 ‘허위 정치 활동’ 네트워크 수십 개를 찾아서 표시했어요. 그리고 실제로 결과를 얻고 사람들이 실제로 반응하게 할 좋은 방법을 알아내느라 시간이 조금 걸렸죠. 그런 허위 정치 활동이 정치인이나 유명인사와 관련되어 있는지 여부가 중요했어요. 정치인과 관련된 페이지의 경우 중단시키기가 훨씬 더 어려웠거든요. 이제 숫자 하나를 드릴게요. 아제르바이잔은 전 세계 인구의 3% 이하를 차지해요. 상당히 적은 인구죠. 그런데 이곳의 네트워크에서는 매달 거의 백만 개에 달하는 코멘트를 만들어내고 있었어요. 매달 백만 개 코멘트면 전 세계 모든 페이스북 페이지 포스트에 달리는 모든 코멘트 수의 3% 정도를 차지하는 수준이었죠.

하지만 제가 아제르바이잔 정부의 가짜 계정 사용을 파악했을 때도 페이지 운영이 중단되기까지는 1년 이상이 걸렸어요. 저는 아제르바이잔 정부가 반대파를 괴롭히기 위해 사람들을 고용해서 거대한 ‘댓글부대’를 만들었다는 사실을 발견했어요. 분명히 매우 옳지 않은 행위였죠. 분명 아제르바이잔 정부와 연관된 일이었어요. 규모도 엄청났고요. 그렇지만 제가 그 페이지를 중단시켰을 때, 페이스북 어딘가에서는 갑자기 특별한 이유도 없이 이용자 숫자가 크게 감소한 것에 대해 언짢아했던 팀이 있었을 거라고 확신해요. 제가 페이지를 발견하고 중단시킬 때까지 그사이에 아제르바이잔은 반대파를 탄압하고, 반대파 인사들을 체포했으며, 아르메니아와 전쟁을 시작했죠.

이 문제를 맡으면서 저는 점점 더 스트레스를 받기 시작했어요. 개인적으로는 페이지를 찾아내서 중단시키는 것이 어떤 결과를 가져오는지 알기가 어려웠거든요. 하지만 제가 하고 있는 일이 자국 내 상황이 불안한 국가에서 벌이는 여론 조작 활동들과 관련되어 있다는 것은 곧 분명해졌어요. 그리고 저는 무엇이 중요한지에 대해 개인적인 결정을 내려야 하는 사람이었죠. 어떤 문제를 더 깊이 파고들지, 어떤 일에 우선순위를 둘지, 어디에 관심을 끌어올지와 같은 일들은 기본적으로 전부 제 선택에 달려있었어요. 저는 볼리비아가 객관적으로 매우 작고 그다지 특별한 나라가 아니었기 때문에 볼리비아에 우선순위를 두지 않기로 결정했어요. 그런데 볼리비아 선거 이후에 엄청난 시위가 벌어졌고, 결국 그 시위가 쿠데타 또는 민중 봉기라고 할 정도로 커져서 볼리비아 정부가 무너지는 사건이 벌어졌어요. 저는 사실 그런 중요한 일을 저 혼자 결정할 수 없다고 생각했지만, 저를 대신해서 나서는 사람이 없었어요. 그래서 혼자 결정하기로 했던 거죠. 저를 이런 상황으로 몰아넣은 것도 저 자신이었고,, 무엇이 중요한지 결정한 것도 저였어요. 하지만 저는 확실히 하고 싶어요. 항상 제가 발견한 것들을 정리해서 실제로 페이지를 중지시키는 일을 담당했던 다른 사람들이 있었어요.

저는 처음부터 제 역할을 ‘고발자’로 정해놓고, 판사나 배심원, 사형 집행인이 되지 않으려고 최선을 다했어요. 제가 이미 너무 많은 권한을 쥐고 있었기 때문이었죠. 저는 ‘알바니아가 아제르바이잔보다 중요한가?’ 같은 문제를 결정할 수 있는 사람은 없다고 생각해요. 다만 알바니아의 여론 조작도 심각했지만, 제가 아제르바이잔과 관련해서 발견한 문제들이 크기와 규모 면에서 객관적으로 훨씬 심각했어요. 그리고 저는 제가 한 번에 한 가지 일만 집중해서 천천히 처리해야 하는 사람이라는 것을 알고 있었죠. 그래서 아제르바이잔에만 집중하기로 했던 거였어요. 알바니아에서는 여전히 같은 일이 벌어지고 있죠. 알바니아에서 올해 초에 총선이 있었는데, 당시에도 가짜 계정을 사용한 정보 조작이 계속해서 이루어지고 있었어요. 결국 제가 처음 알바니아의 여론 조작을 발견하고 2년이 지나도록 페이스북은 아무런 조치도 취하지 않았던 거죠. 

제가 할 수 있는 건 알바니아 사람들에게 사과하는 것뿐이에요. 알바니아와 아제르바이잔 중에 어디가 더 중요한지 선택해야 하는 위치에 제가 있었던 것이 잘못이에요. 아제르바이잔에서 발견했던 문제가 객관적으로 봤을 때 더 심각했기 때문에 저는 제 결정이 옳았다고 생각하기는 하지만, 그래도 이런 중요한 문제를 한 사람이 결정해서는 안된다고 생각해요. 페이스북이 ‘무결점’ 분야에서 자원이 부족하다는 뉴스 보도가 계속 많았죠. 하지만 저는 페이스북이 광고 마케팅 부분에서 자원이 부족하다며 불평하는 뉴스는 본 적이 없어요. 저는 그 점이 페이스북의 우선순위를 말해주는 것이라고 생각합니다.

제가 가장 어렵다고 생각했던 것은 특정 독재 국가들과 관련된 문제들이었어요. 민주주의를 반대하는 독재 국가들은 여러 여론 조작 전략들을 통해 이익을 보고 있었죠. 그들에 대해 생각을 많이 했어요. 그렇지만 여전히 저는 망설임 없이 그 페이지들을 내릴 거예요. 저는 민주주의와 법이라는 규칙에 대해 강한 믿음이 있으니까요. 근본적으로 민주주의는 거짓말 위에 설 수 없어요.

어떤 일이 일어나야 한다고 생각하느냐는 물음은 대답하기 어려운 질문이에요. 마치 하늘을 어떤 색으로든 만들 수 있다면 어떤 색으로 만들 것인지 묻는 것이나 다름없기 때문입니다. 거의 이론적인 질문이고, 그 답변은 실제 세상에 어떤 실질적인 결과도 가져오지 않을 것이니까요.

사람들이 하룻밤 만에 하늘을 핑크색으로 바꿀 수 없는 것처럼 저는 마크 저커버그의 마음을 바꿀 수 없어요. 그의 마음을 돌리는 일은 제 이야기를 듣는 여러분에게 달려있고, 여러분 같은 사람들에게 달려있어요. 저 혼자서는 아무것도 바꿀 수 없어요. 저는 다른 사람들이 저에게 부여한 만큼의 힘만을 갖고 있을 뿐입니다. 이건 사회, 민주주의, 시민 담론 전체가 감당해야 하는 문제입니다. 필립 모리스가 중독성 없는 담배를 개발할 거라고 기대할 수 없는 것처럼, 페이스북이 아무런 이익도 없이 스스로 문제를 해결하리라고 기대할 수도 없을 것입니다.

제니퍼: ‘그때 나는 그곳에 있었다’는 인공지능이나 컴퓨팅 분야에서 돌파구를 목격했거나 만들어낸 사람들의 이야기를 들려주는 역사 프로젝트입니다. 이 에피소드는 앤서니 그린, 에마 실러켄스의 도움으로 제작되었고요, 니얼 퍼스와 맷 호넌의 편집, 가렛 랭의 믹싱, 제이콥 고스키의 음악으로 만들어졌습니다. 경청해주셔서 감사합니다. 제니퍼 스트롱이었습니다.