How aspiring influencers are forced to fight the algorithm

‘인플루언서’를 꿈꾸는 이들은 어떻게 알고리즘에 맞서고 있나

소셜미디어 플랫폼의 숨겨진 규칙을 파악하는 것은 어려운 일이다. 그리고 그러한 규칙은 사회적으로 소외된 배경을 가진 크리에이터들에게 더 강한 영향을 미친다.

지난여름 틱톡(TikTok)에서 콘텐츠를 제작하는 크리에이터(creator) 지기 타일러(Ziggi Tyler)는 콘텐츠 제작자와 브랜드를 연결해주는 서비스인 틱톡 ‘크리에이터 마켓플레이스(Creator Marketplace)’에서 자신이 발견한 문제점을 알리는 영상을 게시했다. 타일러는 영상에서 자신이 시도해 봤을 때 마켓플레이스 프로필에 ‘Black Lives Matter(흑인의 목숨은 소중하다)’와 ‘supporting Black excellence(흑인의 우수성을 지지한다)’ 같은 문구는 입력되지 않았지만, ‘white supremacy(백인 우월주의)’나 ‘supporting white excellence(백인의 우수성을 지지한다)’ 같은 문구는 입력할 수 있었다고 말했다.

틱톡에서 많은 시간을 보냈다면 크리에이터들이 이와 비슷한 여러 사건에 관해 이야기하는 모습을 본 적 있을 것이다.

콘텐츠를 관리하는 콘텐츠 ‘조정(moderation)’ 작업과 그런 규칙을 시행하는 알고리즘의 영향을 이해하려면 두 가지 방법을 사용할 수 있다. 하나는 해당 플랫폼이 하는 말을 듣는 것이고, 또 하나는 크리에이터들에게 직접 묻는 것이다. 타일러의 사례에서 틱톡은 해당 문제가 발생한 것에 대해 사과하면서 문제의 원인이 혐오 표현과 관련된 단어를 차단하기 위해 설정된 자동 필터 때문이라고 말했다. 그러나 틱톡의 변명은 맥락상 말이 되지 않아 보였다.

코넬대학교의 부교수 브룩 에린 더피(Brooke Erin Duffy)는 대학원생 콜튼 마이즈너(Colten Meisner)와 한 팀을 이뤄 타일러의 영상이 한창 퍼지고 있던 무렵에 틱톡, 인스타그램, 트위치(Twitch), 유튜브, 트위터의 크리에이터 30명을 인터뷰했다. 그들은 크리에이터들, 그중에서도 사회적으로 소외된 집단 출신의 크리에이터들이 플랫폼의 차별적인 알고리즘과 콘텐츠 조정 관행을 어떻게 견디고 있는지 알아내려고 했다.

그들의 조사에 따르면 크리에이터들은 플랫폼에서 자신들의 경험과 관계에 영향을 주는 알고리즘을 이해하는 데 상당한 노력을 투자하고 있었다. 크리에이터들은 대부분 여러 플랫폼을 사용하기 때문에 각각의 플랫폼이 감추고 있는 규칙을 파악해야 한다. 일부 크리에이터들은 자신들이 마주하는 알고리즘과 조정의 편향에 대응하여 콘텐츠를 생산하고 홍보하는 전체적인 접근방식을 조절한다.

아래는 더피와 향후 연구 계획에 관해 나눈 대화이다(대화는 명확한 전달을 위해 편집되고 요약됐다).

Q) 크리에이터들은 알고리즘과 콘텐츠 조정이 자신들을 유명하게 만들어 준 플랫폼에서 자신들에게 어떤 영향을 미치는지에 관해 오랫동안 논의해왔다. 이 인터뷰를 진행하면서 가장 놀라웠던 점이 무엇인가?

A) 우리는 크리에이터들이 알고리즘에 관해 이해하고 있는 내용이 그들이 경험에 영향을 미칠 것이라는 생각을 갖고 있었다. 하지만 인터뷰를 하고 난 후에 우리는 알고리즘에 관해 알기 위해 그들이 투자하는 시간, 에너지, 관심 등을 볼 때 알고리즘이 그들의 일상적인 삶과 일에 얼마나 깊은 영향을 미치는지 제대로 깨닫기 시작했다. 그들은 이러한 알고리즘이 공평하지 않다는 일종의 비판적 인식을 가지고 있다. 그렇지만 그들은 여전히 알고리즘을 이해해 보겠다는 희망을 갖고 모든 에너지를 투자하고 있다. 

Q) 크리에이터들은 알고리즘의 차단 또는 조정 작업으로 인해 자신들의 콘텐츠가 검열되거나 대중에게 전달되지 않을 가능성에 관해 얼마나 자주 생각하고 있는가?

내가 보기에는 크리에이터들이 그런 알고리즘의 차단이나 조정 작업을 염두에 두고 콘텐츠를 제작하고 홍보하는 것 같다. 이러한 알고리즘은 수시로 변하며 기준을 이해하기도 어렵다. 그리고 대부분의 경우에 플랫폼으로부터 직접적인 커뮤니케이션도 이루어지지 않는다. 콘텐츠가 차단되면 크리에이터의 경험뿐만 아니라 수입에도 전적인 영향을 미친다.

크리에이터들은 이러한 풀뿌리 실험에 많은 시간과 노력을 투자하고 있었다. “나는 비슷한 종류의 콘텐츠를 할 거지만 언젠가는 바꿀 것이다. 어느 날엔 이런 옷을 입고 다음 날엔 다른 옷을 입을 것”이라고 말하거나 다음에는 다른 해시태그를 시도하기도 했다.

크리에이터들은 크리에이터 커뮤니티와 온라인, 오프라인에서 교류한다고 말하며 무엇이 괜찮고 무엇이 차단될 것인지 등 알고리즘과 게임 하는 법에 관해 이야기한다고 밝혔다. 크리에이터들은 전통적인 노동자 조직을 구성하고 있는 것처럼 보이지는 않지만, 그래도 함께 힘을 합쳐서 일종의 하향식 권력 시스템에 도전할 강력한 방법을 가지고 있다.

Q) 연구 결과를 읽으면서 크리에이터에게 알리지 않고 콘텐츠 범위를 숨기거나 제한하는 조정 관행인 ‘섀도 배닝(shadow banning)’이라는 개념을 계속 생각하게 됐다. 언론인의 관점에서 ‘섀도 배닝’은 숨겨져 있어서 보도하기 어렵지만 크리에이터들은 이에 관해 수년 동안 우려를 표해왔다. 연구에서는 이 개념을 어떻게 고려했는가?

어떤 사람들은 자신들이 섀도 배닝 당했다고 욕을 하는데 또 어떤 사람들은 “그냥 당신의 콘텐츠가 좋지 않았던 것”이라고 말한다. 이는 매우 걱정스러운 문제이다. 섀도 배닝인지 단순히 콘텐츠가 나빴던 건지 알 수가 없기 때문이다.

섀도 배닝은 이러한 모호성으로 인해 강력한 힘을 발휘한다. 실제로 누군가가 섀도 배닝된 것인지 아닌지 증명할 방법이 없어서 다양한 추측이 나올 수 있기 때문이다. 그러나 섀도 배닝이 실제로 존재하든 존재하지 않든 사람들이 자신들의 콘텐츠가 제한되는 것을 통해 불이익을 받는 것처럼 행동한다는 사실 자체는 심각하게 받아들일 가치가 있다.

Q) 이러한 문제 중 일부를 해결하기 위해 할 수 있는 일이 있는가?

플랫폼들은 모든 웹사이트에서 크리에이터들에게 자신들의 이점을 홍보하고 크리에이터가 충분히 재능 있고 올바른 콘텐츠를 가지고 있다면 팔로워를 확보하여 돈을 벌 수 있다고 말한다. 크리에이터들은 자신들의 안목을 통해 이러한 플랫폼에 많은 돈을 벌어다 주지만 콘텐츠 조정 정책이나 그런 정책이 과연 공평하게 정해지는지에 관해서는 어떠한 발언권도 없다. 여기서 갑자기 엄청난 투명성을 기대할 수는 없지만 나는 크리에이터들이 자신의 일에 근본적으로 영향을 미치는 결정에 관해서는 더 많은 권리를 행사해야 한다고 생각한다.

미리보기 3회1회

MIT Technology Review 구독을 시작하시면 모든 기사를 제한 없이 이용할 수 있습니다.