우리는 모두 온라인에서 우리 생각을 말하고 싶어 한다. 친구들이 우리 생각을 들어주기를 바라고 의견이 맞지 않는 사람에게는 대꾸하고 싶다. 그러나 동시에 우리는 부적절하거나 선을 넘는 대화를 보고 싶어 하지 않는다. 기술 기업들은 미연방법이 보호하는 ‘표현의 자유’에 대한 기준을 정함으로써 이러한 난제를 해결한다. 기술 기업들은 내부 ‘관리자(moderator)’를 고용하여 개별 콘텐츠를 확인하고 플랫폼이 정한 규칙을 위반하는 게시물을 삭제한다.

그러나 기술 기업들이 사용하는 이러한 콘텐츠 관리 방식에는 문제가 있는 것이 분명하다. 콘텐츠를 확인하고 관리하는데도 온라인에는 각종 괴롭힘, 공중 보건 같은 주제에 대한 가짜 정보, 정당한 선거를 폄훼하는 거짓 주장 같은 것들이 만연하기 때문이다. 그러나 사실 콘텐츠 관리가 완벽하게 이루어진다고 해도 여전히 관리 작업에서 놓친 수많은 문제가 존재할 것이다. 이러한 문제들은 콘텐츠 관리 방식에 무언가 잘못이 있는 것처럼 느껴지게 하지만 실제로는 그렇지 않다. 이러한 ‘비언어적 문제’를 해결하기 위해서는 콘텐츠 관리를 뛰어넘은 새로운 전략이 필요하다. 새로운 전략이란 ‘소셜미디어 업체들을 사회 오염을 유발하는 잠재적인 요인으로 취급하고 그들의 선택이 사람들에게 미치는 영향을 직접적으로 측정하여 피해를 완화하는 것’이다. 다시 말해서 환경보호청(Environmental Protection Agency)이나 식품의약국(Food and Drug Administration)과 유사한 소셜미디어 관련 정부 기관을 통해 소셜미디어 플랫폼들이 유발하는 사회적 피해를 파악하고 평가하는 데 사용할 수 있는 정책 틀을 확립해야 한다. 소셜미디어로 인한 피해가 지속되면 소셜미디어 관련 정부 기관에 정책을 집행할 권한을 부여할 수도 있다. 물론 콘텐츠 관리 작업이 가진 한계를 뛰어넘으려면 그러한 규제는 분명한 증거를 바탕으로 해야 할 것이며 해당 규제로 해결하고자 하는 문제에 실제로 입증할 수 있는 명백한 효과를 가져올 수 있어야 할 것이다.

알고리즘에 의해 자동으로 이루어지는 것이든 사람이 직접 하는 것이든 콘텐츠 관리 작업은 개별 콘텐츠로 인해 직접적으로 발생하는 ‘급격한’ 피해를 해결하는 데는 도움이 될 수 있다. 그러나 이러한 ‘급격한’ 피해 외에도 차별, 정신건강 문제, 시민 신뢰 상실 등 개별 콘텐츠를 통해서가 아니라 소셜미디어 플랫폼 전반에 걸쳐서 다양한 방식으로 나타나는 수많은 ‘구조적’ 문제가 존재하기 때문에 이러한 문제를 해결할 새로운 접근법이 필요하다. 이러한 구조적 문제를 보여주는 한 가지 유명한 사례는 2012년 페이스북에서 있었던 ‘감정 전염’ 실험이다. 이 실험에서 소셜미디어 플랫폼에 드러난 이용자의 행동을 바탕으로 이용자의 감정을 측정해보니 이용자의 감정은 해당 이용자가 노출된 제품 버전에 따라 확연히 변화했다.

결과가 공개된 이후에 페이스북(현 메타)은 이러한 의도적인 실험을 종료했다. 그러나 페이스북이 측정을 종료했다고 해서 제품 결정이 사람들에게 미치는 효과가 사라지는 것은 아니다.

구조적 문제는 제품(플랫폼)에 관해 소셜미디어 업체가 내린 선택의 직접적인 결과물이다. 페이스북, 유튜브, 틱톡 같은 기술 기업들은 소셜미디어 플랫폼에서 이용자들이 보내는 시간과 이용자 참여도를 극대화하는 데 전념하도록 제품 관리자들을 장려한다. 그리고 거기서 실험은 여전히 매우 활발하게 이루어지고 있다. 제품에 변경 사항이 있으면 변경된 제품은 거의 대부분의 경우 무작위 대조군 실험(randomized controlled trial)을 통해 소규모의 테스트 대상자들에게 배포된다. 진척도를 평가하기 위해 기업들은 엄격한 관리 프로세스를 시행하여 핵심 임무(‘목표와 핵심 결과(Objectives and Key Results, OKRs)’라고 한다)를 수행하며 심지어 그 결과를 바탕으로 보너스와 승진을 결정하기도 한다. 제품 결정으로 인한 결과를 해결하는 책임은 주로 문제의 근본 원인을 해결할 권한이 적은 다른 팀에 있는 경우가 많다. 이러한 팀은 일반적으로 급격한 피해에는 대응할 수 있지만 제품 자체로 인해 발생하는 근본적인 문제는 해결할 수 없다.

이와 같은 제품 개발 구조는 사회적 피해를 초래할 수 있다. 지난해에 있었던 프랜시스 하우겐(Frances Haugen)의 의회 증언과 페이스북이 청소년의 정신건강에 영향을 준다는 주장에 대한 언론의 폭로를 생각해 보라. 페이스북은 이러한 비판에 대응하여 자신들은 제품이 청소년의 정신건강에 부정적인 영향을 미친다고 청소년들이 생각하는지 그러한 인식으로 인해 청소년의 제품 사용이 줄었는지 연구했을 뿐이며 제품이 실제로 해로운 결과를 가져오는지에 관해서는 알아보지 않았다고 설명했다. 페이스북의 이러한 설명은 이용자 참여도에 관한 것이 아니라 이용자의 정신건강 문제에 직접적으로 주목하는 연구가 크게 확장되지 않을 것임을 보여주었다.

소셜미디어 플랫폼으로 인한 구조적인 피해를 평가하여 구체화하기는 쉽지 않을 것이다. 이를 위해서 우리는 우리가 실제로 무엇을 체계적으로 엄격하게 측정할 수 있는지, 우리가 기업에 무엇을 요구할 것인지, 그러한 평가에서 어떤 문제를 우선시할 것인지 정리해야 할 것이다.

기업들은 자체적으로 프로토콜을 시행할 수 있다. 그러나 그러한 프로토콜을 통해 제품 개발과 성장에 의미 있는 제한을 하는 것은 기업이 바라는 재정적 이익에 반하는 일이 많다. 그리고 이러한 현실로 인해 대중을 위한 규제 마련이 필요한 것이다. 미 연방거래위원회(Federal Trade Commission)의 새로운 명령을 통해서든 새로운 정부 기관의 피해 완화 지침을 통해서든 규제기관이 해야 하는 일은 의미 있는 위해성 신호를 평가하기 위해 기술 업체의 제품 개발팀과 협력하여 제품 개발 과정 중에 측정할 수 있는 시행 가능한 프로토콜을 설계하는 것이다.

이러한 방식이 번거로워 보일지도 모른다. 그러나 기술 대기업들(규제가 적용되어야 하는 기업들)에게는 이러한 프로토콜을 추가하는 것이 간단한 일일 것이다. 그들은 이미 제품의 효력을 측정하기 위해 개발 과정에 무작위 대조군 연구를 포함했기 때문이다. 시간이 더 많이 필요하고 복잡한 부분은 기준을 정의하는 일일 것이다. 테스트를 실제로 수행하는 것에는 규제의 개입이 전혀 필요하지 않을 것이다. 필요한 것은 정상적인 성장 관련 질문과 함께 진단을 위한 질문을 하고 나서 해당 데이터를 외부 검토자에게 공개하는 것뿐이다. 우리는 2022년 ACM의 알고리즘, 메커니즘, 최적화에 대한 공평과 접근에 관한 컨퍼런스(Conference on Equity and Access in Algorithms, Mechanisms, and Optimization)에서 곧 발표할 논문을 통해 해당 절차를 더 자세하게 설명하고 그러한 절차를 효과적으로 구축할 방법에 관해 개략적으로 보여줄 것이다.

이용자 참여도 증진을 위해 수천만 명이 이용하는 제품들을 테스트할 때 기업들은 이러한 제품들이 적어도 총체적으로는 ‘문제를 악화시키지 않는다’는 원칙도 준수하고 있는지 확실히 해야 할 것이다. 시간이 지나면 기존에 이미 승인받은 제품의 효과를 제한하기 위해 더 적극적인 기준이 수립될 수도 있다.

이러한 과정에 적합할 것으로 보이는 방법은 많다. 예를 들어 제품과 서비스에 노출되는 것이 기분에 미치는 영향을 평가하기 위해 진단적으로 사용하는 ‘PAM(photographic affect meter, 사진 감정 측정)’ 같은 프로토콜도 있다. 기술 플랫폼들은 이미 제품 변경과 관련한 내용을 평가하기 위해 설문 조사를 이용하고 있다. 세실리아 강(Cecilia Kang) 기자와 시라 프랭클(Sheera Frankel) 기자에 따르면 마크 저커버그(Mark Zuckerberg)는 대부분의 제품 결정을 위해 설문 조사 기반의 성장 지표를 살펴보며 2020년 선거 이후 페이스북의 뉴스피드 알고리즘을 더 ‘좋지 않은’ 버전으로 역행시킨 그의 선택도 설문 조사 결과를 바탕으로 했다.

기술 업계가 이 접근법을 실현 가능하다고 보는지 기업들이 이 접근법에 맞설 것인지 묻는 것은 타당할 것이다. 규제가 그런 반응을 불러올 수도 있겠지만, 이러한 틀과 관련한 초기 논의에서 우리는 긍정적인 피드백을 받았다. 이는 아마도 우리가 제안한 접근법을 바탕으로 해도 대부분의 제품 결정이 검열을 통과하기 때문일 것이다. 그리고 다른 제안과 달리 이 전략은 적어도 가장 극단적인 경우만 제외하면 직접적인 표현에 관한 규제는 피한다.

동시에 우리는 규제기관이 조치를 취하기를 기다릴 필요가 없다. 기업들은 필요한 절차를 스스로 쉽게 실행할 수 있을 것이다. 그러나 제품 변경으로 인해 문제가 초래된다는 주장을 입증하려면 우선 우리가 여기서 설명하고 있는 고품질 데이터를 수집해야 한다. 실시간 측정을 하지 않으면 이런 유형의 구조적 피해가 존재하는지 증명할 수 없어서 닭이 먼저냐 달걀이 먼저냐 하는 문제를 만들 수 있기 때문이다. 구조적 피해를 사전에 모니터링하는 것으로는 플랫폼 콘텐츠의 문제를 해결할 수 없을 것이다. 그러나 모니터링을 이용하면 플랫폼이 공공의 이익을 해치고 있는지 계속해서 의미 있게 검증할 수 있을 것이다.

미국 환경보호청은 적절한 참고 대상이다. 환경보호청의 본래 목적은 환경 정책을 법제화하는 것이 아니라 기준과 프로토콜을 법적으로 규정하여 실천적 성과를 낼 수 있는 정책이 만들어질 수 있게 하는 것이었다. 이러한 관점에서 환경보호청의 역할은 환경 정책에 관한 논쟁을 해결하는 것이 아니라 그러한 논의를 가능하게 하는 것이었다. 마찬가지로 소셜미디어 문제를 해결하기 위한 첫 단계는 실시간으로 언어, 정신건강, 시민 신뢰에 대한 결과를 조사하는 데 필요한 인프라를 구축하는 것이다. 그러한 인프라가 없으면 우리는 소셜미디어 플랫폼으로 인한 가장 시급한 문제들을 해결하지 못하게 될 것이다.

이 글의 저자 너새니얼 루빈(Nathaniel Lubin)은 코넬테크(Cornell Tech) 디지털라이프이니셔티브(Digital Life Initiative)의 연구원이며 버락 오바마(Barack Obama) 대통령 시절 백악관의 디지털 전략실(Office of Digital Strategy) 국장을 역임했다. 공동 저자 토머스 크렌들 길버트(Thomas Krendl Gilbert)는 코넬테크의 박사후과정 연구원이며 UC 버클리에서 기계 윤리학과 인식론의 학제간 박사학위를 받았다.