How to survive as an AI ethicist

AI 윤리학자로 살아남는 법

책임 있는 AI 분야 종사자들 중 '번아웃'을 느끼는 사람들이 늘고 있다. 이처럼 AI 윤리학자로서의 역할을 수행하며 '번아웃'을 이겨낼 수 있는 방법으로 무엇이 있을까.

알고리즘에 오신 것을 환영합니다!

인공지능(artificial intelligence, AI) 윤리와 관련하여 기업에 책임을 묻는 새로운 법이 발효되면서 기업들이 AI 시스템의 안전한 기능을 보장하는 것이 그 어느 때보다 중요해졌습니다. 안전한 AI 시스템을 위해 기업들은 ‘책임 있는 AI(responsible AI)팀’을 만들었지만, 이러한 팀들은 회사의 우선순위에서 밀려나 있고 AI 윤리에 대한 기업의 투자도 여전히 뒤처져 있는 상황입니다.

제가 가장 최근에 작성한 기사에서 알려드린 바와 같이 그로 인해 책임 있는 AI 분야 종사자들은 고통을 겪고 있습니다. 조직은 이러한 개인들에게 적절한 지원도 없이 시스템 전체와 관련된 큰 문제들을 해결하라며 부담을 주고 있고 온라인에서는 거의 끊임없이 이들에게 공격적인 비난을 퍼붓고 있죠.

이 문제는 매우 개인적인 일로 느껴지기도 합니다. AI 시스템은 인종차별이나 성차별 같은 우리 사회의 최악의 측면들을 반영하고 악화시키는 일이 많거든요. 문제가 되는 기술은 흑인을 고릴라로 분류하는 얼굴인식 시스템부터 동의한 적 없는 여성들의 포르노 영상을 만드는 딥페이크(deepfake) 소프트웨어까지 다양합니다. 이러한 문제를 다루는 것은 AI 윤리에 관한 직업에 끌리는 경향이 있는 여성이나 유색인종 등 소외된 집단의 사람들에게 특히 부담이 될 수 있습니다.

저는 윤리적 AI 업무에 종사하는 다양한 사람들과 함께 그들이 업무에서 마주하는 어려움에 관해 이야기를 나눴습니다. 그리고 그 결과 한 가지는 분명했습니다. ‘번아웃’은 실재하며 이것이 이 분야 전체에 해를 주고 있다는 것이었죠.

기사에서 저와 이야기를 나눈 사람 중 두 명은 응용 AI 윤리 분야의 선구자들입니다. 현재 각각 허깅페이스(Hugging Face)와 트위터(Twitter)에서 일하고 있는 마거릿 미첼(Margaret Mitchell)과 루맨 차우드허리(Rumman Chowdhury)가 그들이죠. 이 두 사람이 이야기하는 업계에서 살아남기 위한 최고의 조언들을 살펴볼까요?

1. 자신을 옹호하세요. AI가 제기하는 위험에 대한 인식은 확실히 늘어나고 있습니다. 하지만 윤리학자들은 여전히 부지불식간에 동료들에게 인정받기 위해 싸우곤 합니다. 역사적으로 머신러닝(machine learning) 문화는 사람들의 요구를 인정하는 데 뛰어나지 않았습니다. 미첼은 “회의에서 다른 사람들이 윤리팀이 하는 일에 반대하며 아무리 자신만만하게 또는 큰소리로 떠들고 있다고 해도 그것이 그들이 옳다는 말은 아니다”라면서 “윤리팀은 자신이 하는 일을 스스로 옹호할 준비가 되어 있어야 한다”고 강조했죠.

2. 느리고 꾸준해야 경주에서 승리합니다. 해당 기사에서 차우드허리는 새로운 AI 기술에 유해한 부작용이 있을 가능성에 대해 소셜미디어에서 모든 논쟁에 참여하는 것이 얼마나 피곤한 일인지 이야기합니다. 그는 그런 모든 논쟁에 참여하지 않아도 괜찮다고 조언했죠. 그는 “오랫동안 이 업계에 있으면서 같은 이야기가 주기적으로 반복되는 것을 목격해왔다”며 “그냥 업무에 집중하면서 확실한 의견을 생각해내는 편이 낫다”고 말했습니다.

3. 순교자가 되지 마세요. 그럴 가치가 없습니다. AI 윤리학자들은 활동가들과 공통점이 많습니다. 그들은 열정, 이상주의, 세상을 더 나은 곳으로 만들겠다는 열망에서 일에 대한 추진력을 얻죠. 그러나 자신의 가치관에 반하는 회사에 취직하는 것은 전혀 고귀한 일이 아닙니다. 차우드허리는 “회사가 아무리 유명하더라도 회사 전체, 아니면 적어도 회사에서 중요한 부분이 나와 협력하려고 노력하는 것이 느껴지지 않는 업무 환경이라면 그곳에서 일할 가치가 없다”며 “윤리팀의 일은 문제를 지적하는 것이 아니라 회사의 제품이 개선될 수 있도록 돕는 것이다. 제품의 가치에 믿음이 없다면 거기서 일할 필요가 없다”고 말했습니다.

더 깊이 딥러닝 속으로

머신러닝이 새로운 금속 발견 속도를 단축할 수 있다

새 연구에 따르면 과학자들이 극한의 온도와 부식에 대한 저항성 같은 유용한 특성을 가진 새로운 유형의 금속을 개발하는 데 머신러닝이 도움을 줄 수 있다고 합니다. 이러한 새로운 금속은 여러 분야에서 유용할 수 있습니다. 예를 들어 저온에서 잘 기능하는 금속은 우주선을 개선하는 데 사용될 수 있고 부식되지 않는 금속은 보트나 잠수함에 사용될 수 있죠.

이것이 왜 중요할까요? 이 연구 결과는 여전히 실험실 실험에 크게 의존하고 있는 재료과학 분야에서 머신러닝을 더 많이 활용할 수 있는 기반을 마련하는 데 도움을 줄 수 있습니다. 또한 이 기술은 화학이나 물리학 같은 다른 분야의 발견에도 적용될 수 있습니다. 이에 관한 자세한 기사는 여기를 참조하세요.

그보다 더 깊이 딥러닝 속으로

AI의 진화

11월 3일 MIT 테크놀로지 리뷰의 AI 담당 수석편집자 윌리엄 헤븐(William Heaven)이 메타(Meta)의 수석 AI 과학자 얀 르쿤(Yann LeCun), 딥마인드(DeepMind)의 연구 및 로봇공학 수석책임자 라이아 해드셀(Raia Hadsell), 마이크로소프트 리서치(Microsoft Research)의 저명한 과학자이자 힙합 아티스트 애슐리 로렌스(Ashley Llorens) 같은 AI 분야의 전문가들에게 MIT 테크놀로지 리뷰의 대표 행사 엠테크(EmTech) 무대에서 질문을 던졌습니다.

의제는? 이들은 AI 연구의 발전 방향, 책임감 있는 AI 사용과 개발 윤리, 개방형 협업의 영향, 인공일반지능(artificial general intelligence)의 가장 현실적인 최종 목표에 대해 논의했습니다.

르쿤은 ‘딥러닝의 대부’ 중 한 명으로 불리곤 합니다. 윌과 저는 올해 초에 그가 AI가 인간 수준의 지능을 달성할 수 있는 방법에 대해서 대담한 제안을 제시했을 때 그와 이야기를 나눴습니다. 르쿤의 비전에는 뇌에서 영감을 받은 인지 아키텍처 같은 기존의 아이디어를 딥러닝 기술과 결합하는 것이 포함됩니다.

기타 소식들

셔터스톡, AI로 생성한 이미지 판매 개시

이미지 판매 업체 셔터스톡(Shutterstock)이 DALL-E를 만든 오픈AI(OpenAI)와 협력하고 있습니다. 셔터스톡은 AI 모델 학습에 작품이 사용된 예술가들에게 보상하기 위한 펀드도 출시할 예정입니다. (더 버지(The Verge))

영국의 정보위원회, “감정인식은 엉터리”

영국의 개인정보 감독기관인 정보위원회(Information Commissioner’s Office, ICO)는 기업들이 사람의 감정을 감지할 수 있다고 주장하는 ‘유사과학’ AI 기술을 피해야 하며 그렇지 않으면 벌금형에 처할 수 있다고 경고했습니다. (더 가디언(The Guardian))

알렉스 한나, AI의 미래를 구하기 위해 구글을 떠나다

MIT 테크놀로지 리뷰는 올해 초에 구글의 AI윤리팀을 떠나 분산 인공지능 연구소(Distributed AI Research Institute, DAIR)에 합류한 알렉스 한나(Alex Hanna)를 소개했습니다. 커뮤니티 중심의 자유로운 연구를 통해 AI에 대한 기존의 이해에 도전하고자 하는 DAIR은 2020년 말 구글에서 해고된 한나의 옛 상사 팀니트 게브루(Timnit Gebru)의 아이디어로 탄생했습니다. (MIT 테크놀로지 리뷰)

읽어주셔서 감사합니다!

미리보기 2회1회

MIT Technology Review 구독을 시작하시면 모든 기사를 제한 없이 이용할 수 있습니다.