알고리즘에 오신 것을 환영합니다!

인공지능(artificial intelligence, AI) 윤리와 관련하여 기업에 책임을 묻는 새로운 법이 발효되면서 기업들이 AI 시스템의 안전한 기능을 보장하는 것이 그 어느 때보다 중요해졌습니다. 안전한 AI 시스템을 위해 기업들은 ‘책임 있는 AI(responsible AI)팀’을 만들었지만, 이러한 팀들은 회사의 우선순위에서 밀려나 있고 AI 윤리에 대한 기업의 투자도 여전히 뒤처져 있는 상황입니다.

제가 가장 최근에 작성한 기사에서 알려드린 바와 같이 그로 인해 책임 있는 AI 분야 종사자들은 고통을 겪고 있습니다. 조직은 이러한 개인들에게 적절한 지원도 없이 시스템 전체와 관련된 큰 문제들을 해결하라며 부담을 주고 있고 온라인에서는 거의 끊임없이 이들에게 공격적인 비난을 퍼붓고 있죠.

이 문제는 매우 개인적인 일로 느껴지기도 합니다. AI 시스템은 인종차별이나 성차별 같은 우리 사회의 최악의 측면들을 반영하고 악화시키는 일이 많거든요. 문제가 되는 기술은 흑인을 고릴라로 분류하는 얼굴인식 시스템부터 동의한 적 없는 여성들의 포르노 영상을 만드는 딥페이크(deepfake) 소프트웨어까지 다양합니다. 이러한 문제를 다루는 것은 AI 윤리에 관한 직업에 끌리는 경향이 있는 여성이나 유색인종 등 소외된 집단의 사람들에게 특히 부담이 될 수 있습니다.