Propagandists are using AI too—and companies need to be open about it

선동 활동 위한 기만적 AI 악용 사례 공개한 오픈AI

오픈AI가 자사의 AI 도구를 이용한 기만적 선전 활동에 관한 보고서를 발표했다. 이는 데이터 공유와 더불어 IT 업계에서 표준으로 자리 잡아야 할 모범 사례로 평가된다.

오픈AI는 지난 5월 말 한 편의 보고서를 공개하며 회사의 역사를 새로 썼다. 이 보고서에는 언어 모델의 성능 강화나 신규 데이터 파트너십 체결에 관한 내용이 아니라, 악의적인 행위자들이 자사 모델을 악용해 영향력 공작(influence operation)을 펼쳤다는 사실을 담고 있었다. 영향력 공작이란 배후에 있는 행위자의 진정한 정체나 의도를 밝히지 않고 여론을 조작하거나 정치적 결과에 영향을 미치려는 시도를 말한다.

오픈AI는 러시아, 중국, 이란, 이스라엘 등에 기반을 두고 비밀리에 활동하는 선동가 네트워크가 생성형 인공지능(AI) 도구를 이용해 여러 언어로 대량의 소셜 미디어 댓글을 작성하거나 뉴스 기사를 페이스북 게시물로 전환하는 등 기만적인 전략에 악용한 사례를 적발했다. 오픈AI의 발표에 따르면 선동가들은 결과물의 질과 양을 개선하기 위한 목적으로 이러한 AI 도구를 사용했다. AI가 선동가들의 생산성 향상에도 기여하고 있는 것이다.

MIT 테크놀로지 리뷰와 함께, 미래를 앞서가세요 !!
한달에 커피 2잔값으로 즐기기
온라인 멤버
지면 매거진 멤버
(온라인+지면) 프리미엄 멤버

유료회원 플랜 보기 회원이면 로그인하기 회원가입

회원 가입 후 유료 구독 신청을 하세요 !!