[2025.10.17 뉴스레터] 편향된 AI, 주권 쟁탈전이 펼쳐진다
뉴스레터 구독자 여러분,
이번 한 주도 잘 보내셨나요?
MIT 테크놀로지 리뷰 금요일 뉴스레터에서 다룰 주제는 'AI 편향과 기술 주권을 둘러싼 세계의 움직임'입니다.
지난 3월, 인도의 디라즈 싱하라는 연구원은 챗GPT로 지원서를 다듬다가 그의 성이 하위 달리트 계층의 '싱하'에서 상위 카스트의 '샤르마'로 바뀐 것을 발견했습니다. 이메일 주소에 포함된 ‘s’를 임의로 해석한 건데요.
MIT 테크놀로지 리뷰 조사 결과, GPT-5는 테스트의 76%에서 카스트 편향을 보였고, 소라는 '달리트의 인물 사진 요청'에 개 이미지를 생성했습니다. 문제는 기술적 오류가 아닙니다. AI 기업들은 성별과 인종 편향을 완화하려 노력하지만, 카스트 같은 비서구적 차별에는 소홀합니다.
'AI 주권'이 중요한 이유가 뭘까요? 기술 주권은 누가 데이터를 만들고 통제하는가의 문제입니다. 미국이 기술 주권을 쥐고 있는 한, 세계 인구의 다수는 자신의 언어와 문화가 왜곡되거나 지워지는 AI를 사용해야 합니다. 누구의 목소리가 들리고 누가 배제되는가가 결정되는 것이죠.
이제 기술 주권을 되찾으려는 움직임이 전 세계에서 일어나고 있습니다. 인도는 자체 모델 개발에 12억 달러를 투자했고, 유럽은 '유로스택'을 구축했으며 각국은 22개 언어, 16개 언어를 지원하는 독자 데이터 세트를 만들고 있습니다. 기술 주권은 단순한 경쟁이 아닙니다. 자신의 정체성을 AI에서도 존중받기 위한 노력입니다.
현대를 살아가는 우리 모두가 기술 속에서도 존중받고 공정하게 대우받을 수 있기를 바라봅니다.
오늘도 MIT 테크놀로지 리뷰와 함께해 주셔서 감사합니다.
즐거운 주말 보내세요!
|
|
AI 사용 경험은 사회의 단면을 그대로 비춘다. 인도는 오픈AI에게 전 세계에서 두 번째로 큰 시장이지만, 챗GPT와 소라는 카스트 편향을 재생산하며 수백만 명의 인도인에게 피해를 주고 있다. 이러한 편향이 지금처럼 적절한 대응 없이 방치된다면 사회적 차별이 더 고착될 위험이 있다. 다행히 AI 기업이 LLM을 배포하기 전에 카스트 편향을 평가해야 한다고 요구하는 연구자들이 늘고 있으며, 일부는 직접 평가 기준을 개발하고 있다. |
|
LLM은 주로 영어권(특히 미국 영어)의 데이터로 학습하기 때문에 비영어권 지역에서는 해당 언어와 문맥에 대해 제 성능을 발휘하지 못한다. 한 번에 여러 언어를 처리하도록 설계된 다국어 언어모델조차도 비서구권 언어에서는 여전히 성능이 떨어진다.
|
|
인도는 22개 공용어와 수백 개의 방언을 사용하는 수백만 명의 다중 언어 사용자가 존재해 AI 파운데이션 모델 구축이 쉽지 않다. 현재 AI 분야에서 인도의 목표는 오픈AI나 딥시크를 뛰어넘는 것보다는 전략적으로 AI 주권을 확보하는 데 있다.
|
MIT 테크놀로지 리뷰 9-10월호
AI, 에너지 블랙홀
AI는 에너지를 빨아들이는 블랙홀일까요? 아니면 기후와 에너지 문제 해결을 위한 새로운 방법이 될까요? AI의 에너지 문제가 왜 기후 대응의 성패를 가를 중대 변수인지 확인해 봅니다. 또한 통제권을 두고 진화하는 AI 에이전트와 인간 간의 힘겨루기, 개방형 하드웨어 경쟁의 필요성, 일상이 된 감시와 기술 폭력, MIT 경제학자가 경고한 ‘차이나 쇼크 2.0’ 등의 기사를 통해 기술과 사회의 불편한 진실을 직시합니다. |
MIT 테크놀로지 리뷰를 구독하여 가장 빠르게 테크 분야의 트렌드를 파악하세요. 아직 구독하지 않으셨다면 구독의 혜택을 누려보세요. |
MIT 테크놀로지 리뷰 코리아customer@technologyreview.kr92, Saemunan-ro, Jongno-gu, Seoul, Republic of Korea, 02-2038-3690수신거부 Unsubscribe |
|
|
