헬렌 워렐(Helen Warrell, 사진 좌측) <파이낸셜 타임스> 탐사보도 기자이자 전 국방 및 안보 담당 편집자와 제임스 오도넬(James O’Donnell) MIT 테크놀로지 리뷰 AI 담당 선임 기자가 군대의 AI 활용과 관련된 윤리적 딜레마와 경제적 유인에 관해 의견을 나누었다.

헬렌 워렐:

2027년 7월이다. 중국은 대만을 침공하기 직전이다. AI 기반 표적 탐지 기능을 탑재한 자율비행 드론들이 대만의 방공망을 제압할 준비를 마친 가운데, AI로 생성한 치명적인 사이버 공격으로 대만의 에너지 공급과 주요 통신망을 차단한다. 한편, AI 기반의 친중 밈(meme) 양산 조직 주도로 전 세계 소셜미디어에 대규모 허위정보가 퍼지면서 중국의 침략 행위에 대한 국제사회의 비난은 잦아들고 있다.

이러한 시나리오는 전쟁에서 AI를 활용하는 데 대한 논쟁에 디스토피아적 공포를 불러일으킨다. 군 지휘관들은 AI 기술을 적용한 부대가 인간이 지휘하는 부대보다 더 빠르고 정확하게 작전을 수행할 수 있기를 기대한다. 그러나 군대에서 AI의 역할이 더 중요해지면 이러한 지휘관들조차도 통제력을 상실하게 되면서, 전투가 겉잡을 수 없이 확대되고 윤리적·법적 감독조차 이루어지지 못할 것이라는 우려가 있다. 헨리 키신저(Henry Kissinger) 전 미국 국무장관도 말년에 AI가 주도하는 전쟁이 초래할 재앙에 대해 경고한 바 있다.