AI consumes a lot of energy. Hackers could make it consume more.

AI 에너지 소비량 늘리는 해킹 공격이 있다?

인공신경망의 에너지 소비량을 과도하게 높이는 새로운 종류의 해킹 공격 가능성이 제기되었다.

뉴스: 인공지능(AI) 시스템의 에너지 소비를 증가시키는 해킹 공격의 가능성이 제기되었다. 인터넷에서 도스 공격(Denial-of-Service Attack, DoS Attack)이 발생할 경우 네트워크가 차단되고 사용할 수 없게 된다. 이와 마찬가지로, 이 신종 공격은 딥러닝(Deep Neural Network)은 필요 이상으로 많은 컴퓨팅 자원을 사용하게 해 ‘생각하는’ 과정을 더디게 한다.

대상: 최근 몇 년 동안 대형 AI 모델의 에너지 소비가 지나치다는 우려가 증가하면서, 연구원들은 더 효율적인 신경망 설계를 하게 되었다. 입력 적응형 다중 출구(Input-Adaptive Multi-Exit) 아키텍처라는 카테고리는 난이도에 따라 작업을 분류하는 방식으로 작동된다. 그런 다음 각 문제 해결에 필요한 최소한의 컴퓨팅 자원을 사용한다.

완벽한 조명 아래 카메라를 똑바로 쳐다보는 사자(Lion) 사진과 복잡한 풍경 속에서 웅크리고 있어 일부 모습이 보이지 않는 사자 사진이 있다고 가정해 보자. 기존 신경망은 두 개의 사진을 모든 층(Layer)을 통해 전달하며, 각 층에 라벨을 부착하기 위해 동일한 연산량을 소비한다. 그러나 입력 적응형 다중 출구 신경망은 임계값(Threshold of Confidence)에 도달하기 전에 첫 번째 사진을 단 하나의 층을 통해 전달한다. 이렇게 되면 모델의 탄소 발자국(Carbon Footprint)이 감소한다. 또한, 속도도 향상되고 스마트폰 및 스마트 스피커 같은 소형 장치에 사용될 수도 있다.

공격: 그러나 이런 종류의 신경망은 이미지 등 입력값을 변경하면, 문제 해결에 필요한 연산량을 바꿀 수 있다는 것을 의미한다. 메릴랜드 사이버 보안 센터(Maryland Cybersecurity Center) 연구원들이 ICLR(International Conference on Learning Representations)에서 발표할 신규 논문에서 간략하게 설명했듯이, 이것은 해커의 공격 가능성을 열어준다. 네트워크 입력값에 소량의 노이즈를 추가함으로써, 입력을 더 어려운 것으로 인식하도록 했고 연산량을 증가시켰다.

공격자가 신경망에 대해 완전히 숙지하고 있다면, 에너지는 최대치에 도달할 수도 있는 것이다. 공격자가 신경망에 대한 정보가 없다고 가정했을 때, 네트워크 처리 속도는 감소하였고 에너지 사용량은 20%~80% 확대되었다. 연구원들이 발견한 것처럼, 그 이유는 해커의 공격이 다른 유형의 신경망에 잘 전달되기 때문이다. 박사과정생이자 논문 공동 저자인 이짓칸 카야(Yiğitcan Kaya)는 이렇게 주장한다. “하나의 이미지 분류 시스템에 대해 공격을 설계하면 여러 시스템을 교란하기에 충분하다.”

주의 사항: 이런 종류의 공격은 아직 이론에 불과하다. 입력 적응형 아키텍처는 아직 실제 애플리케이션에서는 일반적으로 사용되지 않는다. 그러나 연구원들은 업계 내부의 압력으로부터 빨리 벗어나서, 스마트 홈과 기타 사물인터넷(IoT) 기기 같은 경량 신경망을 사용하게 될 것이라고 믿는다. 이 연구를 자문한 튜더 두미트라스(Tudor Dumitraş) 교수는 이런 위협이 어느 정도까지 피해를 주는 지 파악하기 위해서 연구가 더 필요하다고 주장한다. 그는 이 논문이 사람들의 경각심을 일깨우기 위한 첫 단계라고 덧붙였다. “이것은 새로운 위협 모델(Threat Model)이며, 이런 종류의 공격이 발생할 수 있다는 것을 알려야 한다.”

미리보기 3회1회

MIT Technology Review 구독을 시작하시면 모든 기사를 제한 없이 이용할 수 있습니다.