딥러닝은 에너지 잡아먹는 하마다. 딥러닝에는 엄청난 양의 데이터와 풍부한 컴퓨팅 자원이 필요한데, 이로 인해 전력 소비량이 폭발적으로 증가한다. 지난 몇 년간 전반적인 연구 경향이 상황을 더욱 악화시켰다. 수십억 건 데이터로 며칠 동안 훈련하는 대형 모델이 유행했다.

적은 데이터로 훈련 가능한 알고리즘이나 그런 알고리즘을 더 빨리 실행할 수 있는 하드웨어 등 새로운 방향을 모색하는 연구도 이뤄지고 있다. IBM 연구진은 다른 방향을 접근을 제안하고 있다. 이 아이디어는 데이터 표현(Data Representation)에 필요한 비트 수(1s와 0s)를 현재 업계 표준인 16비트에서 4비트까지 낮추려는 계획이다.

이 연구는 최근 열린 연례 AI 컨퍼런스 신경정보처리시스템학회(NeurIPS)에서 발표되었다. 딥러닝 훈련에 필요한 에너지 비용을 7배 이상 줄이고 속도를 높일 수 있다. 또한 스마트폰과 같은 작은 기기로 강력한 AI 모델 훈련을 가능하게 하고, 로컬 장치에 개인 데이터를 쉽게 보관할 수 있게 해 프라이버시를 개선한다. 자원이 풍부한 IT 대기업에 근무하지 않는 연구원들도 쉽게 접근할 수 있다.

비트의 작동 방식

컴퓨터는 1s와 0s로 사물을 저장한다는 것을 들어본 적이 있을 것이다. 이런 기본적인 정보 단위를 비트라고 한다. 비트가 ‘On’일 때는 1에 해당하고, ‘Off’일 때는 0이 된다. 즉, 한 비트 당 두 개의 정보만 저장할 수 있다.