Preparing for AI-enabled cyberattacks

AI로 무장한 사이버 공격이 온다

사이버 범죄자의 손에 흘러든 인공지능 기술은 조직에 실질적 위협이 된다. IT 보안 팀은 이에 맞서기 위해 ‘방어형 AI’가 필요하다.

사이버 공격이 날로 교묘해지고 늘어나는 추세다. 이들은 비즈니스 운영을 중단시키거나 중요한 데이터를 삭제하고 훼손시키는 수법으로 비즈니스와 주요 서비스 및 인프라를 위협하고 있다. 오늘날 새로운 공격 흐름이 된 사이버 공격은 인간을 능가하며 심지어 인공지능(AI)을 통합하기 시작했다. ‘공격형 AI’로 알려진 사이버 범죄자들은 기존의 룰 베이스(rule-based) 탐지 도구의 레이더 아래 비행하면서 전례 없는 속도와 규모로 표적 공격을 지휘할 수 있다.

세계적으로 규모가 크고 신임받는 조직들이 이미 사이버 공격에 피해를 보아 중요 데이터 보안 능력이 약화하였다. 머지않은 공격형 AI의 위협에 맞서 싸우기 위해 조직들은 새로운 방어 수단을 도입해야 한다: 알고리즘 전투가 시작되었다.

MIT 테크놀로지 리뷰 인사이트는 AI 사이버 보안 회사인 다크트레이스(Darktrace)와 협력하여 전 세계 300명 이상의 최고 경영진, 이사 및 관리자를 대상으로 현재 직면한 사이버 위협에 어떻게 대처하고 있는지, 그리고 AI를 사용해서는 어떻게 대비하고 있는지 조사했다.

응답자의 60%는 사이버 공격에 대해 인간 중심의 대응이 뒤처지고 있으며, 조직이 더 큰 도전에 대비하기 위해 더욱 정교한 기술이 중요하다고 답했다. 실제로 96%에 달하는 압도적으로 많은 응답자가 이미 AI 기반 공격으로부터의 방어를 시작했으며, 그중 일부 응답자는 AI 방어를 지원한다고 밝혔다.

공격형 AI 사이버 공격은 만만치 않고, 스마트하다. 무기화된 AI 툴 사례인 딥페이크(deepfake)를 보자. 이 도구는 단 한 번도 벌어진 적 없는 장면이나 존재한 적 없던 사람을 묘사한 이미지나 비디오다.

2020년 1월 FBI는 딥페이크 기술 수준이 이미 생체 인식 테스트를 통과할 수 있는 인공 페르소나를 만들 수 있는 경지에 이르렀다고 경고했다. 당시 FBI 관계자는, AI 신경망의 발전 추세가 이 정도라면 동영상 제작자가 원하는 대로 마치 유명 인사가 그렇게 말하는 것처럼 모방해 제작된 고화질의 허위 영상이 유포되어 국가안보를 훼손할 수 있다고 말했다.

이는 범죄 목적으로 사용되는 기술의 한 예에 불과하다. AI는 어느 시점부터는 자율적으로 사이버 공격을 수행하여 자신의 운영을 위장하고 일반적 활동과 혼합될 수 있다. 이 기술은 위협 가해자를 포함한 누구든지 사용할 수 있다.

사이버 위협 환경에서의 공격형 AI의 리스크와 개발은 기업 보안을 재정의하고 있다. 인간은 지능적 공격에 보조를 맞춰 대응하기 위해 고군분투하고 있다. 특히 설문의 응답자들은 이메일과 피싱 공격이 가장 큰 불안 요소라고 답했으며, 이메일 위협이 가장 우려된다고 응답한 응답자는 3/4에 육박했다. 이메일 및 피싱 공격을 ‘매우 우려한다’고 답한 응답자는 40%, ‘다소 우려한다’고 답한 응답자는 34%였다. 탐지된 악성코드의 94%가량이 여전히 이메일로 전송되는 상황에서 그리 놀라운 결과는 아니다. 이메일로 전달되는 위협을 차단하는 기존 방법은 과거 기록(예를 들면 이전에 감지된 공격)과 수신자가 직접 이상한 점을 발견하는 것에 의존하며, 이 두 가지는 모두 정교한 피싱 침입으로 우회될 수 있다.

그림1. 가장 우려하는 사이버 공격
모든 잠재적 사이버 공격이 경종을 울리지만, 그중에서도 이메일과 랜섬웨어가 경영진에게 가장 큰 우려를 안긴다.

74% 이메일과 피싱 공격
73% 랜섬웨어나 다른 신속 사이버 공격(fast-moving cyberattacks, 단 몇 초만에 이루어지는 사이버 공격)
68% 클라우드 인프라 공격
64% 내부자 위협 및 데이터 유실
58% 노동력의 분산으로 인한 위험
57% 클라우드 애플리케이션에 대한 위협

출처: MIT 테크놀로지 리뷰 인사이트가 2021년 1월 전 세계 비즈니스 리더 309인에게 설문 응답자들에게 해당하는 모든 것을 선택하도록 함.

공격형 AI가 혼합되어 있을 때, ‘허위 이메일’은 신뢰할 수 있는 연락처의 실제 통신과 거의 구별할 수 없다.

공격자가 이메일 제목을 악용하다

코로나바이러스 팬데믹은 사이버 범죄자들에게 유리한 기회였다. 특히 이메일 공격자들은 오랫동안 확립된 패턴을 따랐다. 공포, 불확실성, 탐욕, 호기심을 부추기는 제목을 활용하여 ‘피어웨어(fearware, 공포심을 유발해 클릭을 유도하는 악성 소프트웨어)’ 공격의 피해자를 유인하는 것이다. 사무실의 보안 프로토콜이 갖추어지지 않은 상황에서 직원들이 원격 업무를 수행함에 따라 조직들은 피싱 시도가 급증하는 것을 목격했다. 다크트레이스의 위협 제거 책임자인 맥스 하인마이어(Max Heinemeyer)는 팬데믹이 닥쳤을 때 그의 팀이 피싱 이메일의 즉각적인 진화를 발견했다고 말한다. “우리는 ‘지역 감염자를 확인하려면 여기를 클릭하십시오’와 같은 이메일을 많이 보았다.”라고 그는 말했다. 하인마이어는 마찬가지로 지난해 사무실과 대학이 다시 문을 열자 ‘저렴하거나 무료인 코로나19 청소 프로그램 및 테스트’를 제공하는 이메일이 발송되며 신종 사기가 등장했다고 말했다.

그림2. 기업을 상대로 AI가 어떻게 악용될 것인가?

AI는 우호적 상대를 사칭하고 강력한 랜섬웨어 공격을 개시하는 데 사용될 수 있다고 경영진은 말한다.

68% 사칭과 강력한 피싱 공격
57% 더 효과적인 랜섬웨어
56% 허위정보 및 데이터 통합성 저해
53% 홈네트워크를 겨냥한 원격 노동자 방해
43% 딥페이크

출처: MIT 테크놀로지 리뷰 인사이트가 2021년 1월 전 세계 비즈니스 리더 309인에게 설문 응답자들에게 해당하는 모든 것을 선택하도록 함

원격 및 하이브리드 작업 환경의 급증과 맞물려 랜섬웨어도 증가했다. “이제 모든 사람이 원격 작업에 의존한다는 것을 범죄자들도 알고 있다. 공격을 받아 원격 액세스가 차단되면 그때는 게임 끝이다.”라고 그는 말한다. “1년 전만 해도 사람들은 여전히 직장에 출근할 수 있었고 오프라인에서 더 일할 수 있었지만, 지금은 피해가 훨씬 더 크다. 그리고 우리는 범죄자들이 이를 이용하기 시작했다고 본다.”

변치 않은 것은 무엇인가? 변화, 급격한 변화, 그리고 복잡성이다. 전 세계적인 재택근무 전환 흐름은 복잡성을 증가시켰다. 이는 기존의 특징 기반(signature-based) 접근법에 의존하는 전통적인 사이버 보안의 문제점을 보여준다: 정적(static) 방어는 변화에 잘 적응하지 못한다. 이러한 접근 방식은 지난 공격으로부터 앞으로의 모습을 추론하고 결정한다. 하인마이어는 이렇게 덧붙였다. “내일의 피싱 파동을 어떻게 예상할 수 있을까? 이 방식으로는 알 수 없다.”

미리보기 3회1회

MIT Technology Review 구독을 시작하시면 모든 기사를 제한 없이 이용할 수 있습니다.