오픈AI의 GTP–4o와 구글의 아스트라(Astra) 등이 연이어 발표되면서 AI(Artificial Intelligence) 에이전트에 대한 관심이 높아지고 있다.

AI 에이전트는 챗봇처럼 사용자의 질문에 답하는 수동적인 AI가 아닌, 사용자의 맥락을 이해하고 능동적으로 상황에 대응하고 일상을 자동화하는 AI 개인 비서로서 일상 속의 AI를 완성해 나갈 것이기 때문이다.

전문가들은 챗GPT가 LLM(Large Language Model)에 대한 관심과 대중화 및 시장 확대에 엄청난 기여를 했던 것처럼 AI 에이전트가 다음 세대의 AI를 이끌어 나갈 것으로 예측한다.

과연 AI 에이전트가 챗봇이 AI 분야는 물론이고 일하는 방식, 그리고 일상생활 속의 변화를 끌어냈던 것과 같은 수준의 변화를 가져올 수 있을까? 그리고 AI 에이전트의 앞에 놓여있는 해결해야 할 수많은 기술적, 윤리적, 사회적 과제를 해결해 나갈 수 있을까?

지난 5월 서울 코엑스에서 개최된 글로벌 테크놀로지 컨퍼런스 EmTech Korea에서는 AI 에이전트에 대한 흥미로운 토론이 이뤄졌다.

1세대 AI 에이전트라고 할 수 있는 시리 개발의 주역 중 한 명인 김윤 박사를 비롯해, 초거대 AI 언어 모델 전문가이자 LG AI 리서치의 랩장을 맡고 있는 이문태 박사, 그리고 머신러닝과 AI 전문가인 통 장(Tong Zhang) 일리노이대 어배너–섐페인 컴퓨터 사이언스 학과 교수 등이 참여한 이 토론에서는 AI 에이전트가 도구나 보조자라는 개념에서 파트너와 같은 존재로 바뀌고 있는 현상을 비롯해, AI 에이전트로 인한 변화와 문제점에 이르는 다양한 주제에 대한 이야기가 오갔다.

인간만큼, 혹은 인간보다 나은

‘AI의 전개 방향, 슈퍼 인텔리전트 에이전트로의 진화(The Rise of Super–Intelligent Agents)’라는 주제로 진행된 이번 토론에서는 AI 에이전트가 어떤 방향으로 발전할 것인지에 대한 의견이 제시됐다.

먼저 김윤 박사는 “AI의 지능은 빠르게 발전하면서 특정 작업에서 인간만큼, 혹은 인간보다 더 잘 수행할 수 있는 수준을 향해 나가고 있다”며 “이런 AI가 디지털 에이전트, 혹은 AI 에이전트에 적용되면, 조수나 도구처럼 도움을 주는 어시스턴트의 개념을 벗어나 사용자를 대신해 더 정확하고 효율적으로, 그리고 더 안전하고 편리하게 일을 하도록 돕는 파트너의 지위까지 올라갈 수 있을 것”이라고 말했다.

그는 AI 에이전트는 단순히 시스템을 운영하는 운영체제가 아니라 실제로 사람들의 세상과 삶, 디지털 라이프를 운영하는 데 도움을 주는 조력자가 될 것이라고 주장하면서, 특히 범용인공지능(Artificial General AI, 이하 AGI)이 AI 에이전트의 발전과 대중화에 크게 기여할 것이라고 언급했다.

현재 AI 에이전트의 가능성을 확장하기 위해 더 큰 규모의 AI 모델을 만들고 있는 부분에 대해 LG AI 리서치의 이문태 박사는 “산업계에서는 스케일링에 초점을 맞추고 점점 더 큰 모델을 구현하고 이를 이용해 지금까지 할 수 없었던 새로운 일을 가능하게 만들고 있다”고 말했다. 하지만 비용적인 문제로 대형 모델 개발이 어려운 학계에서는 다양한 모델의 복합적인 조합으로 새로운 가능성을 확보해 나가고 있다며, “이런 서로 다른 방향성으로 인해 학계와 산업계 간의 긴밀한 협력이 더욱 강화되고 있으며, 이런 협력이 AI 에이전트를 실체화하는 데 도움이 될 것으로 기대한다”고 밝혔다.

더 나은 인간이 되는 데 도움 줄 것

그렇다면 과연 AI 에이전트는 우리에게 어떤 효용가치를 제공할 수 있을까?

이에 대해 김윤 박사는 가장 큰 것은 바로 시간의 절약과 생산성의 향상이라고 말했다. 예를 들면 가사 시간, 업무 시간 절약 등 AI 에이전트는 삶의 많은 부분을 자동화함으로써 보다 근본적인 부분에 집중할 수 있게 해 줄 것이다. 마치 개인 비서가 수많은 잡무를 대신 처리해 주는 것처럼 말이다.

이문태 박사는 “정보의 접근성 측면에서 바라보면, AI 에이전트는 기존의 검색 엔진이나, 최근 등장하고 있는 생성 AI를 기반으로 검색 결과를 요약해 전달하는 서비스에 그치지 않고, 다양한 전문 지식과 정보를 기반으로 개인 교사처럼 사용자에게 친절하게 가르쳐 주는 서비스로 발전할 수 있다”고 AI 기능의 확장성에 관해 설명했다.

AI 환각 해결하려면 신뢰할 수 있는 AI 필요

AI는 AI 에이전트를 향해 빠르게 발전해 나가고 있지만, 아직 극복해야 할 과제 또한 남아있다.

통 장 교수는 AI의 환각 현상을 가장 시급히 해결해야 할 문제로 꼽았다. AI의 환각은 사람들에게 진실과 만들어진 거짓말을 섞어서 제공해 사용자들이 진실조차 신뢰할 수 없게 만든다는 이유 때문이다.

AI 에이전트는 일상에서, 그리고 업무 속에서 다양한 종류의 서비스를 제공하게 될 것으로 예상된다. 만약 사용자들이 이런 AI 에이전트가 제공하는 정보와 자동화된 작업을 신뢰할 수 없다면, AI 에이전트의 도입과 활용은 미뤄질 수밖에 없어서다.

통 장 교수는 “AI 에이전트가 환각으로 만들어진 정보를 제외하거나 명시하는 방법 등이 필요하다”며 “아마도 5년 이내에 이런 신뢰할 수 있는 AI가 등장할 것으로 예상된다”고 설명했다.

그는 또한 AI 에이전트가 유용성을 확보하기 위해서는 스스로 데이터를 생성하고, 그 데이터를 활용할 수 있어야 한다고 말했다. 강화학습과 같은 AI를 더 잘 학습시키기 위한 새로운 기술이 필요하다는 것이다.

또한 현재의 LLM에서 가장 부족한 부분으로 장기기억과 단기기억 모두 제대로 구현하지 못하고 있다는 것이라고 지적했다. 통 장 교수는 “장기기억은 경험을 통해 학습하고 모델을 통해 점점 더 향상될 수 있지만, 챗GPT의 프롬프트와 같은 단기기억은 아직 많은 개선이 필요하다”며 “결국 단기기억으로 대화를 기록하고 여기서 사용자에 대한 맥락을 파악해, 더 개인화되고 유용한 개인 비서를 만들 수 있다. 단기기억을 모아 장기기억을 형성함으로써 선호도 등을 기록할 수 있기 때문”이라고 말했다.

능동적이고 실용적인 AI 에이전트 필요

AI 에이전트는 사용자가 허용하는 범위 내에서 사용자가 누구인지, 어디에서 왔는지, 어디로 가는지, 누구를 만나는지, 특정 시점에 관심사가 무엇인지 등 사용자에 대한 세부적인 정보를 수집해야 한다.

사용자 정보를 바탕으로 만들어진 맥락에 따라 사용자에게 적정한 장소에서 적절한 시점에, 정보를 자연스럽게 제공해야 하므로, 많은 연구와 개발이 필요하다. 사용자 경험을 얼마나 잘 디자인해 능동적이고 실용적인 AI 에이전트를 만들 수 있느냐가 성패를 좌우할 것이다.

김윤 박사는 “AI 에이전트가 유용성을 확보하려면 식당 예약이나 여행, 교육, 결제, 건축 등 사람들이 실제로 기억하고 수행하기에 번거롭거나 힘들고 귀찮은 일을 해결할 수 있어야 한다”고 말했다. 그는 AI 에이전트의 잠재력이 무궁무진하다며 “미래의 AI 에이전트는 하루 종일 나를 위한 개인 비서 역할을 하게 될 것이다. 사용자가 하루 종일 접하는 모든 작업을 능동적으로 처리하고, 사용자는 어떤 일이 진행되고 있는지, 놓치는 것은 없는지 걱정할 필요 없이, 마지막에 확인하고 피드백을 주기만 하면 되는 형태로 발전할 것”이라고 주장했다.

더 많은 데이터, 더 다양한 데이터 확보해야

AI 에이전트가 우리 생활에 원활하게 활용되기 위해서는 많은 데이터를 AI 에이전트와 공유해야 한다. 또한 기본 모델을 학습하고, 만들어진 모델을 파인튜닝 하는 과정에도 수많은 개인 데이터가 필요하다. 또한 이런 데이터를 AI가 지속적으로 관리하고 업데이트해야 한다.

지금까지 AI에 사용되는 대부분의 데이터는 웹에 있는 데이터를 중심으로, 도서관의 디지털 데이터처럼 인간이 만들고, 큐레이팅하고, 수집한 데이터이며, LLM을 학습에 유용한 데이터로 사용돼 왔다. 반면 최근 인기를 끌고 있는 멀티모달 모델은 사진이나 동영상, 음악, 음성 등이 주요 학습 데이터가 되고 있으며, 점점 더 많은 데이터를 소비하고 있다. 그리고 이 과정에서 저작권 문제, 개인정보 보호 등의 문제가 대두되고 있으며, 또 이런 데이터를 확보하고 활용하는 방법에 대해서도 개선이 필요하다.

이문태 박사는 “최근에는 데이터에서 개인정보 유출을 감지하는 기능을 갖춘 AI를 활용해 해당 정보를 선택적으로 제거함으로써 더욱 다양한 종류와 대량의 데이터를 확보하는 알고리즘까지 개발했다”며 “이외에도 LLM을 이용해 새로운 결과물을 생성하는 것에 그치지 않고 이를 평가하고 피드백을 제공하며, 더 나은 데이터를 생성하도록 자체 진화하는 알고리즘까지도 등장하고 있다”고 말했다. 그는 이런 노력이 향후 AI 에이전트, 그리고 AGI가 요구하는 더욱 다양하고도 대량의 데이터를 확보할 수 있는 밑거름이 될 것이라고 예견했다.

또 한차례의 지식 습득의 방식 변화 예고

전문가들은 AGI의 발전과 AI 에이전트의 등장이 인류가 지식을 습득하고 사용하는 방식을 바꿔 나갈 것으로 예상했다. 문자의 등장, 인쇄 기술의 발전, 그리고 인터넷의 등장이 그랬듯이 인류가 지식에 접근하는 방식을 한 단계 끌어올릴 것이라고 기대하기 때문이다.

이는 AI가 인류에게 하나의 거대한 도전과제를 던지고 있는 것이나 마찬가지다. 김윤 박사는 “AI는 디지털 데이터와 인터넷을 통해 수천 년 동안 생성, 축적된 데이터를 학습하고 어떤 부분에서는 오히려 인간보다 더 뛰어난 능력을 보여주고 있다. 이런 상황에서 인간은 예술, 철학, 종교와 같은 인간이 정말 중요하다고 생각하는 것을 발전시켜야 할 책임이 있다”며 “이제 인간은 무엇이 인간을 인간답게 만드는지에 대해 생각해야 한다. 이는 AI가 우리에게 가르쳐 줄 수 없는 부분이다. 인간은 AI가 상상할 수 없는 새롭고 이색적이고 믿을 수 없는 것들을 생각해 낼 것”이라고 확신했다.