2022년 생성형 AI가 새로운 기술 트렌드로 등장한 이후로 전 세계를 뒤흔들고 있다. 생성형 AI의 핵심 엔진 역할을 맡아온 대형언어모델(Large Language Model, LLM)은 우리 인간이 축적한 지식 정보를 학습하여 수천 억에서 조 단위에 이르는 거대한 매개변수(parameter)를 갖는 초대형 AI 모델로 진화를 거듭하면서 성능 경쟁을 벌이고 있다.

반면 다른 한 편에서는 AI 모델의 대형화 및 고성능화와 함께 개인 PC나 스마트폰에서도 실행할 수 있는 매우 작은 크기로 줄인 소형언어모델(Small Language Model, SLM)도 등장하면서 AI의 적용 영역을 끝없이 확장하고 있다.

최근에는 더 긴 추론 시간을 부여하고 단계별 사고를 행하도록 함으로써 복잡한 문제도 풀어낼 수 있게 된 ‘추론 모델(Reasoning Model)’이 등장하고 있다. 추론 모델은 난이도가 높은 논리적·과학적 문제까지도 단계적·다양한 측면의 접근법을 고려하고 각 장단점을 분석해 최적의 방법으로 답변을 제시할 수 있다.

그리고 이를 넘어 이제는 AI가 환경과 상호작용하며 주어진 목표를 달성하기까지 다단계의 복잡한 과정을 반복할 수 있도록 한 AI 에이전트가 떠오르고 있다. 특히 전 세계적으로 수많은 선도 기술 기업과 스타트업들이 새로운 에이전트를 출시하며 시장에서 우위를 차지하기 위해 경쟁하고 있는 중이다.

AI 에이전트로 향하는 이 기술 진화의 흐름은 최근 등장한 ‘MCP(Model Context Protocol)’가 업계 표준으로 자리 잡기 시작하면서 빠르게 성장세에 접어들고 있다. 과연 MCP가 무엇이고, 이것이 우리의 업무 환경을 어떻게 변화시킬 수 있을지 알아본다.

AI 시스템의 외부 도구와 시스템 연동은 어떻게 이루어져 왔나

LLM 기반의 일반적인 생성형 AI 솔루션은 사용자가 입력한 프롬프트에 대해 이미 학습된 데이터에 의존해 텍스트와 이미지 등을 생성하는 시스템으로, 주로 질문에 대한 답을 하는 단순한 상호작용을 하는 방식으로 동작한다.

그러나 AI 에이전트는 단순한 응답 생성을 넘어 자율성을 가지고 주어진 환경과 상호작용하며 일련의 단계를 계획하고 도구를 사용할 수 있다. 이런 특징을 이용해 사용자가 제시한 목표를 달성하기 위해 실제적인 행동까지 할 수 있는 시스템이다. 따라서 얼마나 다양한 도구를 사용할 수 있는가에 따라 성능에서 차이가 벌어진다. 비유하자면 단 한 개의 십자 드라이버를 가진 작업자와 다양한 규격의 드라이버는 물론 렌치, 망치, 드릴 등을 포함한 공구세트를 보유한 작업자가 수행할 수 있는 업무에 차이를 보이는 것과 마찬가지다.

그런데 기존 시스템을 다양한 외부 도구와 통합하려면 각각의 외부 도구에 대한 API를 파악하고, 이에 기반하여 프로그램을 구현해야 하는데, 이 과정은 복잡하고 유지보수도 어려워진다. 따라서 AI 에이전트가 활용 가능한 도구를 확장하는 것은 쉽지 않은 과정을 거쳐야만 한다.

일례로, 사용자가 자신의 휴가 일정과 원하는 지역을 입력하면 사용자의 선호도를 감안하여 최적의 여행 일정과 숙소를 검색하여 사용자에게 보여주고, 사용자의 승인을 거쳐 예약까지 진행하는 AI 에이전트를 만든다고 가정해 보자.

사용자가 이런 서비스를 이용할 앱(예를 들면 챗GPT 같은 채팅 앱)과 외부 서비스를 연동할 수 있는 방법, 그리고 에어비앤비(Airbnb)와 같은 숙소 예약 서비스를 연결하기 위한 API를 확인한 후 규격에 맞추어 이 둘을 연동하는 프로그램을 개발해야 한다.

그런데 각각의 AI 채팅 서비스들이 서로 다른 장단점을 갖고 있어, 만약 사용자가 챗GPT 뿐만 클로드(Claude)나 제미나이(Gemini)와의 연동까지 고려하거나, 공항에서 예약한 숙소까지의 거리와 예상 소요 시간을 확인하기 위해서 구글 맵(Google Maps) API와도 연동하려 한다면 그때마다 연동 작업을 반복해야 한다.

즉 사용자가 자신의 디바이스에서 사용하려는 M가지 앱과 연동이 필요한 N가지 백앤드 서비스가 존재한다면, <그림 1>과 같이 ‘M × N’의 조합만큼 상호 연동 작업을 해야 할 수도 있다.

AI 에이전트 시대의 USB-C가 될 MCP(Model Context Protocol)

앤트로픽(Anthropic)은 이런 연동 과정을 간소화하고 AI 시스템이 간편하게 외부 도구나 데이터 소스에 접근하고 상호작용할 수 있도록 돕는 하나의 표준화된 프로토콜인 MCP(Model Context Protocol)을 오픈소스로 공개했다.

MCP는 크게 MCP Host, MCP Client, MCP Server 등 3개 요소로 구성된다. 우선 MCP Host는 챗GPT나 클로드, 제미나이 같이 이미 사용 중이거나 목적에 맞게 새롭게 구현한 AI 애플리케이션 혹은 에이전트로 사용자와의 직접적인 상호작용을 담당한다. MCP Client는 MCP Host와 MCP Server 사이를 클라이언트-서버 방식으로 연결을 담당하는 일종의 라이브러리다.

마지막으로 MCP Server는 특정 도구나 데이터 소스에 접근을 제공하는 서버로 개발자에 의해 준비된 하나 이상의 기능(이를 Tool이라 부른다)을 제공한다. 일반적으로 각각의 MCP Server는 여러 개의 Tool을 제공하는 경우가 대부분이다. 예를 들어 로컬 디스크에서 파일을 처리하기 위한 FileSystem MCP Server의 경우, 파일을 읽고(read_file), 쓰고(write_file), 폴더 리스트를 확인(list_directory)하며, 새로운 폴더를 생성(create_directory)하는 등 파일 시스템 관련한 여러 도구들을 갖고 있어, 이 MCP Server를 연결하는 것만으로도 손쉽게 필요한 작업을 수행할 수 있다.

즉, 앞서 <그림 1>과 같은 구성에서 사용자가 클로드 데스크톱(Claude Desktop)을 사용하는 경우를 MCP 기반으로 재구성하면 <그림 2>와 같이 표현할 수 있다.

여기서 핵심은 이미 현존하는 수많은 서비스와 연동되는 MCP Server가 이미 수 천 개가 존재하고 있다는 것이다. 앞에서 설명했던 에어비앤비나 구글맵과 같이 이미 널리 이용되는 대중적인 서비스는 별도의 MCP Server 개발 없이 MCP Host 단에서 비교적 간단한 설정만으로 연동할 서버를 구성함으로써 손쉽게 다양한 기능을 AI 시스템에 적용할 수 있다.

이처럼 MCP는 저마다 다른 과정을 거쳐 개발해야 했던 수많은 외부 서버와의 연동을 각각의 MCP Server를 통하여 하나의 통일된 프로토콜로 소통할 수 있도록 해준다. 그래서 MCP를 ‘AI 에이전트 시대의 USB-C’라고 말하는 경우도 있다.

그렇다면 현재 활용가능한 MCP Server에는 어떤 것들이 있는지 확인해 볼 필요가 있다. MCP Server를 모아놓은 디렉토리 서비스의 일종인 ‘스미더리(Smithery.ai)’나 ‘펄스 MCP(Pulse MCP)’와 같은 사이트를 보면, 이미 선택할 수 있는 서버가 4,000여 개에 달하고 있으며, 어지간한 도구는 이미 MCP Server로 준비되어 있는 경우가 많다. 새로운 AI 에이전트를 기획할 경우 수고를 줄이기 위하여 이러한 디렉토리 서비스에서 먼저 찾아보는 것이 좋다.

기존 AI 앱에 MCP Server를 연동하면 어떤 작업이 가능할까?

MCP Server 연동에 따른 기능 확장이 어떤 의미인지 실제 사례를 통해 알아보자.

개발에 대해 잘 모르는 일반인도 쉽게 이해할 수 있도록 비주얼 스튜디오 코드(Visual Studio Code)와 같은 개발 도구를 사용하지 않고 작업해 보자. 우선 MPC Host는 클로드 데스크톱(Claude Desktop) 앱을 선택했다. 이는 클로드가 MCP를 만든 앤트로픽의 AI 채팅 서비스이기 때문에 현재 대중적인 채팅 앱 중 유일하게 MCP Server 연동을 지원하기 때문이다.

<그림 5>에서 보듯 필자는 다음에 설명할 간단한 테스트 시나리오를 위해 로컬 파일 시스템을 액세스할 filesystem, 파일 시스템에서 이미지 파일을 읽어들일 image_reader, AI 기반 검색엔진 퍼플렉시티(Perplexity)를 위한 perplexity-ask 등 3개의 MCP Server를 ‘claude_desktop_config.json’ 파일에 각각 설정 후 연결했다. 아직은 MCP가 초기 단계에 있어 설정 과정에서 특정 파일을 에디터로 열어 문법에 맞게 직접 수정하는 등 불편한 작업이 필요하다(이러한 부분도 향후 사용자 친화적인 방식으로 개선될 것으로 보인다).

외부 도구와의 연동이 완료되면 MCP Host인 클로드 데스크톱은 자신이 활용 가능한 도구가 어떤 기능을 수행하는지 인지한다. <그림 6>은 퍼플렉시티를 이용해 검색한 결과를 일목요연하게 정리하라고 요청한 것이다. 이는 클로드가 사용자의 의도를 명확히 파악하여 자신의 LLM으로 직접 답변을 생성하는 것이 아니라 perplexity_research 도구에 수정한 프롬프트를 전송하고 그 결과를 받아 정리해주고 있다는 것을 확인할 수 있다.

또한 <그림 7>은 필자의 맥(Mac) 장비의 로컬 파일 시스템을 액세스할 수 있는 File system MCP Server와 이미지 파일을 읽는 Image Reader MCP Server를 설정하여, 특정 폴더 내의 이미지 파일을 읽고, 이미지의 내용을 간략히 글로 설명하도록 설정한 결과다. 이제 일련번호로 생성된 파일명으로 인해 직접 이미지 파일을 열기 전까지는 어떤 이미지인지 알 수 없었던 것을 내용을 쉽게 파악할 수 있는 직관적인 파일명으로 자동 변경하도록 작업을 수행했다.

만약 AI 에이전트가 작업을 수행한 결과를 이메일이나 스마트폰 왓츠앱(WhatsApp) 메시지로 동료에게 전송해야 한다면, 이런 기능을 수행하는 적절한 MCP Server를 찾고 MCP Host에 설정하는 것만으로 쉽게 자동화할 수 있다. 이처럼 다양한 도구를 유기적으로 연결해 사용할 수 있게 됨에 따라 AI 에이전트의 기능 확장에 대한 한계는 빠르게 허물어져 갈 것이다.

MCP 생태계는 풍성해질까?

지금까지의 설명을 통해 MCP에 대한 기본을 이해했다면 이제 MCP 생태계의 미래에 대해서도 알아보자.

앤트로픽에서 MCP를 발표한 것이 지난 2024년 11월 25일이었으니, 이제 고작 4개월이 조금 넘었을 뿐이다. 앤트로픽이 오픈AI의 경쟁사이기는 하지만 생성형 AI 분야에서 상대적으로 입지가 좁은 탓인지 그들이 이를 공개한 초기에는 큰 관심을 끌지 못했다.

필자 또한 앤트로픽 자신들조차 마이크로소프트나 구글, 혹은 애플과 같은 IT 업계의 거인들과의 경쟁에서 우위에 서는 것은 쉽지 않다고 판단하고, 이들이 돌파구로 선택한 것이 MCP였을 것이라고 생각하는 정도였을 뿐 MCP의 파급력에 대해서는 과소평가했다.

이런 인식을 바꿀 수밖에 없었던 사건이 바로 AI 기반 코드 에디터인 커서AI(Cursor AI)가 MCP를 활용하여 피그마(Figma)와의 통합을 구현한 것이다. 이는 디자인을 코드로 변환하는 작업이 얼마나 효율적으로 이루어질 수 있는지 보여주면서 MCP의 가능성에 대한 업계의 기대치를 끌어 올리기 시작했다. 이제는 오픈AI도 그들의 ‘Agents SDK’에 MCP 지원을 시작했고 챗GPT 데스크톱 앱과 ‘Responses API’에도 곧 MCP 지원을 추가할 계획이라고 발표하기에 이르렀다.

마이크로소프트 또한 MCP 지원을 천명하며 ‘애저 오픈AI(Azure OpenAI)’ 서비스와 MCP를 통합하여 AI 모델이 외부 서비스와 실시간으로 상호작용할 수 있도록 지원하고, ‘마이크로소프트 코파일럿 스튜디오(Microsoft Copilot Studio)’에도 MCP를 통합하여 AI 에이전트가 다양한 서버와 지식 데이터 소스를 쉽게 연동하고 액션을 취할 수 있도록 지원하고 있다.

MCP는 개발 도구와의 성공적인 통합을 계기로 부상하며 오픈AI나 마이크로소프트와 같은 주요 IT 기업들의 참여를 이끌어내었다. 그리고 이런 협력이 더 큰 결과로 이어져 생태계를 보다 풍성하게 변화시킬 것으로 예상된다.

MCP 도입으로 얻게 된 것들

지금까지 MCP가 AI 시스템의 외부 도구 및 데이터 소스와의 연동 과정에 존재했던 여러가지 제약과 비효율성을 빠르게 개선하고 있다는 점을 설명했다. 이를 좀 더 명확하게 정리하면 <표 1>과 같다.

MCP로 얻게 되는 이점은 이런 기술 측면의 차이 외에 숨은 부분까지도 고려하여야 한다. 그 중 대표적인 것이 벤더 종속성으로부터의 해방이다. MCP 이전에는 많은 툴들이 챗GPT 플러그인으로만, 어떤 데이터는 특정 벤더의 전용 API로만 연결되는 식으로 AI 플랫폼에 종속적인 통합이 대부분이었다. MCP는 모델을 불문하고 동작하는 개방형 표준이므로, 한번 MCP 서버로 구현된 기능은 다양한 LLM 모델에 기반한 도구에서 모두 활용할 수 있어 특정 벤더에 더 이상 종속될 필요가 없다.

또한 기업의 경우 AI를 사용하기 위해 민감한 정보를 외부로 전송하는 것이 어려운 경우도 많았다. 이제는 데이터가 있는 위치에 필요한 MCP Server를 직접 설치함으로써 중요한 정보를 외부에 노출시키지 않고 선택적으로 필요한 부분만 공유하는 프라이버시를 고려한 아키텍처 구성도 가능하다.

그리고 MCP는 AI 에이전트가 목표 달성을 위해 능동적으로 여러 도구를 단계적으로 사용할 수 있다는 장점으로 고객 지원의 자동화를 이룰 수도 있다. 고객지원을 위한 에이전트가 MCP를 통해 CRM 데이터베이스에 질의하고, 그 내용을 토대로 이메일을 작성하여 전송한 후 관련 시스템에 그 내용을 업데이트 하는 것처럼 다단계에 걸친 작업을 수행하는 것이 가능하기 때문이다. 그러면서도 주요 단계에 사람의 개입을 통한 통제가 가능하도록 ‘Human-in-the-loop’ 지점도 표준화시켜 보다 안전한 시스템을 구성할 수 있다는 점 또한 또 다른 이점이다.

여전히 개선과 고민 필요

여러 서버들을 조합하여 복잡한 작업을 자동화할 때 MCP의 장점이 극대화될 수 있지만 여전히 불편함은 남아있다. 예를 들면 스미더리(Smithery)와 같은 서비스를 통해 필요한 MCP Server를 찾아 수동으로 구성하고 활용하기 위한 환경을 설정하는 등의 일련의 작업을 수행하여야 한다는 것이 대표적인 불편 요소다.

현재 MCP 환경에서는 앞에서 설명한 사례에서처럼 에이전트는 명시적으로 설정한 서버들만 인식하며, 개발자나 사용자가 설정 파일에 MCP Server 주소와 실행 명령어를 등록해야 이를 통해 MCP Client가 그와 짝을 이룰 서버와 통신을 수행하는 것이다.

하지만 사용자의 편의성과 간편한 확장을 위해서는 AI 에이전트가 네트워크 상에 존재하는 MCP 서버들을 자동으로 탐색하고 활용하는 ‘동적 디스커버리(Dynamic discovery)’ 기능이 필요하다. 특히 새로운 MCP 서버가 등록됐을 때 이를 스스로 찾아내 활용할 수 있도록 발전한다면 MCP를 통한 AI 에이전트의 능력은 보다 빠르게 진화할 것으로 예상된다.

서둘러 보완하여야 할 보안과 신뢰

MCP의 장밋빛 미래를 위해서는 우선 보안과 신뢰라는 문제를 해결하여야 한다.

MCP Server는 주로 로컬에 설치되는 경우가 많은데, 앞서 예로 들어 설명한 ‘Filesystem MCP Server’의 경우 필자는 앤트로픽의 레퍼런스 구현을 이용했기에 믿을 수 있었지만, 스미더리나 펄스 MCP와 같은 ‘MCP Server’ 검색 사이트 외에도 자신이 원하는 기능을 제공하는 MCP Server 목록을 모아놓은 깃허브 레파지토리(GitHub repository)는 누구나 손쉽게 액세스할 수 있다는 것에 맹점이 있다.

검증되지 않은 MCP Server에 숨겨진 공격 코드가 있다면 전혀 예측하지 못한 끔찍한 결과를 초래하는 것도 충분히 가능하다. 따라서 현 시점에 MCP를 활용하려면 우선 많은 사람들이 이용하는 믿을만한 디렉토리 서비스를 이용하는 것을 추천한다. 또한 필요한 기능을 제공하는 MCP 서버가 여럿 존재할 경우에는 가급적 믿을 수 있는 업체가 제공하는 것을 선택할 필요가 있다. 만약 개인 개발자가 개발한 비공식 MCP Server만 있을 경우에는 누적 다운로드 수가 높은 것이 먼저 설치한 사람들을 통해 검증되었을 가능성이 높으니, 이런 MCP Server를 먼저 테스트해 보는 것도 방법이다.

MCP Server는 아직 치명적 보안 문제가 발견되지는 않았지만 그렇다고 충분한 검증 메커니즘을 갖춘 것도 아니다. 따라서 철저한 검토는 아무리 강조해도 지나침이 없을 것이며, 이와 더불어 신뢰성에 대한 문제도 함께 고민할 필요가 있다.

예를 들어 앞서 설명했던 휴가 일정을 제안하는 여행 AI 에이전트를 다시 한번 생각해 보자. 조건에 맞는 숙소를 검색하면 호텔, 펜션 등 여러 선택이 있을 수 있으므로 검색 대상이 되는 서비스도 에어비앤비나 호텔스닷컴(hotels.com) 등 여러 사이트가 될 수도 있다. 이때 한 숙소 검색 서비스 업체가 자신의 MCP Server를 제공하면서 검색 시 특정 호텔 체인에 더 높은 가중치를 부여하는 방식으로 사용자의 선택을 왜곡할 수도 있는 것이다.

이런 문제를 사전에 예방하기 위해서는 AI 에이전트도 이런 이해 관계를 명확히 공개하는 정책을 시행하고, MCP Server 제공자는 상업적 이해 관계를 명시적으로 공개할 필요가 있다. 예를 들면 “이 에이전트는 A 호텔 체인과 제휴 관계가 있으며, 이것이 추천에 영향을 줄 수 있습니다”라고 표시하는 방식이 필요할 수도 있다.

이처럼 AI 에이전트가 MCP Server와 커뮤니케이션 할 때 이면에서 정보 왜곡을 시도하지 않도록 좀 더 세심한 기술 검토 속에 규제와 감독에 대한 노력도 함께 기울여야 할 것이다.

AI는 이미 모든 개인과 기업의 경쟁력 확보에 필수 기술 요소로 자리 잡고 있다. 그리고 MCP는 그 속에서 AI와 외부 세계 간의 연결 패러다임을 완전히 바꾸고 있다.

이로 인해 AI 에이전트가 다양한 소스의 지식 정보를 다양한 도구로 다룰 수 있는 연결성이 비약적으로 향상될 것으로 보인다. 아직 MCP를 접하지 못했다면, 이제 자신의 AI 도구에 MCP를 적용하여 새로운 능력을 부여함으로써 실제적 경험 속에서 이를 발전적으로 이용할 수 있는 방법에 대해 고민해 보길 바란다.

이 글을 쓴 최윤석 Tech PM은 2016년까지 세계적인 기술 기업, 오라클에서 경력을 쌓으며 인터넷 기술 및 모바일 기술 등을 섭렵하고 또 관련 지식을 전파했다. 이후 한국마이크로소프트에서 기술 전문가로서 활발히 활동하고 있다. 개발자 플랫폼 사업본부와 커머셜 소프트웨어 엔지니어링 조직을 이끌어 왔으며, 현재 Industry Solutions Engineering에서 Tech PM을 맡고 있다.