[2025.07.28 뉴스레터] 퍼스널 AI 시대의 개막...LLM을 내 노트북에서 돌리는 법
안녕하세요, MIT 테크놀로지 리뷰 구독자 여러분.
오늘은 거대한 데이터센터가 아닌, 내 노트북 안에서 실행되는 대형언어모델(LLM)에 대해 소개합니다.
AI 모델은 더 이상 클라우드에서만 작동하지 않습니다. 최근 공개된 수많은 오픈소스 모델들은 이제 노트북, 스마트폰 등 개인 기기에서도 실행되고 있습니다. 그 배경에는 소형화된 경량 모델, 사용자 친화적인 인터페이스, 그리고 ‘개인 데이터는 내 컴퓨터 안에 두겠다’는 새로운 개인정보 보호 흐름이 있습니다.
실제로 자신의 노트북에서 LLM을 구동하기 위해 필요한 사항을 알아봅니다. 초보자를 위한 추천 툴(LM Studio, Ollama), 실행 가능한 모델의 종류, 메모리 요구 사항, 성능 차이 등 로컬 LLM을 사용하기 위해 필요한 사항에 대해 알아보고, 로컬 모델을 통해 AI 권력을 분산시키고 기술 주권을 확보하려는 움직임까지 짚어봅니다.
감사합니다. |
언어모델과 소프트웨어 개발에 관한 인기 블로그를 운영하는 사이먼 윌리슨(Simon Willison)은 세계 종말을 대비해 USB 메모리에 가장 좋아하는 대형언어모델(LLM) 몇 개를 저장해 놓았다고 합니다. 개발자들이 공개적으로 공유한 이 모델들은 사용자가 로컬 하드웨어에 다운로드하여 실행할 수 있습니다. 인류 문명이 붕괴한다면, 윌리슨은 이 모델들의 수십억 파라미터에 저장된 모든 지식을 활용해 도움을 줄 계획이라고 밝히고 있습니다.
윌리슨 외에도 개인 기기, 즉 로컬 환경에서 실행하는 ‘로컬 LLM’에 관심 있는 사람들은 많습니다. 로컬 LLM에 관한 레딧의 소모임(r/LocalLLaMA) 회원은 50만 명에 이이르고 있습니다.
개인정보 보호 문제를 걱정하는 사람들, 대형 LLM 기업들의 통제에서 벗어나고 싶은 사람들, 또는 단순히 새로운 실험을 좋아하는 사람들에게 자신의 기기에서 실행하는 로컬 모델은 챗GPT를 비롯한 웹 기반의 모델들 대신 사용할 수 있는 매력적인 대안입니다.
그렇다면 개인 노트북에 어떤 LLM을 설치할 수 있을까요? 그리고 이들을 어떻게 어떤 용도로 활용할 수 있을까요?
|
|
몇몇 주요 기술 중심지가 새로운 AI 중심지로 주목받고 있지만 AI는 이미 미국 전역의 작업 환경을 바꾸고 있다. AI가 지역 사회, 일터, 나아가 사회 전반에 어떤 변화를 불러올지는 아무도 정확히 알지 못한다. AI가 일자리에 미칠 영향을 예측하기 어려운 상황에서 많은 노동자와 지방 정부는 적절한 준비 및 적응 방안을 알아내기 위해 고심하고 있다. |
MIT 테크놀로지 리뷰 7-8월호 매거진 출시 |
MIT 테크놀로지 리뷰 7-8월호
AI는 이제 그림을 그리고, 음악을 작곡하며, 로봇의 형상을 설계하기까지 합니다. 이번 특집에서는 철학적 통찰부터 산업 현장에서 체감한 AI 창의성의 실용적 의미까지 다양한 시선을 담았습니다.
또한 ‘AI 에이전트’의 전면 자율화가 가져올 위험과 기회, MCP 같은 핵심 기술이 열어갈 새로운 미래에 대해서도 다루고 있습니다. 그리고 중국 기업들의 최신 전략까지, 기술 변화의 흐름을 읽는 데 도움이 될 기사들을 확인해 보세요.
|
MIT 테크놀로지 리뷰를 구독하여 가장 빠르게 테크 분야의 트렌드를 파악하세요. 아직 구독하지 않으셨다면 구독의 혜택을 누려보세요. |
MIT 테크놀로지 리뷰 코리아customer@technologyreview.kr92, Saemunan-ro, Jongno-gu, Seoul, Republic of Korea, 02-2038-3690수신거부 Unsubscribe |
|
|
