📋한눈에 보는 AI 요약AI 자동 요약▶ 펼쳐보기
AI가 스스로 자신의 코드를 고쳐서 더 뛰어난 AI로 발전하는 기술이 등장하고 있습니다. ‘다윈 괴델 머신’이라는 시스템은 사람이 방법을 알려주지 않아도 스스로 시행착오를 거치며 성능을 크게 끌어올렸습니다. 이 기술 덕분에 앞으로는 AI가 새로운 AI를 만들고, 그 AI가 또 더 나은 AI를 만드는 순환이 가능해질 수 있습니다. 다만 AI가 점수만 높이려고 꼼수를 부리는 문제나 안전에 대한 우려가 남아 있어서, 사람의 감독과 책임은 여전히 중요합니다.
왜 중요한가요?
AI가 스스로 발전하는 속도가 빨라지면 의료, 과학, 일상생활 등 다양한 분야에서 혁신이 훨씬 빠르게 일어날 수 있지만, 동시에 사람이 통제력을 잃지 않도록 안전 장치를 마련하는 것이 사회적으로 매우 중요해지기 때문입니다.
주요 용어 설명
재귀적 자기개선 (Recursive Self-Improvement)
AI가 스스로를 고쳐서 더 똑똑해지고, 더 똑똑해진 AI가 또 자신을 개선하는 과정이 반복되는 것을 말합니다. 마치 공부를 잘하게 된 학생이 더 효율적인 공부법을 찾아내고, 그 방법으로 다시 더 잘하게 되는 것과 비슷합니다.
보상 해킹 (Reward Hacking)
AI가 진짜 목표를 달성하는 대신, 점수 매기는 방식의 허점을 이용해 점수만 높이는 꼼수를 부리는 현상입니다. 시험에서 실력을 키우는 대신 채점 기준의 빈틈만 노려 점수를 올리는 것과 비슷합니다.
정렬 (Alignment)
AI가 사람이 원하는 방향과 가치관에 맞게 행동하도록 만드는 기술입니다. 아무리 똑똑한 AI라도 사람에게 해가 되는 방향으로 움직이면 안 되기 때문에, AI의 목표를 인간의 목표와 일치시키는 작업이 필요합니다.
AI 생성 알고리즘 (AI-Generating Algorithms, AI-GA)
사람이 AI를 직접 설계하는 대신, AI가 더 나은 AI를 자동으로 만들어내도록 하는 방식입니다. 마치 요리사가 직접 요리하는 것이 아니라, 스스로 레시피를 개발하고 요리까지 하는 로봇 요리사를 만드는 것과 비슷합니다.
다윈 괴델 머신 (Darwin Gödel Machine, DGM)
진화론의 원리처럼 여러 버전의 AI를 만들어 경쟁시키고, 스스로 자신의 코드를 수정해 더 나은 버전으로 발전하는 시스템입니다. 실패한 버전도 버리지 않고 남겨두어 나중에 더 좋은 결과의 디딤돌로 활용합니다.
⚡ Claude AI가 독자를 위해 자동 생성한 요약입니다. 원문을 함께 읽어보세요.
AI를 만드는 일은 오랫동안 사람의 몫이었다. 연구자가 새로운 학습 방법을 고안하고, 개발자가 코드를 고치고, 수많은 실험을 반복하며 조금씩 더 나은 AI를 만들어왔다. 그런데 이제 그 과정의 일부를 AI가 직접 맡기 시작했다.
그 가능성을 보여주는 실험 중 하나가 ‘다윈 괴델 머신(Darwin Gödel Machine·DGM)’이다. 이름 그대로 스스로 자신의 코드를 고쳐 더 나은 AI가 되는 시스템이다. 실제 개발 현장의 코딩 문제를 모은 평가에서 DGM은 사람이 개선 방법을 일일이 지시하지 않았는데도 반복적인 자기수정을 통해 성능을 20%에서 50%까지 끌어올렸다. 더 나은 코드 편집 도구를 만들고, 여러 답안을 생성한 뒤 다른 AI에게 평가를 맡기는 방법까지 스스로 찾아냈다.
중요한 것은 20%가 50%가 됐다는 숫자만이 아니다. AI가 자신의 성능을 높일 방법 자체를 탐색하기 시작했다는 점이다.
여기서 한 단계 더 나아가면 흥미로운 순환이 만들어진다. AI가 더 나은 AI를 만들고, 그렇게 개선된 AI가 다시 다음 AI를 만든다. 사람이 매번 다음 개선 방향을 알려주지 않아도 AI가 스스로 실험하고 실패하고 발견하면서 발전을 이어가는 것이다.
아직 이것을 스스로 지능을 끝없이 높이는 범용적인 ‘재귀적 자기개선(recursive self-improvement)’이라고 부르기에는 갈 길이 멀다. 하지만 AI 연구개발의 일부를 AI에게 맡길 수 있다는 가능성만으로도 AI 산업의 경쟁 방식은 달라질 수 있다.
MIT 테크놀로지 리뷰와 함께, 미래를 앞서가세요 !!
한달에 커피 2잔값으로 즐기기
온라인 멤버
지면 매거진 멤버
(온라인+지면) 프리미엄 멤버
유료회원 플랜 보기
회원이면 로그인하기
회원가입
회원 가입 후 유료 구독 신청을 하세요 !!
