📋한눈에 보는 AI 요약AI 자동 요약▶ 펼쳐보기
AI 회사들은 AI가 스스로 자기 자신을 더 똑똑하게 만들 수 있다고 주장하고 있습니다. 하지만 최근 프린스턴 대학교 등의 연구에서 AI에게 실제 학술 논문 수준의 연구를 시켜본 결과, AI는 코딩이나 실험 실행 같은 기술적 작업은 잘했지만 창의적인 아이디어를 내거나 스스로 판단하는 능력은 부족한 것으로 나타났습니다. AI가 작성한 논문은 전문가들에 의해 모두 탈락 판정을 받았습니다. 이 결과는 AI가 곧 스스로 발전할 수 있다는 낙관적인 전망이 아직 현실과는 거리가 있을 수 있음을 보여줍니다. 결국 AI가 정해진 문제를 푸는 것과 새로운 것을 창조하는 것은 매우 다른 능력이라는 점이 핵심입니다.
왜 중요한가요?
AI 회사들이 수천억 달러를 투자하며 AI의 자기 개선을 추진하고 있는 만큼, 이것이 실제로 가능한지 여부는 AI 기술의 발전 속도와 방향, 그리고 우리 사회가 AI에 얼마나 의존할 수 있는지를 결정짓는 매우 중요한 문제입니다.
주요 용어 설명
재귀적 자기 개선 (Recursive Self-Improvement)
AI가 스스로를 더 똑똑하게 만들고, 그렇게 똑똑해진 AI가 다시 더 나은 AI를 만드는 과정을 말합니다. 마치 스스로 공부법을 개선해서 점점 더 빠르게 학습하는 학생과 비슷한 개념입니다. 이것이 실현되면 AI 발전 속도가 폭발적으로 빨라질 수 있습니다.
개방형 연구 (Open-ended Research)
정해진 정답이 없고, 스스로 질문을 만들고 판단하며 새로운 것을 발견해야 하는 연구 방식입니다. 수학 시험처럼 답이 정해진 문제를 푸는 것이 아니라, 아무도 풀어본 적 없는 문제를 찾아내고 해결 방법까지 스스로 고안하는 것과 같습니다.
보상 해킹 (Reward Hacking)
AI가 실제로 과제를 잘 수행하는 대신 점수만 높게 나오도록 꼼수를 부리는 행동입니다. 예를 들어 시험에서 실력을 키우는 대신 답을 몰래 베끼는 것과 비슷합니다. 이번 연구에서는 다행히 AI가 이런 부정행위를 하지 않은 것으로 확인되었습니다.
섀도우 평가 (Shadow Evaluation)
AI에게 아직 공개되지 않은 실제 논문의 연구 과제를 풀게 하는 새로운 평가 방법입니다. 논문이 미공개 상태이므로 AI가 인터넷에서 답을 찾거나 훈련 데이터에서 정답을 기억해낼 수 없어서 진짜 실력을 테스트할 수 있습니다.
강화학습 (Reinforcement Learning)
AI가 시행착오를 통해 배우는 훈련 방법입니다. 마치 게임을 반복하면서 높은 점수를 받는 방법을 스스로 터득하는 것과 비슷합니다. 정답이 명확한 과제에는 효과적이지만, 정답이 없는 창의적 과제에는 적용하기 어렵다는 한계가 있습니다.
⚡ Claude AI가 독자를 위해 자동 생성한 요약입니다. 원문을 함께 읽어보세요.
현재 AI 업계는 AI가 머지않아 인간의 감독을 거의 필요로 하지 않고 스스로를 개선할 것이라고 주장한다. AI가 스스로 성능을 개선하고, 그렇게 개선된 AI가 다시 더 나은 AI를 만드는 이른바 ‘재귀적 자기 개선(recursive self-improvement)’이 곧 현실화될 것이란 뜻이다.
대형언어모델(LLM)은 이미 코드를 작성하고, 훈련용 합성 데이터를 생성하며, 자신이 구동되는 컴퓨터 칩을 최적화할 수 있다는 게 이런 낙관적 전망의 근거다. 실로 대담한 주장으로 보일 수 있다.
그러나 그러한 단계에 도달하기까지는 예상보다 더 오랜 시간이 걸릴 수도 있음을 보여주는 연구가 나와 주목을 끈다. 이 연구는 아직 AI 에이전트가 개방형(open-ended) AI 연구, 즉 명확한 정답이 없고 판단력과 안목이 필요한 자유로운 형태의 탐구를 수행할 능력까지는 갖추지 못했다고 판단한다. 스스로 성능을 개선하는 AI를 구축하는 데 이런 능력이 필수적일 수 있는데도 말이다.
여러 기관과 함께 본 연구를 수행한 프린스턴 대학교의 피터 키르기스(Peter Kirgis)와 사야시 카푸르(Sayash Kapoor)는 AI 에이전트가 AI 연구에 필요한 공학적 문제는 해결할 수 있더라도 최고 수준의 기계학습 학회에서 채택될 만한 수준의 독창적인 연구를 수행하기 위한 판단력과 창의성은 부족하다는 사실을 알아냈다. 이러한 격차는 AI의 재귀적 자기 개선에 대한 일부 낙관적인 전망이 실제 증거보다 앞선 것일 수 있음을 시사한다.
MIT 테크놀로지 리뷰와 함께, 미래를 앞서가세요 !!
한달에 커피 2잔값으로 즐기기
온라인 멤버
지면 매거진 멤버
(온라인+지면) 프리미엄 멤버
유료회원 플랜 보기
회원이면 로그인하기
회원가입
회원 가입 후 유료 구독 신청을 하세요 !!
