fbpx

[칼럼] 우리는 AI의 실수를 얼마나 잡아낼 수 있나

대형언어모델은 오류가 있어도 망설이지 않는다. 틀린 답을 유창하게 내놓는 기술 앞에서, 우리의 검증 감각은 아직 준비가 필요한 상황이다.
📋한눈에 보는 AI 요약AI 자동 요약▶ 펼쳐보기

AI에게 한국 시도별 김 생산량 지도를 만들어 달라고 하면 1분 만에 깔끔한 결과를 보여주지만, 자세히 살펴보면 바다가 없는 충청북도에도 김 생산량이 표시되는 등 틀린 정보가 섞여 있습니다. AI는 자신감 있고 매끄러운 말투로 답하기 때문에 사람들이 무심코 그 결과를 그대로 믿어버리는 경향이 있습니다. 실제로 변호사들이 AI가 만들어낸 존재하지 않는 판례를 법원에 제출하는 등 심각한 사고도 여러 차례 발생했습니다. 앞으로 로봇이나 자율주행차처럼 현실 세계에서 AI를 쓸 때는 오류 예방과 검증 대책이 훨씬 더 중요해질 것이라고 글쓴이는 강조합니다.

왜 중요한가요?

AI를 일상과 업무에 점점 더 많이 활용하고 있는 지금, AI가 만들어낸 결과를 무조건 믿지 않고 반드시 검증하는 습관을 들여야 잘못된 정보로 인한 피해를 막을 수 있기 때문입니다.

⚡ Claude AI가 독자를 위해 자동 생성한 요약입니다. 원문을 함께 읽어보세요.

하루는 한국의 김이 해외로 인기리에 수출된다는 소식을 들었다. 그래서 나는 전국의 시도별로 김 생산량이 얼마나 될 지 정리해 보고 싶어졌다. 한국 지도 모양의 그림을 만든 뒤에 시도별로 김이 많이 생산되는 곳일 수록 짙은 색깔을 칠하는 방식으로 그림을 만들면 좋겠다고 생각했다.

별 일 아닌 것 같지만 생각해 보면 의외로 손이 갈 곳이 꽤 있는 작업이다. 일단 시도별 연간 김 생산량을 정리해 놓은 믿을 만한 자료를 검색해서 찾아야 한다. 그리고 그 숫자에 따라 어떤 색깔로 칠을 할 지 정해야 한다. 대단히 복잡한 이론이 필요한 작업이라고 할 수는 없지만 그림판 정도의 간단한 프로그램 으로 해결하려면 어떤 숫자를 어느 정도 짙은 색깔로 만들어야 하는 지 계산 방법을 정하고 그 계산 결과에 따라 숫자를 입력해 색깔을 만드는 작업을 일일히 해야 한다. 이런 작업을 전에 해 본 적이 없고 마땅한 별도의 프로그램을 갖고 있지 않다면 한국 지도에 색칠을 한다는 것 자체도 귀찮은 일일 수 있다. 우선 아무 색깔도 없이 시도의 경계 만을 선으로 그려 놓은 커다란 한국 지도 그림을 어디에서인가 구해와야 한다. 그리고 거기에 하나 하나 색깔을 바꿔 가며 색칠을 해야 하는데 처음부터 잘 고려 하지 않으면 그림의 작은 틈이나 구석에는 색칠이 잘 안 되는 수도 많다. 이런 경우에는 그림을 확대해서 틈새를 매워 주는 작업을 해야 한다. 그게 아니면 이런 일들을 더 편리하게 해 줄 수 있는 좀 더 좋은 프로그램을 설치하고 그 프로그램을 쓰는 방법을 배워야 한다.

MIT 테크놀로지 리뷰와 함께, 미래를 앞서가세요 !!
한달에 커피 2잔값으로 즐기기
온라인 멤버
지면 매거진 멤버
(온라인+지면) 프리미엄 멤버

유료회원 플랜 보기 회원이면 로그인하기 회원가입

회원 가입 후 유료 구독 신청을 하세요 !!