These robots know when to ask for help

언제 도움을 요청해야 하는지 아는 로봇들

대형 언어모델에 신뢰도 점수를 결합하면 불확실성을 인식하는 데 도움이 된다. 이 방법을 활용하면 안전하고 믿을 수 있는 로봇을 만들 수 있을지도 모른다.

식탁 위에 플라스틱 그릇 하나와 금속 그릇 하나가 놓여 있다. 이때 로봇에게 그릇을 집어서 전자레인지에 넣으라고 요청하면 어떤 그릇을 선택할까?

인간이라면 이렇게 모호한 요청을 들었을 때 명확하게 설명해 달라고 말할 수 있지만, 로봇은 금속 그릇을 전자레인지에 집어넣어서 불꽃이 튀게 만들 수도 있다.

‘노노(KnowNo)’라는 이름의 새로운 학습 모델은 모호한 명령을 들었을 때 로봇이 도움을 요청할 수 있도록 학습시킴으로써 이러한 문제를 해결하고자 한다. 동시에 로봇이 필요한 경우에만 명확한 설명을 요청할 수 있도록 하여 불필요한 반복은 최소화한다. 이 모델을 적용한 결과, 이용자를 너무 귀찮게 하지 않으면서도 이용자가 원하는 바를 이해하려고 노력하는 스마트 비서(smart assistant)가 탄생했다.

ALLEN REN ET AL./PRINCETON UNIVERSITY

이러한 신기술 개발을 도운 구글 딥마인드(DeepMind)의 연구 과학자 앤디 쩡(Andy Zeng)은 “로봇들은 특정 상황에서는 강력한 성능을 발휘할 수 있지만 상식을 요구하는 일반적인 작업은 잘하지 못하는 경우가 많다”고 설명했다.

예를 들어 콜라를 가져오라고 요청한 경우 로봇은 우선 주방에 들어가 냉장고를 찾아서 냉장고 문을 열어야 한다는 것을 이해해야 한다. 기존에는 이렇게 세세한 하부 단계들을 수동으로 프로그래밍해야 했다. 그렇지 않으면 사람들이 음료를 주로 주방에 보관한다는 사실을 알지 못할 것이기 때문이다.

MIT 테크놀로지 리뷰와 함께, 미래를 앞서가세요 !!
한달에 커피 2잔값으로 즐기기
온라인 멤버
지면 매거진 멤버
(온라인+지면) 프리미엄 멤버

유료회원 플랜 보기 회원이면 로그인하기 회원가입

회원 가입 후 유료 구독 신청을 하세요 !!