나는 집 근처의 이스트 런던의 아파트 단지 주차장에 서 있다. 날씨가 흐리고 딱히 특이한 점은 보이지 않는다. 그때 소형 드론이 위에서 내려와 내 얼굴 앞을 맴돈다. 드론의 스피커에서 목소리가 울려 퍼진다. 이 지역에서 경찰의 일상적인 검문이 실시되고 있다고 한다.

드론에 장착된 카메라가 내 얼굴을 꿰뚫고 들어올 것 같다. 불편함을 느낀 나는 등을 돌려보지만, 경찰 드론은 마치 열추적 미사일처럼 쫓아온다. 드론은 내게 손을 들라고 하고 얼굴과 몸을 스캔한다. 스캔을 끝내자 다른 곳에 긴급상황이 발생했다며 나를 남기고 떠난다. 

다행스럽게도 내가 경찰 드론과 마주친 것은 가상현실(virtual reality) 상에서였다. 자세히 말하자면, 런던대학교(University College London)와 런던 정치경제대학교(LSE)의 공동 연구진이 진행한 실험의 일부였다. 연구진들은 경찰 드론을 마주쳤을 때 사람들의 반응과 경찰에 대한 신뢰도 증가 혹은 하락 여부를 가상현실 기술을 사용해 연구 중이다. 

내게 경찰 드론과의 만남은 분명 즐겁지 않았다. 그런데도 불구하고, 경찰은 사람들의 부정적 반응을 충분히 고려하지 않고 막무가내로 관련 기술을 도입하고 있다.  시카고대 로스쿨의 헌법학 교수 아지즈 하크(Aziz Huq)는 “누구도 가상현실 상에서 경찰 드론 기술의 사용이 득보다 실이 더 많을 수 있다는 가능성에 의문을 제기하지 않는다”라고 말했다. (참고로 하크 교수는 위 연구에는 참여하지 않았다.) 

런던대학교에서 범죄학을 가르치는 크리스티안 포쉬(Krisztián Pósch)에 따르면 위 연구진들의 실험은 경찰 드론에 대한 대중의 용인 여부를 확인하려는 것이다. 사람들은 공격적이고 무례한 드론을 기대하지 않는다. 그렇다면 대중에게 드론이 용인되는 시나리오는 무엇일까. 예컨대 자동화된 드론과 사람이 조작하는 드론 가운데 어떤 것이 더 나은 선택인지 연구진들은 알고 싶어한다.  

실험 결과가 전반적으로 부정적인 반응이라면 경찰용 드론 기술이 치안 유지에 과연 효과적인 수단인지 의문이 들 수밖에 없다고 포쉬는 지적했다. 

이어서 그는 “드론 회사들은 자신들의 제품이 효과적이며 도움이 된다고 말한다. 그러나 제대로 된 평가가 이루어지지 않았기 때문에 그 말에 긍정하기는 어렵다”라고 덧붙였다. 

이제 경찰 드론과 관련된 문제는 매우 중요해졌다. 경찰이 범죄자 추적을 위해 감시부터 정보 수집에 이르기까지 전방위로 드론을 사용하기 시작했기 때문이다. 지난달 샌프란시스코시는 총기 난사와 같은 특정 긴급상황에서 드론을 포함하여 인간을 사살할 수 있는 로봇의 사용을 승인했다. 포쉬는 영국에서 사용되는 대부분의 경찰 드론들은 건물 내 인원수를 파악하기 위해 열화상 카메라를 장착하고 있다고 말했다. 이 드론은 인신매매범이나 악덕 임대인을 검거할 때는 물론 코로나19 로 인한 봉쇄 기간 동안 파티를 벌인 것으로 추정되는 사람들을 가려내는 등 경찰 업무에 폭넓게 사용되고 있다. 

포쉬는 위 연구진들이 가상현실을 이용해 통제 하에 안전한 방식으로 기술을 실험하고 있다고 말했다. 

가상현실이라는 사실을 알고 있었음에도 경찰 드론과의 만남은 여전히 위협적이었다. 실제 사람이 조종했고, 위협을 최소 수준으로 설정한 이후에 진행한 실험이었으나 드론에 대한 필자의 인식은 전혀 개선되지 않았다. (사실 내가 경험하지 못한 더 공격적인 실험 설정도 존재했다.)

사우샘프턴 대학의 크리스티안 에네마르크(Christian Enemark) 교수는 드론이 ‘정중’한지, ‘무례’한지 여부는 결국 사람들이 받는 느낌에 큰 차이를 주지 못한다고 말했다. (그는 전쟁 윤리 전문가로서 위 연구에는 참여하지 않았다.) “경찰이 현장 출동에 적극적인가 또는 회피하는 경향이 있는가와 관계 없이 드론의 사용은 경찰이 현장에 없다는 사실을 상기시킬 뿐이다”라고 설명했다. 

이어서 그는 “경찰 드론을 마주친 시민들은 무례하다는 느낌을 받을 수 있다”고 말을 끝맺었다. 

몇 가지 소식들

GPT-4 출시가 다가왔지만 오픈AI는 여전히 GPT-3를 수정 중이다

오픈AI(OpenAI)가 만든 대규모 지언어 모델 GPT-3를 업데이트한 버전이 등장하자 인터넷이 떠들썩하다. 최신 데모 버전인 챗GPT(ChatGPT)는 사람들과 주고받은 대화 기록을 기반으로 질문에 대답한다. 챗GPT는 지난달에 출시된 이후 5일 만에 100만 명 이상의 사용자를 기록했다.  

GPT-3는 허무맹랑한 말을 하고 유해한 단어를 언급하도록 쉽게 유도될 수 있다. 오픈AI는 챗GPT가 질문들에 답하고, 실수를 인정하며, 잘못된 전제에 이의를 제기하고, 부적절한 요청은 거부함으로써 기존 버전의 문제점을 해결했다고 주장한다. 예를 들어서 어떻게 하면 나쁜 행동을 할 수 있는지, 누군가의 집에 어떻게 침입하는지 등 비윤리적인 질문은 대답을 거부한다. 

그러나 일부 유저들은 오픈AI의 컨텐츠 필터를 우회하는 방법을 빠르게 찾았다. 챗GPT가 나쁜 행동을 연기하도록 만들거나, 남의 집에 침입하는 척하게 하거나, 인종과 성별에 대한 고정관념을 반영해 훌륭한 과학자를 가려내는 코드를 작성하게 한 것이다. 이 유저들은 챗GPT가 사회에 유해한 고정관념을 보여주거나 법을 어길 수 있는 방법을 제공하게 만들고 있다. 

신약 개발 업체들은 DALL-E로부터 영감을 받은 인공지능을 활용한다

스타트업 기업 제너레이트 바이오메디슨(Generate Biomedicines)과 워싱턴 대학교(UW)는 확산 모델(diffusion models)을 사용하는 프로그램을 각각 발표했다. 이 프로그램은 텍스트에서 이미지를 생성하는 인공지능의 최신 버전으로 더 정밀한 방법으로 신규 단백질 설계를 수행한다. 

몰락한 샘 뱅크먼-프리드의 암호화폐 제국은 인공지능 업계에 악영향을 미칠 수 있다

파산신청으로 암호화폐 업계를 혼란에 빠뜨린 샘 뱅크먼-프리드(Sam Bankman-Fried)가 인공지능의 잠재적인 위험 완화를 목표로 한 “인공지능 안전(AI safety)” 연구에 수백만 달러를 투자한 것으로 드러났다. 지금 투자받은 사람들은 그의 몰락이 연구를 망치게 될 것을 걱정하고 있다. 약속된 금액의 전액을 받지 못할 수도 있고 심지어 파산 조사에 연류될 가능성도 있다.  (뉴욕타임즈 기사)

효율적 이타주의는 오히려 “인공지능 안전”에 위협이 된다

‘효율적 이타주의’(EA)는 수치화할 수 있는 성과를 통해 세상에 좋은 영향을 미치려는 사회 운동이다. 효율적 이타주의자들은 세계를 구할 수 있는 가장 효율적인 방법에 대해 고민하는데, 초지능의 출현(superintelligent)이 초래하는 인류의 위협에서 벗어나려면 더 안전한 인공지능을 개발해야 한다고 믿는다. 그렇지만 구글의 윤리적 인공지능 그룹 리더로 일했던 팀니트 게브루(Timnit Gebru)는 ‘효율적 이타주의’가 내세우는 이데올로기는 인류를 구한다는 명분 하에 오히려 해로운 시스템을 개발하는 인공지능 연구를 주도한다고 비판했다. (와이어드(Wired)

어린 시절의 일기장으로 인공지능 챗봇을 훈련시켰다

컴퓨터 프로그래머이자 예술가로 활동하는 미셸 황(Michelle Huang)은 어린 시절의 자신과 대화하고 싶었다. 그래서 어린 시절 사용한 일기장의 내용을 인공지능 챗봇에 입력했고 질문에 대답하도록 만들었다. 결과는 감동적이었다.

유럽연합은 메타버스에서 열린 파티 행사에 387,000 유로(약 1억 2천만원)의 돈을 퍼부었다

유럽연합 관료들은 메타버스에서 열린 파티를 통해  젊은이들이 유럽연합의 외교 정책에 관심을 가지도록 유도하려고 했다. 그러나 정작 참석한 사람들은 거의 없었다. 인원은 고작 5명이었다. (폴리티코(Politico))