생성형 AI를 활용한 악성코드와 사기 수법이 빠르게 확산되며 사이버 범죄의 진입 장벽이 낮아지고 있다. 전문가들은 완전 자동화 공격은 아직 제한적이지만, AI가 범죄의 효율성과 파급력을 크게 높이고 있다고 경고한다.

사람들이 의도치 않게 AI 챗봇과 유대감을 맺는 사례가 늘고 있다. 이는 외로움을 덜어주기도 하지만 정서적 의존과 위험을 초래할 수 있다는 우려도 나온다.

AI 아바타가 점점 더 사실적인 표정과 억양을 구현하며 사람과의 차이를 좁혀가고 있다. 머지않아 이들은 대화까지 가능해질 전망이다.

구글의 최신 영상 생성 AI 모델이 출시된 지 한 달이 넘었지만 사용자 요청과 무관하게 영상에 불필요한 자막이 추가되는 오류가 계속되고 있다.

다수의 주요 AI 챗봇들이 음란한 대화 요청에 쉽게 응하는 것으로 조사됐다. 다만 모델별로는 요청을 거부하는 경우부터 적극적으로 응답하는 경우까지 다양한 반응이 관찰됐다.

새롭게 개발된 벤치마크 ‘엘리펀트’는 AI 모델의 과도한 아첨 성향을 식별하는 데 도움을 준다. 그러나 이러한 성향을 근본적으로 해결할 수 있는 방법은 아직 마련되지 않았다.

논쟁 중 상대방을 설득하는 능력이 인간보다 오픈AI의 GPT-4가 더 뛰어난 것으로 나타났다. 다만 이 능력이 악용될 수 있다는 점에는 주의가 필요하다.

여러 명이 동시에 말하는 상황에서도 화자별 발화 방향과 목소리를 구분해 실시간으로 통역해주는 AI 기반 ‘공간 음성 번역’ 기술이 개발됐다.

AI 언어 모델의 편향을 진단하고 개선하기 위해 다양한 언어와 문화권의 고정관념을 반영한 다국어 데이터 세트가 개발되었다.

웹사이트의 코드 작성을 AI에 맡기는 것이 좋은 생각처럼 보일 수도 있지만, 이러한 작업에는 분명한 한계가 있다.