인공지능

환각제를 활용한 대면 심리 치료의 대안으로 AI 챗봇을 이용하는 사람들이 늘고 있다. 하지만 전문가들은 치료의 본질을 오해한 위험한 접근이라고 지적한다.

‘소버린 AI’는 단순한 기술 국산화를 넘어, 데이터·인프라·윤리까지 포함한 국가 주도의 AI 생태계를 의미한다. 국내에서도 기업들의 치열한 경쟁 속에 이제 ‘주권 없는 AI’냐, ‘AI 없는 주권’이냐는 중대한 기로에 섰다. 글로벌 AI 패권 전쟁 속에서 한국이 어떤 길을 선택해야 할지, 우리가 진정 원하는 AI의 미래는 무엇인지 찾아야 할 때다.

AI 성능을 평가하는 기존 벤치마크가 한계에 봉착했다. 이를 극복하기 위한 새로운 실험과 논의가 이어지고 있다.

중국계 벤처캐피털 홍산캐피탈그룹이 자사의 투자 대상 모델을 평가하기 위해 개발했던 벤치마크를 누구나 사용할 수 있도록 공개했다.

감탄사도 넣고, 말도 끊고, 분위기까지 읽는 AI 대화 모델이 등장했다. 인간의 대화 방식을 진짜처럼 재현하는 이 기술은 상담, 돌봄 등 감성적 영역의 활용 가능성과 함께, ‘AI와 친구처럼 대화하는’ 시대의 서막을 알리고 있다.

다수의 주요 AI 챗봇들이 음란한 대화 요청에 쉽게 응하는 것으로 조사됐다. 다만 모델별로는 요청을 거부하는 경우부터 적극적으로 응답하는 경우까지 다양한 반응이 관찰됐다.

AI끼리 가격을 정할 때 성능이 좋은 AI가 더 유리한 결과를 이끌어내는 것으로 나타났다. 이에 따라 저사양 AI를 사용하는 소비자가 고성능·고가의 모델을 사용하는 소비자보다 더 큰 비용을 부담하게 되어, 결과적으로 디지털 불평등이 심화될 수 있다는 우려가 제기된다.

오픈AI 연구진은 악의적인 미세조정으로 모델을 ‘불량소년’처럼 만드는 방법을 분석하고, 그런 모델을 원래대로 되돌리는 방법까지 찾아냈다.

우리는 AI 에이전트에 진정한 자율성을 부여하기 시작했다. 그러나 그로 인해 앞으로 일어날 수 있는 일에 대해서는 제대로 대비가 되어 있지 않다.

크리에이티브란 무엇이며, 인간만이 할 수 있는 창작이란 어디까지인가? 게임, 엔터테인먼트, 그리고 브랜드 경험의 최전선에 서 있는 크래프톤의 신석진 본부장에게 AI 시대의 창의성과 인간성, 창작자의 자세에 대해 들어봤다.

휴머노이드 로봇이 산업 현장을 넘어 가정 등의 일상적인 공간에 투입되기 전, 별도의 안전 기준 마련이 시급하다는 목소리가 커지고 있다.

지브리풍 이미지 생성에서부터 튜링의 상상, 스티브 잡스의 통찰까지. KAIST 박주용 교수는 고대 신화와 현대 기술을 넘나들며, 기계가 흉내낼 수 없는 '인간적인 창의성'의 본질을 되묻는다. 진정한 창의성은 데이터가 아니라 경험에서 비롯된다는 그의 이야기를 들어본다.

중국에서 범용 AI 에이전트 ‘마누스’가 등장한 이후 이와 유사한 기능을 가진 경쟁 제품과 모방 제품들이 우후죽순 쏟아지고 있다. 하지만 중국의 인터넷 검열과 제약 때문에 이런 에이전트들은 지금까지 중국 내 사용자보다 해외 사용자를 대상으로 서비스를 제공하는 데 더 집중하고 있다.

지난 1년간 고등학교 수준을 넘어서는 수학 문제를 해결하는 대형언어모델의 능력은 급격히 발전했다. 그렇다면 AI는 인간 수학자에 가까워지고 있는 것일까?

새롭게 개발된 벤치마크 ‘엘리펀트’는 AI 모델의 과도한 아첨 성향을 식별하는 데 도움을 준다. 그러나 이러한 성향을 근본적으로 해결할 수 있는 방법은 아직 마련되지 않았다.

2025년 베이징 이좡 개발구에서 열린 세계 최초의 로봇 하프마라톤은 21대의 인간형 로봇이 실제 인간 마라톤 코스를 완주할 수 있는지를 시험한 실험장이자, 중국의 로봇 기술력과 정책적 야심을 드러낸 대규모 공개 테스트였다. 완주율은 28.6%에 불과했지만, 이는 오히려 기술의 한계와 가능성을 동시에 보여준 의미 있는 시도였으며, 인간과 로봇이 어떻게 공존할 수 있는지를 사회적으로 조명한 상징적 사건으로 기록됐다.

데이터 센터로 인한 에너지 수요 증가는 전체 전력 소비에서 차지하는 비중은 작지만, 전기화라는 더 큰 문제와 맞닿아 있는 작지만 중요한 과제다.

최근 열린 구글 연례 콘퍼런스 구글 I/O는 ‘누가 가장 강력한 모델을 보유했느냐’가 아니라, ‘모델을 바탕으로 누가 가장 완성도 높은 제품을 만드느냐’를 중심으로 AI 경쟁이 더욱 치열해질 것임을 보여줬다.

법률 문서에서 AI가 '환각'을 일으켜 만들어낸 엉터리 정보가 잇따라 발견되며 판사들의 분노를 사고 있다. 전문가들은 이런 문제가 앞으로 더 심각해질 것으로 보고 있다.

논쟁 중 상대방을 설득하는 능력이 인간보다 오픈AI의 GPT-4가 더 뛰어난 것으로 나타났다. 다만 이 능력이 악용될 수 있다는 점에는 주의가 필요하다.