인공지능

다수의 주요 AI 챗봇들이 음란한 대화 요청에 쉽게 응하는 것으로 조사됐다. 다만 모델별로는 요청을 거부하는 경우부터 적극적으로 응답하는 경우까지 다양한 반응이 관찰됐다.

AI끼리 가격을 정할 때 성능이 좋은 AI가 더 유리한 결과를 이끌어내는 것으로 나타났다. 이에 따라 저사양 AI를 사용하는 소비자가 고성능·고가의 모델을 사용하는 소비자보다 더 큰 비용을 부담하게 되어, 결과적으로 디지털 불평등이 심화될 수 있다는 우려가 제기된다.

오픈AI 연구진은 악의적인 미세조정으로 모델을 ‘불량소년’처럼 만드는 방법을 분석하고, 그런 모델을 원래대로 되돌리는 방법까지 찾아냈다.

우리는 AI 에이전트에 진정한 자율성을 부여하기 시작했다. 그러나 그로 인해 앞으로 일어날 수 있는 일에 대해서는 제대로 대비가 되어 있지 않다.

크리에이티브란 무엇이며, 인간만이 할 수 있는 창작이란 어디까지인가? 게임, 엔터테인먼트, 그리고 브랜드 경험의 최전선에 서 있는 크래프톤의 신석진 본부장에게 AI 시대의 창의성과 인간성, 창작자의 자세에 대해 들어봤다.

휴머노이드 로봇이 산업 현장을 넘어 가정 등의 일상적인 공간에 투입되기 전, 별도의 안전 기준 마련이 시급하다는 목소리가 커지고 있다.

지브리풍 이미지 생성에서부터 튜링의 상상, 스티브 잡스의 통찰까지. KAIST 박주용 교수는 고대 신화와 현대 기술을 넘나들며, 기계가 흉내낼 수 없는 '인간적인 창의성'의 본질을 되묻는다. 진정한 창의성은 데이터가 아니라 경험에서 비롯된다는 그의 이야기를 들어본다.

중국에서 범용 AI 에이전트 ‘마누스’가 등장한 이후 이와 유사한 기능을 가진 경쟁 제품과 모방 제품들이 우후죽순 쏟아지고 있다. 하지만 중국의 인터넷 검열과 제약 때문에 이런 에이전트들은 지금까지 중국 내 사용자보다 해외 사용자를 대상으로 서비스를 제공하는 데 더 집중하고 있다.

지난 1년간 고등학교 수준을 넘어서는 수학 문제를 해결하는 대형언어모델의 능력은 급격히 발전했다. 그렇다면 AI는 인간 수학자에 가까워지고 있는 것일까?

새롭게 개발된 벤치마크 ‘엘리펀트’는 AI 모델의 과도한 아첨 성향을 식별하는 데 도움을 준다. 그러나 이러한 성향을 근본적으로 해결할 수 있는 방법은 아직 마련되지 않았다.

2025년 베이징 이좡 개발구에서 열린 세계 최초의 로봇 하프마라톤은 21대의 인간형 로봇이 실제 인간 마라톤 코스를 완주할 수 있는지를 시험한 실험장이자, 중국의 로봇 기술력과 정책적 야심을 드러낸 대규모 공개 테스트였다. 완주율은 28.6%에 불과했지만, 이는 오히려 기술의 한계와 가능성을 동시에 보여준 의미 있는 시도였으며, 인간과 로봇이 어떻게 공존할 수 있는지를 사회적으로 조명한 상징적 사건으로 기록됐다.

데이터 센터로 인한 에너지 수요 증가는 전체 전력 소비에서 차지하는 비중은 작지만, 전기화라는 더 큰 문제와 맞닿아 있는 작지만 중요한 과제다.

최근 열린 구글 연례 콘퍼런스 구글 I/O는 ‘누가 가장 강력한 모델을 보유했느냐’가 아니라, ‘모델을 바탕으로 누가 가장 완성도 높은 제품을 만드느냐’를 중심으로 AI 경쟁이 더욱 치열해질 것임을 보여줬다.

법률 문서에서 AI가 '환각'을 일으켜 만들어낸 엉터리 정보가 잇따라 발견되며 판사들의 분노를 사고 있다. 전문가들은 이런 문제가 앞으로 더 심각해질 것으로 보고 있다.

논쟁 중 상대방을 설득하는 능력이 인간보다 오픈AI의 GPT-4가 더 뛰어난 것으로 나타났다. 다만 이 능력이 악용될 수 있다는 점에는 주의가 필요하다.

MIT의 김병철 박사 연구팀이 '디퓨전 모델'이라는 생성형 AI 기술을 활용하여 로봇의 형상을 자동 설계하는 기술을 개발했다. AI가 스스로 창의적인 형상을 만들고 최적화하면서 진화하는 새로운 로봇 설계의 방식을 고안한 것이다. 이 혁신적인 기술은 로봇뿐 아니라 드론, 자동차, 기계 부품, 가구 등 다양한 산업 분야로의 확장이 기대되고 있다.

구글 딥마인드에서 공개한 ‘알파이볼브’는 대형언어모델을 사용하여 데이터센터 관리, 칩 설계 등을 위해 인간이 만든 최고의 시스템보다 성능이 뛰어난 새로운 알고리즘을 찾아낸다.

AI 기술을 활용한 추적 도구 '트랙'이 안면 인식 기술 규제를 피해 다양한 공공 기관에 도입되고 있다. 하지만 이를 두고 정부와 경찰의 감시 강화와 권력 남용을 둘러싼 우려가 커지고 있다.

AI 모델을 테스트하고 측정하는 방식을 개선하기 위해 연구자들은 사회과학 분야의 접근법을 도입하고 있다.

여러 명이 동시에 말하는 상황에서도 화자별 발화 방향과 목소리를 구분해 실시간으로 통역해주는 AI 기반 ‘공간 음성 번역’ 기술이 개발됐다.