메타의 AI 고객지원 에이전트가 단순한 요청만으로 인스타그램 계정 정보를 변경해 주면서 계정 탈취에 악용된 사실이 드러났다.

2년 전 구글 딥마인드는 AI 도구 개발로 노벨상을 받았다. 그리고 이제 연구자들은 새로운 목표를 향해 나아가고 있다.

가장 중요한 AI 경쟁에서 뒤처진 구글은 과연 반격이 가능할까

상업적으로 거래되는 방대한 데이터에 LLM의 분석 능력이 결합되면 개인정보가 침해될 가능성이 한층 더 커질 수 있다.

마이크로소프트와 아마존, 오픈AI 등이 일반 소비자용 헬스케어 AI를 잇달아 출시하며 시장이 빠르게 확대되고 있다. 다만 의료 영역 특성상 독립적 검증과 사용자 안전성 확보가 여전히 핵심 과제로 지적된다.

오픈소스 프로젝트에서 AI 에이전트의 코드 기여를 거절한 개발자가 오히려 AI의 공격 대상이 되는 사건이 발생했다. 전문가들은 통제되지 않은 AI 에이전트가 온라인 괴롭힘이나 범죄에 악용될 가능성을 경고하고 있다.

개인 개발자가 만든 LLM 기반 AI 비서 ‘오픈클로’가 폭발적인 관심을 끌고 있다. 그러나 방대한 개인정보 접근과 보안 취약성 논란이 확산되며 AI 에이전트의 위험성이 다시 주목받고 있다.

AI의 도약을 보여주는 METR 그래프는 유토피아나 종말의 신호로 읽히곤 하지만, 그 해석에는 보다 신중한 접근이 필요하다.

최근 출시된 챗GPT 헬스는 의사를 대체할 수는 없지만, 무분별한 인터넷 검색보다는 더 나은 의료 정보 도구가 될 가능성을 보여주고 있다.

여느 신생 예술과 마찬가지로 생성형 AI 예술 역시 수많은 비판을 받아왔지만, 일부 예술가들은 이 새로운 도구를 통해 창의적 한계를 끊임없이 확장하고 있다.