AI 신경망의 작동 원리에 대한 새로운 관점으로 주목받은 닉 카마라타 굿파이어 연구원을 단독 인터뷰해 그의 생각을 들어봤다.

전 세계적으로 AI에 대한 반감이 커지고 있지만 AI 이용자는 오히려 빠르게 늘고 있다.

마크 첸 오픈AI 최고연구책임자(CRO)가 잇단 AI 에이전트 해킹 사고 이후 강화한 안전 대책과 개발 속도 조절 방안을 설명했다.

주요 AI 기업들이 AI의 위험성을 경고하며 개발 속도 조절을 주장하고 있다. 하지만 실질적인 안전을 위해서는 무엇보다 투명성 확보가 필요하다.

AI 시장을 주도하는 빅테크에 도전하며 차세대 LLM 기술을 개발하는 스타트업들을 살펴본다.

대형언어모델(LLM)이 자신의 추론 과정처럼 보이는 가짜 정보를 실제 판단으로 오인하는 새로운 취약점이 발견됐다.

오픈AI 모델의 허깅페이스 해킹은 전례 없는 일이었지만, AI가 목표 달성을 위해 예상 밖의 허점을 파고드는 선택을 할 수 있다는 사실은 10년 전 실험에서 이미 확인된 바 있다.

오픈AI가 AI 모델의 취약점을 자동으로 찾아내는 AI 해커 'GPT-레드'를 개발했다. 사람보다 더 효과적인 공격 기법을 발견해 차세대 AI의 보안 검증에 활용하고 있다.

앤트로픽이 새로운 기술을 이용해 지금까지 볼 수 없었던 LLM 내부의 기묘한 작동 과정을 한층 더 깊이 들여다봤다.

챗GPT와 클로드 등 대형언어모델(LLM)이 개방형 질문에도 비슷한 답변을 반복한다는 지적이 커지는 가운데, 호주 스타트업 스프링보드는 더 다양한 답을 내놓는 AI 모델로 창의성의 한계를 넘어서려 하고 있다.