Anthropic’s chief scientist on 4 ways agents will be even better in 2025
앤트로픽 수석과학자가 전망하는 2025년 ‘AI 에이전트’의 4대 혁신
AI 업계에서 가장 뜨거운 화두인 에이전트는 2025년 다양한 발전을 통해 산업 전반에 걸쳐 유용성과 영향력을 확대해 나갈 전망이다.
인공지능
-
- The biggest AI flops of 2024
2024년 AI 분야 최악의 실패 사례들
불법적인 조언을 제공하는 챗봇부터 AI가 생성한 엉터리 검색 결과까지, 2024년 한 해 동안 AI 분야에서 벌어졌던 최악의 실패 사례를 살펴본다.
- Google’s new Project Astra could be generative AI’s killer app
구글의 ‘프로젝트 아스트라’는 생성형 AI의 킬러앱이 될 수 있을까
지난해 12월 구글 딥마인드가 AI 에이전트의 신세계를 열어줄 것으로 기대되는 제미나이 2.0을 포함해 다양한 신제품을 출시했다. MIT 테크놀로지 리뷰는 이 신제품들을 가장 먼저 살펴볼 수 있는 기회를 누렸다.
- We need to start wrestling with the ethics of AI agents
사람 같은 AI 에이전트 시대, 윤리적 문제는 없을까?
AI가 인간의 성격을 흉내 내고 대신해서 행동까지 할 수 있는 시대가 다가오고 있다. 그 전에 논의해야 할 윤리적인 문제들을 짚어본다.
- These AI Minecraft characters did weirdly human stuff all on their own
이 놀라운 AI 마인크래프트 캐릭터가 인간이 하는 일들을 스스로 해냈다
마인크래프트 내에서 진행된 실험에서 대형언어모델 기반의 AI 에이전트 수백 개가 자발적으로 친구를 사귀고, 직업을 만들고, 종교를 전파했다
인공지능 의 최신 뉴스
- AI armed with multiple senses could gain more flexible intelligence
언어와 감각이 만난다, 다중감각 인공지능
인간의 지능은 감각과 언어 능력이 결합되어 나온다. 인공지능도 마찬가지일 것이다.
- What is an “algorithm”? It depends whom you ask
알고리즘은 도대체 무엇?
책임성 강화를 위해서는 시스템 디자인이 아니라 영향(impact)에 주목해야 한다.
- Why GPT-3 is the best and worst of AI right now
AI의 명암을 모두 담은 소우주, GPT-3
오픈AI의 GPT-3는 완벽한 영어 구사로 대중을 감탄하게 했다. 하지만 만약 이것이 허상이라면?
AI 챗봇은 왜 실패하는가 : 이루다가 남긴 과제 Ⅱ
이루다 문제가 불거진 이후 인공지능에 대한 규제와 감시 논의가 활발해지고 있다. 그러나 규제가 실제 문제를 해결할 수 있을지는 미지수다.
AI 챗봇은 왜 실패하는가 : 이루다가 남긴 과제Ⅰ
이루다는 왜 실패했을까? AI 챗봇에 대한 기대가 커지고 있지만, 일반 소비자의 기대를 만족할 수준의 AI를 구현하기에는 아직 한계가 있다.
- Who are the AI talents our company should select?
우리 회사가 뽑아야 할 AI 인재는?
축구 경기에서도 승리 비결은 좋은 팀을 구성하는 것이다. AI를 통해 비즈니스를 성공적으로 혁신하는 데 있어서도 좋은 인재로 구성된 팀이 필요하다.
- Auditors are testing hiring algorithms for bias, but there’s no easy fix
AI 알고리즘 분석해 편향 극복할 수 있나?
AI 채용 알고리즘에 대한 감사(audit)를 실시해도 편향을 발견하지 못할 수 있다. 또 가장 우수한 인재를 가려 주는 것도 아니다.
- The power of creative measurement in AI innovation
성공하는 AI 기업들이 중시하는 한가지
우리가 무언가를 잘 모르는 이유는 대체로 그것을 측정해보지 않았기 때문이다. AI의 활용에 있어서 측정은 더욱 중요한 문제가 된다.
- Unlimited computer fractals can help train AI to see
프렉털이 인공지능을 가르친다
지난 10년 간 AI의 인식 능력을 훈련시킨 이미지넷 같은 대규모 데이터세트는 구축이 어렵고 편향성의 위험도 크다. 컴퓨터 합성 데이터세트가 대안이 될 수 있다.
- This is how we lost control of our faces
인공지능에 빼앗긴 내 얼굴 정보
얼굴 인식 데이터에 대한 대규모 연구를 통해 딥러닝이 우리의 프라이버시를 얼마나 침해하는지 드러났다.
- An AI saw a cropped photo of AOC. It autocompleted her wearing a bikini
AI, 남성에겐 양복, 여성에겐 비키니를 입히다
인터넷의 성차별적이고 인종차별적인 내용이 이미지 생성 알고리즘에 반복적으로 주입되고 있다.
- Transforming the energy industry with AI
AI가 이끄는 에너지 산업의 트랜스포메이션
석유 및 가스 산업은 디지털화를 통해 프로젝트 경제성을 개선하고 사업 효율성을 제고하고 있다. AI는 지속가능한 성장과 사이버보안을 위한 중요한 도구다.
- These virtual robot arms get smarter by training each other
서로 가르치며 배우는 인공지능 가상 로봇 팔
오픈AI는 인공지능이 서로 상대방을 이기려 경쟁하는 게임을 하게 함으로써, 재훈련 없이도 다양한 문제를 해결하는 법을 학습할 수 있는 로봇을 만들려 한다.
- Jumbled-up sentences show that AIs still don’t really understand language
인공지능이 언어를 이해하지 못 한다는 증거
인공지능은 문장 속 단어 순서가 바뀌어도 알아채지 못 한다. 이 문제는 AI 성능을 개선하는 방법을 찾는 힌트가 되기도 한다.
- AIs that read sentences are now catching coronavirus mutations
말 잘하는 인공지능이 코로나 변이도 잡는다
자연어처리(NLP) 알고리즘이 바이러스의 유전적 변화 해석에도 쓰일 전망이다. 이에 따라 코로나 변이 예측을 위한 연구가 가속화되고 있다.
- Worried about your firm’s AI ethics? These startups are here to help.
AI 윤리 문제에서 비즈니스 기회를 발견하다
‘책임있는 AI’ 벤처의 생태계가 점점 커지면서 기업들이 자사 AI 모델을 모니터링하고 개선하는 데 도움을 받을 수 있게 될 전망이다.
- Should a self-driving car kill the baby or the grandma? Depends on where you’re from.
자율주행차는 아기와 할머니 중 누구를 살려야 할까?
고전적 윤리 문제 ‘트롤리 딜레마’의 자율주행 차량 버전에 세계 수백만 명의 사람들이 의견을 밝혔다. 그 결과는 문화에 따라 윤리에 대한 판단이 얼마나 달라지는지 보여준다. - Five ways to make AI a greater force for good in 2021
더 나은 AI를 만들기 위한 5가지 제안
AI가 미치는 영향력이 그 어느 때보다 커졌다. 사람들의 관심도 갈수록 높아지고 있다. 이제 관심을 실행으로 옮길 때다.
- Why 2020 was a pivotal, contradictory year for facial recognition
우려와 기대 교차하는 얼굴 인식 기술
인종 평등 운동은 얼굴 인식 기술 문제에 대해 대중의 경각심을 불러 일으켰다. 그럼에도 얼굴인식 기술 오용은 좀처럼 줄어들 기미를 보이지 않는다.
- The UK exam debacle reminds us that algorithms can’t fix broken systems
영국 졸업시험 사건이 보여주는 알고리즘의 한계
대입시험 감독당국이 궁극적인 목표는 잊고, 표준화(standardization)에만 집착하면서 문제가 시작되었다.
더보기