챗봇과 AI 에이전트, 장보기로 이해하면 쉽다

저녁 메뉴를 추천하는 AI와 장바구니 결제까지 하는 AI는 같은 도구처럼 보여도 위험이 다릅니다. 앞의 AI는 말을 건네지만, 뒤의 AI는 실제 세상을 바꿉니다. AI 에이전트를 이해할 때는 답변의 똑똑함보다 어떤 도구와 권한을 가졌는지 봐야 합니다.

용어가 어렵다면 장보기를 떠올려보세요. 챗봇은 요리법을 알려주고, 자동화는 정해진 목록대로 주문하며, 에이전트는 상황을 보고 목록과 순서를 스스로 조정합니다.

말만 하는 AI와 행동하는 AI

챗봇에게 “두부로 만들 저녁 메뉴를 알려줘”라고 물으면 조리법을 답합니다. 이 답이 마음에 들지 않아도 냉장고나 통장에는 변화가 없습니다. 반면 에이전트가 장보기 앱과 결제 수단에 연결돼 있다면 상품 검색, 비교, 장바구니 추가까지 진행할 수 있습니다.

도구를 쓸수록 편리하지만 책임도 커집니다. 메일 전송, 일정 삭제, 파일 수정, 결제처럼 되돌리기 어려운 행동은 사람이 마지막에 확인해야 합니다.

“매주 월요일 같은 상품을 주문한다”는 규칙형 자동화에 가깝습니다. 품절이면 어떤 대체품을 고를지, 예산을 넘으면 무엇을 뺄지 AI가 판단한다면 에이전트 성격이 강해집니다.

Anthropic은 미리 정한 코드 경로를 따르는 워크플로와, 모델이 과정과 도구 사용을 동적으로 결정하는 에이전트를 구분합니다. 정답이 정해진 반복 업무라면 예측 가능한 자동화가 더 싸고 안전할 수 있습니다.

가격 비교에 결제 권한은 필요 없습니다. 회의 시간을 찾을 때도 일정을 읽을 수 있으면 되지, 삭제 권한까지 줄 이유는 없습니다. 계정을 한꺼번에 연결하지 말고 작은 작업 하나에 필요한 권한만 허용하세요.

실행 기록도 남아야 합니다. 무엇을 읽었고 어떤 도구를 썼는지 확인할 수 있어야 오류가 났을 때 원인을 찾습니다. Anthropic의 안전 관련 글도 에이전트의 능력과 접근 범위가 커질수록 한 번의 실패가 미치는 범위를 제한해야 한다고 설명합니다.

처음에는 메일 전송보다 메일 초안을, 파일 삭제보다 삭제 후보 목록을 맡겨보세요. 마지막 버튼을 사람이 누르면 결과를 살피면서도 피해를 줄일 수 있습니다.

열 번 정도의 실제 사례로 빠뜨린 항목과 잘못된 행동을 기록한 뒤에만 권한을 넓히는 편이 좋습니다.

AI 에이전트의 정의는 회사와 제품마다 다릅니다. 이름에 ‘에이전트’가 붙었다고 모두 같은 자율성과 권한을 갖는 것은 아닙니다. 연결된 서비스의 권한 화면과 실제 행동 범위를 기준으로 판단하세요.

아닙니다. 단순 질문이나 정해진 반복 작업은 챗봇과 규칙 자동화가 더 예측 가능할 수 있습니다.

도구와 작업에 따라 다릅니다. 삭제·전송·결제처럼 되돌리기 어려운 행동은 실행 전 승인을 두어야 합니다.

처음에는 권하지 않습니다. 한 작업에 필요한 계정 하나부터 연결하고 기록을 확인하세요.

검색 결과 정리, 초안 작성, 후보 목록 만들기처럼 사람이 마지막에 검토할 수 있는 일입니다.