인사이트

AI 추천은 74%가 믿는데, 왜 자동 구매는 76%가 맡기지 않을까요

AI 추천은 믿어도 구매 실행은 맡기지 않는다는 사람이 76%입니다. 이유는 성능이 아니라, 틀렸을 때 막아 줄 장치가 없어서입니다.

INVAIZ · Jason2026년 11월 21일4분 분량

🍎 바쁘다면 알짜배기만이라도!

  • AI 추천은 믿어도 구매 실행은 맡기지 않는다는 사람이 76%입니다. 이유는 성능이 아니라, 틀렸을 때 막아 줄 장치가 없어서입니다.
  • 이미 에이전트로 결제를 해 본 사람도 무제한 권한은 주지 않습니다. 금액 한도를 정하고, 전용 카드를 따로 만들고, 이상하면 멈추게 합니다.
  • 기업이 주문 자동화를 도입할 때 확인할 것도 성능이 아닙니다. 범위를 사람이 정하는지, 이상하면 멈추고 사람에게 넘기는지, 전 과정이 기록으로 남는지를 봐야 합니다.

아침마다 주문 화면 앞에 앉는 사람의 걱정

구매대행 회사의 아침은 대개 비슷합니다. 운영 담당자가 주문 목록을 열고, 고객이 해외 사이트에서 골라 둔 상품을 국내 쇼핑몰에서 대신 주문합니다. 상품을 잘못 고르면 고객 돈이 엉뚱한 곳에 나가고, 수량을 틀리면 배송과 환불이 몇 배로 번집니다. 그래서 이 일을 오래 한 사람일수록 결제 버튼 앞에서 한 번 더 확인합니다.

이 일을 자동화에 맡긴다고 하면 걱정도 정확히 그 지점에서 나옵니다. "잘못 주문하면 누가 막아 주나." 자동화가 빠른지보다 먼저 나오는 질문입니다.

아침 주문 목록 화면 앞에 앉아 결제 버튼을 누르기 전 한 번 더 확인하는 운영 담당자. 설명용 AI 생성 일러스트이며 실제 고객사 장면이 아닙니다.

이 장면은 소비자만의 이야기가 아닙니다. Salesforce가 2026년 11월에 발표한 소비자 조사에서, 미국·영국·캐나다·호주 소비자 2,500명 넘게 물었더니 같은 경계가 숫자로 나왔습니다. AI에게 물어보는 사람은 빠르게 늘었지만, AI에게 사게 하는 사람은 늘지 않았습니다.

조언은 믿고, 실행은 맡기지 않습니다

조사에서 AI 추천을 신뢰한다는 응답은 74%였습니다. 쇼핑 전에 AI부터 찾는다는 사람도 다섯 명 중 한 명꼴입니다. 그런데 개인 AI 에이전트에게 구매까지 맡길 생각이 없다는 응답은 76%였습니다.

AI 추천은 신뢰하지만 자동 구매는 맡기지 않는다는 소비자 조사 결과. 추천 신뢰 74%와 구매 위임 거부 76%, 결제 경험과 권한 제한 수치가 함께 정리돼 있습니다.

이미 에이전트를 써 본 사람도 권한을 통째로 주지는 않았습니다. 에이전트로 결제까지 해 본 사람은 19%뿐이었고, 금융 정보에 무제한으로 접근하게 둔 사람은 9%뿐이었습니다. 에이전트 전용 카드를 따로 만든 사람이 36%였습니다. 맡기더라도 한도를 정하고, 돈이 나가는 통로를 분리한 것입니다.

안 맡기는 이유의 순서도 분명합니다. 첫째는 구매 이력과 개인정보가 원치 않게 공유되는 것, 둘째는 실수나 원치 않는 청구, 셋째는 사기 업체에서 사 버리는 것이었습니다. 셋 다 "AI가 똑똑하지 않아서"가 아닙니다. 틀렸을 때 벌어지는 일을 막을 장치가 없다는 걱정입니다.

여기서 조언과 실행을 갈라야 합니다. 추천은 틀려도 돈이 나가지 않습니다. 실행은 다릅니다. 실행 권한이란, 정해진 범위 안에서 사람의 확인 없이 주문과 결제를 끝낼 수 있는 권한입니다. 틀리는 순간 이미 결제가 끝나 있습니다. 그래서 사람들은 추천의 정확도를 보고도 실행 권한은 따로 심사합니다.

실제로 맡긴 사람들은 실수를 겪었습니다

에이전트 사용자의 경험을 보면 이 경계가 과민 반응은 아닙니다. 에이전트가 너무 비싼 것을 샀다는 사람이 27%, 구매가 중간에 막혔다는 사람이 22%였습니다. 큰 실수가 없었다는 사람은 32%뿐이었습니다. 그리고 대부분의 사용자는 실수가 두세 번 쌓이면 그 에이전트를 그만 씁니다.

시장은 이 문제에 성능이 아니라 장치로 답하고 있습니다. Walmart는 에이전트마다 별도 프로필을 주고, 구매마다 승인을 받게 하거나 고객이 정한 금액 한도(50달러, 100달러, 200달러) 안에서만 사게 합니다. 카드 번호는 에이전트에게 전달되지 않습니다. Meta의 에이전트도 구매 전에 승인을 묻고, 일회용 카드로 결제합니다. 돈이 나갈 수 있는 범위를 미리 좁혀 두는 방식입니다.

신뢰는 성능이 아니라 장치에서 나옵니다. 잘한다는 말보다, 틀리면 어디서 막히고 얼마까지만 손해가 나는지가 정해져 있을 때 사람은 실행을 맡깁니다.

주문 자동화를 도입할 때 확인할 세 가지

기업의 주문 업무도 조건은 같습니다. 자동화를 검토할 때 데모 화면의 속도보다 먼저 확인할 것은 세 가지입니다.

첫째, 범위를 사람이 정합니다. 금액, 수량, 주문 대상의 상한을 사람이 정하고, 자동화는 그 안에서만 실행해야 합니다. 범위를 정할 수 없는 자동화는 전용 카드도 없이 무제한 권한을 주는 것과 같습니다.

둘째, 이상하면 멈추고 사람에게 넘깁니다. 가격이 평소와 다르게 뛰었거나, 처음 보는 옵션이거나, 재고 상태가 애매하면 실행을 멈추고 확인을 요청해야 합니다. 멈추지 않고 끝까지 가는 자동화는 실수를 끝까지 가져갑니다.

셋째, 전 과정이 기록으로 남아 되돌릴 수 있습니다. 무엇을, 왜, 얼마에 주문했는지가 남아 있어야 잘못된 주문을 찾아 취소하고, 다음에 같은 실수를 막을 수 있습니다.

주문 자동화의 실행 경계. 사람이 정한 한도 안에서는 끝까지 실행하고, 한도를 넘거나 처음 보는 상황에서는 멈춰 사람에게 넘깁니다. 어느 경우든 전 과정이 기록으로 남습니다.

한 가지 덧붙이면, 매 건 사람이 승인하는 방식은 답이 아닙니다. 모든 주문을 사람이 눌러 줘야 한다면 자동화를 도입한 보람이 없습니다. 한도 안에서는 끝까지 실행하고, 한도를 넘거나 처음 보는 상황일 때만 멈추는 것. 그 경계가 서 있을 때 자동화는 사람의 일을 줄이면서도 사고를 막습니다.

물론 이 조사의 한계도 분명합니다. 소비자를 대상으로 한 조사라 기업의 주문 업무와 책임 구조가 같지는 않습니다. 그리고 조사를 발표한 Salesforce는 에이전트를 파는 회사입니다. 그래서 이 숫자를 자동화의 미래를 단정하는 근거로 쓸 수는 없습니다. 다만 사람이 실행을 맡기기 전에 무엇을 따지는지는, 소비자에게서도 기업에게서도 같은 순서로 나왔습니다.

지금 주문 자동화를 쓰고 있거나 도입을 검토 중이라면, 공급사에 이렇게 물어보면 됩니다. 금액과 수량의 한도를 우리가 정할 수 있습니까. 평소와 다른 주문이 들어오면 멈추고 알려 줍니까. 주문이 잘못됐을 때 기록을 보고 되돌릴 수 있습니까. 이 세 질문에 답할 수 있는지가, 그 자동화에 실행을 맡겨도 되는지를 가릅니다.

More

다른 글도 함께 보세요

기업의 AX 전환을 끝까지 책임집니다

생각은 AI가 합니다. 실행은 로봇이 합니다.

구축부터 실행, 운영까지 저희가 맡습니다.

데모 요청하기
온프레미스 지원국내 개발