보관된 글 — US — techcrunch
Amex, AI 에이전트의 무단 구매 방지를 위한 프레임워크 도입
아메리칸 익스프레스가 '의도 인텔리전스 프레임워크'를 도입하여 AI 에이전트가 무단 거래를 하는 것을 방지하고 있습니다. 이 시스템은 거래가 완료되기 전에 고객의 구매 의도가 인증되도록 보장하여, 대형 언어 모델로 인한 위험을 해소합니다. 이 프레임워크는 소비자들의 AI를 통한 거래에 대한 관심이 높아짐에 따라, 안전한 AI 기반 구매의 표준을 수립하기 위해 노력하고 있습니다.
핵심 정리
- 미국 은행인 American Express가 무단 AI 거래를 방지하기 위해 '의도 지능 프레임워크'를 도입했습니다.
- 이 프레임워크는 고객의 구매 의도를 파악하고 거래가 처리되기 전 인증을 요구합니다.
- 의도 ID와 의도 증명 토큰이 생성되어 거래를 안전하게 하고 고객 데이터를 보호합니다.
- 조사 결과, 소비자들은 구매에 AI 에이전트를 사용하는 데 상당한 의사가 있다고 합니다.
- 이 프레임워크는 의도를 미리 처리함으로써 거래 위험을 완화하는 것을 목표로 합니다.
왜 중요한가
- 2023년에는 금융 거래에 대한 AI에 대한 의존도가 증가하고 있어 보안과 고객 의도에 대한 우려가 제기되고 있습니다.
- 부상하는 트렌드는 사용자가 구매 업무를 AI에 위임할 수 있는 자율적 에이전트 상거래로의 이동을 보여줍니다.
- 미인가된 거래의 역사적 사례들은 AI 기반 시스템에서 견고한 인증 조치의 필요성을 강조하고 있습니다.
Amex의 의도 인텔리전스 프레임워크는 AI가 점점 더 중요해지는 시장에서 선제적인 조치를 취함으로서 소비자의 이익을 지키고 기술이 상업에 진화함에 따라 신뢰를 유지하려는 노력을 나타냅니다.