精华速览
近期,多家大型银行向客户发出警告:若AI智能体获得金融账户权限并执行操作,相关行为可能被视为用户本人授权,损失或需自行承担。Ally Bank、摩根大通、花旗银行等均通过邮件或应用通知提醒用户,AI可能犯错、产生幻觉或误解指令,导致未经授权的交易难以撤销。这一警告的背景是,新一代AI智能体已具备自主购物、预订等能力,而零售商如塔吉特已修改条款将智能体购物视为用户授权交易,亚马逊则禁止Meta的Muse智能体代购。银行强调,通过正规授权连接账户与直接提供登录凭据性质不同,并建议用户勿向AI工具泄露密码等敏感信息。
要点透视
- Ally Bank本月早些时候在邮件中警告客户:使用AI服务时,AI采取的任何行动都由用户负责,AI可能犯错、产生幻觉或误解指令,造成重大损失。
- 摩根大通11月邮件提醒客户:如果信息遭到滥用,已授权的交易可能无法撤销。
- 花旗银行在官网和移动应用添加提示横幅,明确警告AI助手可能犯错,用户可能需对错误承担责任。
- 今年3月,塔吉特修改客户协议,将AI智能体代为购物认定为“由用户授权的交易”。
- 今年9月,亚马逊以安全性和可靠性担忧为由,禁止Meta的Muse智能体在其网站代为购物。
- 富国银行代表表示,任何技术都不应在缺乏严格安全措施、明确客户授权和保护机制的情况下代表客户行动。
- 摩根大通CEO杰米·戴蒙在10月财报电话会议上称,不会允许外部智能体随意进入公司内部系统,风险太大。
- 苹果最新Mac系统测试版已加入警告,当用户授予AI智能体系统级访问权限时,系统会弹出风险提示。
文章拆解
银行集体发声并非偶然。过去一年,AI智能体从文本问答进化到能自主执行任务,如预订机票、预约餐厅甚至自动下单购物。当这些智能体接入金融账户,其操作边界与责任归属便成为亟待厘清的问题。银行的核心逻辑在于:用户主动授权AI访问账户,等同于将自身身份凭证交由AI使用,因此AI的操作被视为用户行为,而非外部入侵。这意味着,一旦AI因幻觉或误解指令造成损失,用户难以通过“未经授权交易”条款追回资金。
这一立场对用户影响深远。目前,多数银行尚未提供专门针对AI智能体的安全授权通道,用户若直接向AI工具提供登录凭据,风险极高。银行建议的“正规授权方式”尚不明确,可能涉及API或第三方支付协议,但普及度有限。与此同时,零售商也在调整规则:塔吉特将智能体购物视为用户授权交易,亚马逊则直接禁止部分智能体代购,反映出对安全性和可靠性的担忧。
值得关注的变量包括:银行是否会推出专门的AI智能体授权与监控工具;监管机构是否介入界定责任;以及苹果等系统厂商在权限授予环节增加警告,能否有效降低用户误操作风险。潜在风险在于,若责任完全由用户承担,可能抑制AI智能体在金融场景的应用,或导致用户因担心损失而放弃使用。此外,AI智能体使用用户凭据访问账户的行为,可能绕过银行风控系统,增加欺诈和错误交易的概率。目前,银行与AI厂商之间的责任划分尚无统一标准,相关规则尚待确认。

暂无评论。