投资与经济

美联储理事巴尔警告银行AI代理相关风险

BUZZINGA 编辑部4 分钟阅读

美国联邦储备委员会理事迈克尔·巴尔在一份详细讲话中,明确了人工智能系统及代理可能对银行业和金融市场安全构成的运营风险。讲话探讨了关联交易风险、验证客户对软件代理的授权、快速流动性挤兑的可能性以及贷款歧视等问题。

美联储理事迈克尔·巴尔建立了一个详细的监管框架,用于测试金融交易、银行账户授权和资金划拨速度中软件代理的风险。

金融稳定报告发布后的金融风险运营机制

美国联邦储备委员会理事迈克尔·巴尔(Michael Barr)于2026年11月16日发表了一场独立讲话,概述了人工智能可能影响金融系统安全与稳定的具体途径。据路透社报道,巴尔的观点建立在上一个星期五中央银行发布的《金融稳定报告》中所表达的担忧基础之上。

这篇讲话的新进展在于其对银行和市场内部风险传递的具体运营机制进行了详细讨论,而不仅仅是重新发布之前的调查结果。

关联行为风险与算法交易中的潜在串通

巴尔警告称,金融市场交易员广泛使用相似的人工智能系统可能会产生关联的集体行为;如果多个算法以类似的方式对相同的市场信号作出反应,它们的同步决策可能会放大市场波动,而不是分散和分配风险。

他还讨论了算法串通或市场操纵的可能性,并系统性地提醒说,这些情况代表了需要谨慎对待的潜在故障模式,其声明并不证明所有当前由人工智能支持的交易系统都在从事违规行为。

客户代理授权验证难题与流动性挤兑情景

另一个核心问题涉及客户授权;银行可能会收到代表客户行事的软件代理发出的金融指令,此时银行必须核实客户是否确实授权该代理进行资金转账或修改账户数据,因为如果权限被篡改或遭到黑客攻击,纯粹技术层面的请求有效性是不够的。

巴尔指出,获得合法正确授权的代理本身也可能通过以极快速度移动资金来带来运营挑战;大量快速提款操作可能会加剧流动性压力,并打乱原本按人类交易节奏设计的控制机制,值得注意的是,这一说法代表了一种需要分析的情景,而不是人工智能导致实际银行挤兑的证据。

网络攻击、模型错误与贷款偏见风险

该理事还指出了遭受复杂网络攻击、模型错误以及消费信贷歧视性结果的风险;人工智能系统可能会复制训练数据中固有的偏见,或者采用与法律保护特征相关的变量,仅凭历史记录上的预测准确性并不足以证明公平性或法律合规性。

严格的技术要求及与美联储主席沃什讲话的区别

巴尔强调了用于重大金融任务的系统面临的严苛技术要求,包括可控性、数字与法律准确性、可解释性以及可重现性,当代理调用多个外部工具时,这些目标可能与速度和运营复杂性相冲突。巴尔的言论不同于美联储主席沃什在同一天关于生产力的更广泛讨论;巴尔专注于交易、银行和消费者保护方面的切实风险,并未宣布新的法律或即时限制,未来的证据将包括监管指南、审计结果和压力测试。

迈克尔·巴尔的分析凸显了金融部门在采用软件代理时面临的微妙工程矛盾:银行业要求算法系统接受完全控制、在数字和法律上保持精准、具备可解释性和可重现性,而能够调用外部工具并以极高速度调动流动性的代理则具有高度的运营复杂性,这使得它们在推广到交易、信贷和账户服务之前,必须接受严格的监管压力测试。

因此,巴尔的观察与更广泛的金融稳定警告相辅相成,强调更新银行监管基础设施既取决于对客户授权安全性和防止算法信贷偏见的实际验证,也取决于对市场交易的监控。

常见问题

问:理事迈克尔·巴尔的讲话与美联储主席凯文·沃什的讲话有何不同?
答:巴尔专注于面临交易、银行和消费者的具体运营风险,而沃什则讨论了关于生产力和劳动力市场的长期经济情景。

问:合法授权的人工智能代理如何威胁银行流动性?
答:通过其超越正常人类行为的极快速度调动资金和执行提款操作的能力,如果在短时间内发生大规模同步提款,这可能会倍增流动性压力。

问:银行从软件代理接收指令时面临什么安全挑战?
答:其在于必须确保客户确实授权该代理执行特定的转账或修改,而不能仅仅满足于请求在编程层面的有效性。

问:巴尔对敏感金融系统提出了哪些技术标准?
答:他强调系统必须具备可控性、数字与法律准确性、可解释性以及可重现性,尽管这对于多工具代理而言很难实现。