各国央行行长和金融监管机构越来越多地警告人工智能在金融市场的快速应用，称该技术可能引入现有监管框架尚未准备好管理的新系统性风险。这些担忧出现之际，银行和金融机构正在加速使用能够自主决策、执行交易并在有限人工干预下协调复杂任务的人工智能系统。
在近期国际政策论坛上发言的官员强调，虽然人工智能可以提高效率、降低成本并扩大金融服务覆盖面，但智能体人工智能代表着与传统自动化的重大转变。与传统人工智能模型不同，智能体系统可以独立规划、推理并在多个金融流程中行动，为监督和问责带来了新挑战。
对自主决策的日益担忧
英国央行副行长 Sarah Breeden 警告称，随着智能体人工智能更深入地融入银行业、支付和交易领域，金融监管可能需要重大改革。她认为，传统的人工监督要求可能不再足够，因为自主系统能够以超出人类监督的速度和规模运行。
监管机构日益担忧若干风险，包括：
- 人工智能代理通过协调交易行为放大市场波动。
- 随着人工智能识别系统漏洞，网络攻击变得更加复杂。
- 操作故障在相互关联的金融机构间迅速蔓延。
- 自主系统做出金融决策时责任不明。
Breeden 还建议监管机构可能需要新的保障措施，例如紧急熔断机制、终止开关和更强的运营韧性措施，以限制人工智能驱动的中断的影响。
呼吁加强全球监管
讨论范围超出了英国。央行官员和国际金融组织强调担忧，如果预期与经济现实不符，与人工智能相关的投资热情也可能吹大资产泡沫并加剧金融不稳定。
与此同时，监管机构承认人工智能为金融机构带来了显著的生产力提升，因此完全禁止的可能性不大。相反，政策制定者似乎专注于制定平衡创新与金融稳定的治理框架。
随着金融公司继续部署日益自主的人工智能系统，各国央行正在表明监管现代化将成为优先事项。现在的挑战是确保保障措施足够快地跟上技术进步，以免自主金融系统在全球市场深度嵌入。
