党的二十届三中全会审议通过《中共中央关于进一步全面深化改革 推进中国式现代化的决定》，其中明确提出要“完善生成式人工智能发展和管理机制”，为下一步生成式人工智能规范发展指明了方向。如今，人工智能大模型的广泛应用为各行各业注入新活力，金融机构和科技公司正积极探索大模型的实际应用，以支持数字金融的稳定增长。大模型的金融应用正在聚沙成塔，安全问题也随之引发关注。
2024年8月13日，由北京国家金融科技认证中心（以下简称“国金认证”）主办的“金融大模型安全测评闭门研讨会”在京成功召开。本次研讨会由中国银行业协会、北京金融科技产业联盟和中关村金融科技产业发展联盟共同指导，汇聚来自金融机构、金融科技企业、大模型厂商等34家单位的50余位技术专家，共同研讨“金融大模型安全测评”这一热点议题。中国金融电子化集团副总经理、国金认证执行董事潘润红和中国银行业协会首席信息官高峰分别致辞，国金认证总经理张海燕主持会议。
会上，来自工商银行、建设银行、邮政储蓄银行、蚂蚁集团及华为云的专家针对金融大模型安全测评的相关主题发表了精彩演讲，指出了金融大模型应用中的主要特定行业风险和金融大模型发展中遇到的投入产出和供应链制约等问题，详细阐述了金融大模型应用的安全体系、评估框架、技术指标以及解决策略。参会代表们对大模型在金融领域所遭遇的挑战进行了分析，并针对其安全性和合规性的关键难题展开了热烈讨论。大家普遍认同，通过增强协作与创新建立联合实验室，利用共享测评资源能够显著提高大模型在金融领域的应用质量，从而促进大模型金融应用的稳健发展。
记者获悉，为推动金融大模型的安全应用与发展，国金认证发起 “AI+金融：负责任的人工智能大模型金融应用”倡议，邀请金融业有代表性的金融机构和科技企业，共建大模型金融应用安全测评联合实验室。下一步，国金认证将依托联合实验室，组织各单位聚焦人工智能大模型金融应用安全测评、防御、选型等共性问题，共同制定大模型金融应用安全测评、人工智能算力调度、虚假数字人脸检测等标准和测评数据集，提供大模型金融应用安全测评、异构算力设施检测和深度伪造检测服务，将好的大模型应用能力和经验进行总结推广，建设大模型金融行业应用生态，共同走好大模型金融应用负责任的发展之路。
