(资料图片)

北京商报讯 （记者 刘四红 实习记者 董晗萱）5月21日，在2023清华五道口全球金融论坛上，北京瑞莱智慧科技有限公司（以下简称“瑞莱智慧”）高级副总裁朱萌发言。

朱萌指出，发现很多金融机构的人脸识别系统存在被假脸识别和特殊花纹破解的安全问题，这些都是金融机构被实际样本攻击的案例。

那如何应对大模型时代的AI安全风险？朱萌进一步提出了稳固三角形的概念，即构建“智能测评、攻击应对以及AI安全防御”的三角模型。从发现风险、处置风险和防范风险三个视角，系统提升金融领域在新技术条件下的安全水平。

发现风险就是对人工智能的系统展开安全评测，这是当前的一个重点、也是一个难点。瑞莱智慧发挥了过去几十年在人工智能安全领域积攒的经验，采用检测方法，及时发现所有人工智能模型的弱点。简单来说就是提前发现，防止这些模型带病上线、带病上岗。

第二是处置风险。通过构建人工智能安全防火墙措施，形成针对各类对抗攻击或者数据投毒等新时代攻击方法的应对能力，并且不断地根据攻击方法形成新的应对方法。

第三是防范风险。针对未来预期到的大规模人工智能研发将应用在实际的工作场景中，瑞莱智慧构建了人工智能安全的靶场，使得安全因子贯穿整个人工智能的研发和过程当中，从源头上提升人工智能的安全防御能力。

朱萌表示，金融领域网络安全的风险伴随着人工智能的技术发展进入到大模型时代之后，安全风险、维度、影响范式都可能和过去的网络时代不一样，必须提早应对，避免出现能力代差。未来人工智能在保障产业发展、社会安全、生活安全中都会成为刚需。聚焦到金融领域，要持续加强工作，打造精细化、自动化、标准化的能力，联合金融机构、科技提供方，积极参与人工智能安全金融行业标准和规范研讨，为行业的安全可控发展贡献力量。

关键词：