洞察智能化趋势，筑牢金融安全基石：BCS第五届金融业网络安全论坛成功举办

6月5日,2024年北京网络安全大会第五届金融业网络安全论坛在京成功举办。本届论坛以“洞察智能化趋势,筑牢金融安全基石”为主题,针对金融行业数字化转型面临的安全挑战,尤其是大模型为代表的新型人工智能技术对金融业务带来的机遇、风险以及应对进行了深入探讨。

与会专家表示,金融行业正面临数字化转型的关键时期,这一过程不仅使得网络安全风险变得更加复杂和多变,同时也伴随着法律法规和监管要求的日趋严格。在人工智能技术带来的新机遇和挑战面前,金融行业需要采取双管齐下的策略:一方面,要积极接纳和利用创新技术,充分发挥AI的潜能;另一方面,也要对大模型发展可能引发的无边界和穿透式风险保持警觉,平衡发展与安全。

奇安信集团银行军团总经理徐懿巍主持论坛

在致辞环节,奇安信集团董事长齐向东表示,金融行业最近几年面临重大的网络安全挑战,黑客组织为获取经济利益和用户隐私把金融行业作为攻击的重点。从2023年开始,全球很多大型金融机构遭遇勒索攻击,造成巨大损失。因为金融行业不仅掌握重要数据,其业务连续性也非常重要,丢失数据和停止运行对于金融行业都是灾难性的。

奇安信集团董事长齐向东

信创海河实验室主任、中国新一代人工智能发展战略研究院执行院长龚克在致辞时表示,推动AI和网络安全与金融结合,一定要深度理解AI的优势和可能带来的风险。在优势方面,人工智能凭借其强大的数据处理能力,能够迅速且主动地利用历史数据进行风险预判、行为分析,并做出及时响应。这种能力在金融领域尤其宝贵,能够极大提升风险管理的效率和准确性。但AI目前存在着可靠性不足、技术成熟度有待提高,以及可能引发安全隐患和隐私泄露的问题。特别是在金融行业,人工智能带来的隐私问题可能更为严峻,需要我们给予足够的重视并审慎的应对。

信创海河实验室主任、中国新一代人工智能发展战略研究院执行院长龚克

中国科学院院士管晓宏在主题演讲《网络空间安全挑战与应对》中表示,网络空间安全包括网络安全、信息安全、内容安全、系统安全、CPS综合安全和数据安全六个方面。保证网络空间安全应该采取技术与管理相结合的策略。从管理角度,要建立法律法规和国家政策作为安全治理体系的重要一环,强化数据安全监管,构成数据安全的标准体系。从技术角度,数据的全生命周期安全,也就是数据生产、存储、传输、访问、使用、销毁,都应有相应技术手段提供安全保证。

中国科学院院士管晓宏视频形式参会

中国工商银行数据中心金融科技专家顾骏在《金融行业数字化转型背景下的网络安全建设实践》主题演讲中,分享了工商银行应对安全挑战的实践。为应对数字化转型过程中的安全挑战,工商银行对标业界信息安全体系化管理的最佳实践,从管理、运营、技术三个层面建设网络安全的管理框架,并持续优化,为全行高质量发展提供有力的支撑。

在大模型技术研究中,工商银行深入分析应用层、模型层、框架层,识别出15类安全风险。顾骏指出,大模型虽基于AI技术,却同样面临模型窃取、数据投毒等传统风险,同时其特有的应用模式如提示词等,也带来了新的安全挑战。

中国工商银行数据中心金融科技专家顾骏

清华大学五道口金融学院金融安全研究中心主任、中国互联网协会金融消费权益保护与教育培训专业委员会主任委员周道许,精准勾勒了金融智能化的五大发展趋势:质效提升、基础设施完善、人机交互革新、监管科技深化、风险管理能力增强。面对AI技术的快速迭代,他指出金融智能化发展中伴随的新问题和风险,并提出了针对性的发展建议:利用科技赋能监管,强化消费者权益保护,推动金融机构以客户为中心,提升服务竞争力,并完善立法监督,确保金融智能化的健康发展。

清华大学五道口金融学院金融安全研究中心主任周道许

中国邮政储蓄银行数据管理部副总经理张放在演讲时表示,随着数字经济的快速迭代和发展,安全问题已经不仅仅是底线和红线问题,而成为了制约科技能力和业务发展的关键因素。如果安全能力无法突破其"天花板",那么科技能力和业务发展都难以跑出加速度。邮储银行近年来非常重视数据安全工作,搭建了较为完善的数据安全体系,并有条不紊地开展了一系列数据安全工作,如数据分类分级、研发安全工具链建设、数据安全评估等。在未来,邮储银行将落实“做好金融五篇大文章”的号召,借力大模型等新技术,积极面对金融数字化带来的安全挑战,与业内共同铸就数据安全生态。

中国邮政储蓄银行数据管理部副总经理张放

中央财经大学金融学院院长张学勇在主题演讲时表示,金融业正经历全面的数字化转型,数据成为核心资产,风险管理与决策更加科学化和智能化。然而,数据安全成为金融发展的关键,需在确保安全的同时,有效利用数据资产以提高收益。张院长指出,源于对金融机构业务发展中安全重要性的深刻认知,中央财经大学金融学院在学科建设中融入了金融安全工程。学院致力于培养掌握金融安全关键知识和技能的人才,以满足金融机构和社会发展的需求。此外,中央财经大学金融学院与奇安信集团紧密合作,建立金融数据安全联合实验室,整合优质资源,期待在未来能成为中国培养金融数据安全人才的阵地,并计划定期发布金融数据安全研究报告,助力行业发展。

中央财经大学金融学院院长张学勇

中国移动集团信息技术中心架构师赵永刚发表主题为《人工智能技术在信息安全领域的研究与探索》的演讲,分享了中国移动信息技术中心在大模型领域应用过程中发现的安全问题以及应对之道。赵永刚表示,在AI构建大模型应用之时,面临数据侵权、隐私泄露和数据合成伪造的风险,通过在应用、数据和访问三大层面构建核心安全体系,能够有效降低安全风险,提升应用大模型的安全信任感。赵永刚提出了三个层面的主要技术手段:在应用侧,研究合成检测,保证应用安全;在数据侧,通过数据水印和一系列数据防护措施,构建数据防护体系;在接入访问侧,通过5G专网解决网络安全问题,构建完整的安全访问方案。

中国移动集团信息技术中心架构师赵永刚

中国联通集团数据安全专家孙艺发表了主题为《筑牢数据安全防线,护航数字经济发展》的演讲,分享了中国联通在整个数据安全治理体系方面的思考和实践。中国联通始终围绕数据治理、安全防护、常态运营和产业赋能四个方面开展工作,同时还搭建了管理+技术+组织的数据治理体系,该体系的运用不仅持续强化中国联通在数据安全防护方面的能力,而且通过提高风险发现和处理的效率,有效预防了数据泄露风险,为中国联通在数字经济时代的稳健发展提供了坚实的安全保障。

中国联通集团数据安全专家孙艺

奇安信集团产品总体部副总经理王月辉发表题为《重新定义安全服务价值》的主题演讲。他表示当前安全厂商提供的安全服务,多数情况下灵活性都很强,安全服务的立项、采购和实施三个阶段都存在着很多不确定性。王月辉强调,安全服务的未来发展方向应以客户需求为核心驱动力,通过推动供给侧的改革与创新,将安全服务提升为一种标准化、精细化、个性化的工艺品。这种服务模式不仅能够精准对接市场和客户的特定需求,还有助于提高安全行业的服务质量与效率。通过该模式,网络安全服务有望迈入一个全新的发展阶段,实现质的飞跃。

奇安信集团产品总体部副总经理王月辉

奇安信集团战略咨询规划部总经理邬怡、奇安信集团人工智能研究院负责人王占一做了《从RSA2024看AI安全趋势》的主题对话。

邬怡认为,人工智能(AI)安全与网络安全在本质上是相通的,治理架构的建立应当先行一步。AI治理架构与数据安全治理架构有着诸多相似之处,都需要构建一个跨职能的组织,涵盖隐私保护、法律事务、合规性、安全保障以及信息技术等多个领域,以实现协同共建。在构建大型AI模型的安全框架方面,邬怡提出了四点建议:首先,短期内可以通过评估系统安全性来确保大模型的安全性;其次,建立临时控制措施,对大模型的使用进行有效管控;第三,加强对公司内部AI应用的监控,确保其合规性;最后,定期审查并更新现有的安全策略,以适应不断变化的技术环境和安全需求。

王占一从专业的角度深入剖析了大型AI模型的训练与部署应用流程。在训练阶段,对数据进行隐私化处理是至关重要的,包括对数据内容进行安全分析和过滤。针对中间私有数据的处理,王占一强调了两个关键点:首先,要确保数据内容与当前用户的权限相匹配,保障数据访问的合理性;其次,当数据被用于生成回答时,必须对内容进行安全性和合法性的评估,确保其不仅符合法律法规的要求,而且还要与公司的价值观和准则相一致。通过这种机制,在确保AI模型提供智能服务的同时,也能够维护用户隐私和数据安全。

奇安信集团战略咨询规划部总经理邬怡(左)

奇安信集团人工智能研究院负责人王占一(右)

在论坛的圆桌对话环节,来自金融科技领域的多位专家就“金融科技安全:新时代的创新与挑战”这一主题展开了深入的探讨。平安银行金融科技部总经理助理宋歌、厦门国际银行科技运维部金融科技专家林建庭、北京航空航天大学计算机学院教授荣文戈、曙光信息产业股份有限公司金融行业首席架构师姜永凯,以及奇安信集团副总裁张卓,分别从不同的角度出发,就大模型人工智能在金融服务领域所带来的深远影响和变革、对人才培养的深远影响,以及人工智能如何赋能网络安全运行等话题,分享了各自的见解和洞见。这次圆桌对话为金融科技安全领域的创新与发展提供了宝贵的思想交流和经验分享。

圆桌对话环节参与嘉宾

BCS2024北京网络安全大会(以下称大会)于6月5日至6日在国家会议中心举办,大会以“AI驱动安全”为主题,设置2场数字安全高峰论坛、3场网络安全相关比赛、20余场论坛沙龙、多场全国系列活动。大会每年提出的观点都成为产业发展的风向标,是北京重要的战略窗口与科技名片,已成为极具影响力的世界级网络安全盛会。金融业网络安全论坛作为大会期间举办的重要品牌活动,至今年已经成功举办五届,成为BCS2024北京网络安全大会最具影响力的行业论坛之一。