沙特创业者探访嘉立创珠海生产基地,对中国智造点赞 | “立足本地差异化 做好五篇大文章” 2024浦江中小银行论坛年会在沪举行 | 破解科学数据要素化的开放共享难题 | 佳沛×百果园|「佳果好学屋」公益探访微纪录片发布 | 2024年四千元客厅投影仪怎么选?激光光源当贝X5亮度超高体验极佳 | 2024少儿编程教育行业趋势发布,编程猫以头部先发优势引领行业发展 | 56城体验报告:在线政务办事质量需要精确提升 | 连收两封国企感谢信,钢银电商SaaS服务再获认可! | 中国文体投资运营控股集团与美国魔幻公司在中国大连旅顺口区签署战略合作协议 | 创意无限 · 迈向未来 庆祝香港城大30年大学之旅 |
 
当前位置: 新闻>滚动>

北京市人大代表李雪莹:健全保障机制,推动北京市人工智能创新发展

发布时间:2024-01-22 16:10:05  |  来源:中华网科技  |  作者:  |  责任编辑:科学频道

从AlphaGo战胜人类棋手,到ChatGPT开启的AI狂潮,在“子弹”飞过一段时间后,人工智能技术及产业不断加速发展,引来了更多的关注。AI应用从消费、互联网等领域,不断延申到制造、电力等传统行业。

2023世界人工智能大会上,工信部副部长徐晓兰表示,我国人工智能核心产业规模达到5000亿元,企业数量超过4300家,智能芯片、开发框架、通用大模型等创新成果不断涌现。

但是,问题也随之而来。

北京市人大代表、天融信科技集团董事长兼CEO李雪莹介绍,“当今时代,人工智能被广泛应用于通信、医疗、教育、交通、安防等各个领域,改变着人们的生产生活模式。但与此同时,人工智能带来的安全隐患与道德争议,也让各界对AI技术更加重视,对其应用变得更加谨慎。”数据泄露、算法偏见、AI技术被滥用、安全隐患、法规不完善等问题亟待解决。

新技术的应用往往蕴藏新的安全风险、带来新的安全挑战。今年北京市两会期间,李雪莹代表与记者交流时谈到,目前人工智能技术应用面临多重风险,缺乏有效的安全评估和管理机制,同时数据安全问题成为制约人工智能产业发展的主要因素,健全人工智能创新发展的安全保障机制已十分必要。

根据《数字时代安全科技价值报告》显示,人工智能安全风险可分为三类:第一是内生安全,由软硬件系统组成的人工智能系统,也会存在技术本身的脆弱性和数据依赖性等缺陷;第二是衍生安全问题,即人工智能被利用或不恰当使用而可能引发其他领域的一些重大安全事故,如深度合成伪造声音和视频的电信诈骗;第三是人工智能系统面临的外部入侵和攻击。与此同时,人工智能模型训练需要海量、高质量数据,数据质量、数据规模直接影响人工智能模型的准确性及可靠性。人工智能安全风险与网络安全、信息安全风险交织叠加,人工智能应用的安全评估和管理已成为当前亟待解决的问题。

针对以上问题,李雪莹代表提出三点建议:一是引入人工智能产品准入机制,制定人工智能应用安全风险评估与管理规范;二是鼓励人工智能安全应用技术创新,打造人工智能数据安全最佳实践;三是推动人工智能在网络安全领域应用,以人工智能技术防范人工智能风险。