龚克：人工智能是先进生产力，不发展是最大的不安全

“人工智能是先进生产力,必须大力发展。不发展是最大的不安全。人工智能和网络安全密切相关,应该全力推动人工智能和网络安全的融合创新。”6月5日,先进计算与关键软件(信创)海河实验室主任、中国新一代人工智能发展战略研究院执行院长龚克在2024全球数字经济大会数字安全高层论坛暨北京网络安全大会(BCS2024)战略峰会上强调。

先进计算与关键软件(信创)海河实验室主任、中国新一代人工智能发展战略研究院执行院长龚克

在本次大会上,龚克作了题为《对AI发展与安全的几点思考》的主旨演讲。他认为,ChatGPT的横空出世,标志着数字化进入新阶段,智能化加速发展。

龚克表示,以大模型为代表的人工智能表现出的强大功能,带来了网络安全、法律、伦理等方面的风险,使很多人产生焦虑。GPT4面世后,全球一大批知名人士发表公开信,要求暂停开发优于GPT4的大模型。

龚克表示,这种做法无法阻止人工智能的发展。人工智能是引领科技革命和产业变革的战略科技力量,正在快速发展,并且表现出跨模态特点,量变正在带来质变。

“发展人工智能,是代表先进生产力的发展方向。”龚克认为,人工智能会带来很多风险,但不发展是最大的不安全,将丧失新的生产力革命的机遇。

针对人工智能的风险?龚克强调了两点:第一,要承认和正视人工智能风险的存在。第二,要具体分析人工智能风险来自于什么地方,既不要神话AI,也没有必要妖魔化AI。“从现在的实践来看,人工智能风险并不是来自于技术太强,而是来源技术不够强,存在各方面的技术瓶颈,特别是管控技术和堵点亟待突破,从而引发很多社会焦虑。”

在龚克看来,人工智能正在推动信息网络走向智能化的新阶段。人工智能离不开网络,云、边、端都是在网络上部署;因此,人工智能与网络安全是相互依赖、相互促进的关系,人工智能的发展推动了网络安全技术的创新。

龚克表示,人工智能可以加强网络安全,同时也带来数据的安全问题。这就要求网络安全和人工智能要深度融合创新,这是我们的发展方向。

2024北京网络安全大会以“AI驱动安全”为主题,共举办2场峰会、20多场分论坛,2场大赛,邀请来自10多个国家和地区的专家学者,来自金融、能源、交通、政务等10多个行业领域代表参会。

作为具有全球影响力的网络安全大会,BCS大会(北京网络安全大会)已成功举办五届,先后有来自中、美、俄、日、以等全球30国,超2000位政要、行业领袖、网络安全专家出席并进行精彩分享。BCS2024以“AI驱动安全”为主题,与海内外各界嘉宾共同探讨AI如何激发网络安全的最大效能。(完)