​“今年5月底，骗子通过利用Deepfake换脸技术，伪造了一系列以假乱真的马斯克谈话视频，谎称其创办了某个加密货币交易平台，每天可以带来30%的基础收益，这让马斯克不得不出来辟谣——这个例子可以充分说明，AI安全能力建设已刻不容缓。”6月24日，第六届世界智能大会在天津举办，三六零(601360.SH，下称“360”)集团创始人周鸿祎出席大会并发表主题演讲。

他指出，面对人工智能的各种复杂安全挑战，网络安全行业应当被重新定义，将计算机安全、网络安全升维到数字安全，才能跟得上人工智能行业的发展需求，才能跟得上国家的产业数字化发展要求，才能保障人们进入数字文明时代。

据了解，本次大会由天津市政府与国家发改委、科技部、工信部、广电总局、网信办、中国科学院、中国工程院、中国科协共同主办，以“智能新时代：数字赋能、智赢未来”为主题，形成“会展赛+智能体验”“四位一体”模式。元宇宙媒体平台“N世界”作为主要媒体平台之一，全程直播第六届世界智能大会高峰会。

AI面临七大安全挑战 国家战略层面首提AI安全

周鸿祎在演讲中指出，人工智能在不断发展的同时，也面临着七大安全挑战，包括硬件可能被攻击、软件存在漏洞、专用通信协议可以能被篡改、算法可以被欺骗、数据可以被污染、应用上可能危害人类利益、社会伦理上可能超出现有规范等诸多风险问题，甚至引发混乱与恐慌。

例如，今年2月底，一条乌克兰总统泽连斯基呼吁乌克兰士兵放下武器的 “视频”被广泛传播，后经泽连斯基本人辟谣证实，该视频是由Deepfake换脸技术伪造。前不久，一名谷歌研究员在与AI对话时“走火入魔”，不但自己被AI说服，相信其有自主意识，甚至还写了一篇长达21页的调查报告上交公司,试图让高层认可AI的人格。此外，如有“别有用心”的人通过给智能汽车输入“污染”过的训练样本，就可以把“禁止通行”的交通标志牌识别为“可以通行”，从而造成交通事故和人员伤亡。

“人工智能在数字化过程中扮演着至关重要的角色。”在周鸿祎看来，加快数字化发展已经上升为国家战略，产业数字化将是红海中的新蓝海。

他认为，产业数字化真正的价值是帮助很多传统企业，特别是制造业进行智能化改造升级，“人工智能则是推动产业数字化进入智能阶段的创新引擎，能够赋能智慧城市、数字政府、工业互联网、车联网等数字化场景实现智能化、自动化运转，比如说，未来数字城市里的智慧交通，既要有聪明的车，也要有智慧的路，车路协同才能真正重塑城市交通。”

面对不断升级的安全挑战，国家层面也高度重视人工智能安全的建设。《国家安全战略（2021—2025年）》就明确提出，要加快提升网络安全、数据安全、人工智能安全等领域的治理能力。“这也是国家战略层面首次提出人工智能安全的概念，说明人工智能安全是数字安全的一部分。”周鸿祎说。

360携手产学研 共建AI安全生态

“人工智能技术高速发展、带来安全新挑战的同时，也为解决数字安全风险提供了新的技术手段。”对于人工智能的风险与积极作用，周鸿祎认为需要辩证对待。

据他介绍，目前人工智能已经应用于数据分析、情报处理、智能防御等领域，在恶意代码检测、恶意流量分析、漏洞挖掘、僵尸网络检测、网络黑灰产检测等方面发挥着重要的作用。

以AI数据分析为例，借助人工智能，安全专家可以对多维度、海量、鲜活的安全大数据进行实时数据分析，以算力代替人力，提高海量安全事件的响应速度。

360一直高度重视人工智能安全，率先在行业进行布局，积极构建起人工智能安全能力体系。周鸿祎表示，360对自身积累的全球最大的安全大数据进行AI分析，形成了360云端安全大脑的原型，为行业或企业提供强大的数据和情报支撑，助力对网络威胁进行有效分析、溯源。

在安全大脑的赋能下，360还积极参与人工智能安全漏洞挖掘，发现150+个机器学习框架及供应链漏洞，涉及Tensorflow、Caffe、PyTorch等主流深度学习开源框架，并积极承担“安全大脑国家新一代人工智能开放创新平台”的建设，牵头研发的“人工智能安全测评与风险监测预警平台”入选工信部“人工智能产业创新任务揭榜单位”名单，有效夯实了人工智能安全的底座。

“人工智能方兴未艾，人工智能安全也还有很多挑战需要研究，这仅靠一家企业不能解决所有威胁，因此尤其要注重生态合作。”周鸿祎表示，为解决人工智能带来的安全威胁，360作为中国数字安全的领军企业，开放自身安全大数据，将产学研力量联合起来，共建AI安全生态，集中推动数字安全的创新。

此外，360还将倡导建立人工智能与安全开放创新体系，建立平台化机制，实现核心研究成果的对接与转化，赋能人工智能与安全相关的中小微企业、高校、科研院所，赋能中小初创安全企业、垂直行业、AI产业，共享技术成果，推动产业健康快速发展，提升国家人工智能安全整体防御能力。