7月27日，在（zài）微博、新（xīn）浪新闻主办的人工（gōng）智能领域行（háng）业峰会（huì）——2022新智（zhì）者大会上（shàng），360公司创始人周鸿祎分享了题为《筑牢AI安全基座 护航智能新时代（dài）》的演讲，从数字安全的角度，带给我们关于网络安全的全新视（shì）角和定义。

2022新智者大会-360公司创始人周鸿（hóng）祎-主题演（yǎn）讲

以下（xià）是周鸿祎（yī）分享实录，内容经编辑略（luè）有删减（jiǎn）：

尊敬（jìng）的各位领（lǐng）导、各位同仁、各位（wèi）来宾，感（gǎn）谢大会组委会的邀请，非常高兴参加“2022年新智者大会”。

我（wǒ）叫（jiào）周鸿祎，虽然说可能（néng）很多人都（dōu）认识我，但是很多（duō）人都问我一个问题（tí），为什么你老喜欢穿红（hóng）衣（yī）服（fú）？那是因为我（wǒ）的名字（zì）老被叫成周鸿“伟”，所以我穿一个红衣服，就是（shì）给大家（jiā）提示一下，我是鸿祎（yi），不（bú）是鸿（hóng）伟（Wei）。

本次（cì）会议的主（zhǔ）题是“融合生态，价值共创（chuàng）”。当前发展数字经（jīng）济，以人工（gōng）智能（néng）为代表的数字技术赋能产业变革，推（tuī）动整个（gè）社（shè）会经济进（jìn）入智能（néng）化的新（xīn）阶段。

我是（shì）绝对支持数字经济，支持新（xīn）技（jì）术人工智能（néng）的。但是，我们做安（ān）全的（de）人，稍微（wēi）有点变态，天（tiān）天（tiān）都在琢磨这个技术有（yǒu）啥（shá）风险，这个（gè）技术有什么不安全的地（dì）方。

那么（me），我们今天谈数字（zì）经（jīng）济、人工智能里不（bú）安全的问题，也是（shì）为（wéi）了（le）保（bǎo）证让（ràng）我（wǒ）们建设数字（zì）中国，促进数字经济（jì）能走得更稳、更远。

简单来（lái）总结，当前一个（gè）大的趋势（shì）是数字（zì）化（huà）发展（zhǎn），数字化已经成（chéng）为国家战略。这里边包括我觉（jiào）得最（zuì）重（chóng）要的大家应该关注的是产业（yè）数（shù）字化，是红海中的蓝海。为（wéi）什么（me）这（zhè）么讲（jiǎng）呢？未来所有的传统（tǒng）行业，都值得用数字化重塑一遍它的产业链（liàn）、供应链、价值链（liàn），甚至是商（shāng）业模式。

数（shù）字经济已经成（chéng）为当代的主旋律。很多人老误以为数字经（jīng）济（jì）=虚（xū）拟经济，其实（shí）所有用（yòng）数字化（huà）技术打造的经（jīng）济（jì）成果，都是数字经济。中（zhōng）国在这方（fāng）面（miàn）已（yǐ）经遥（yáo）遥领先，我们数字经济占（zhàn）GDP的比重已经超过30%。

所以，未来（lái）5-10年（nián），所有的企业都将转型升级成数（shù）字化企业（yè）。

如果没有数字化的企（qǐ）业（yè），可能就消失（shī）或（huò）者被（bèi）淘汰了。

我们经常讲（jiǎng）互联网的上半场，我的（de）理解（jiě）互联网的上半场（chǎng）是（shì）消费互联网的（de）数（shù）字化。也就是这个互联网公司，把中国老百姓的吃喝玩乐、衣食住行，各种生活方式充分实现了数字（zì）化。所以，这些传统互联（lián）网公司，当仁不（bú）让（ràng）成了主角。

但是，未来10年，我觉（jiào）得是互联网的下半场，主角就不再是互联网（wǎng）公司，而是各种传统（tǒng）企业，各级政（zhèng）府，他们才会变成大（dà）数（shù）据、数（shù）字化真正的玩家，把各种产业场景（jǐng）用（yòng）数（shù）字化再（zài）重（chóng）新塑造一遍（biàn）。

简单讲，数字化发（fā）展的几（jǐ）个核心技术。为了让大家记，我编（biān）了（le）一个（gè）字母歌，叫I、M、A、B、C、D、E。

I，IoT，物联网技（jì）术，主要（yào）是未来用（yòng）来把这个（gè）世界，把所有的商业流程，所有数字化，主要是依（yī）靠物联网设备。

M，移动通信，5G，实际上是为数字（zì）时代（dài）准备的（de），并不是说仅（jǐn）仅方便我们个人为了（le）看视频，能（néng）够（gòu）快速，实（shí）际上为了（le）通过5G，把各种现（xiàn）实世（shì）界数字化的数据传（chuán）到云端。

C是Cloud computing，云计算；A是人工智（zhì）能；B是区块（kuài）链；D是大数据；E是边缘计算。

所以，这里边的逻辑（jí），我觉得最重（chóng）要是以（yǐ）AI为核心，AI是一个大数据的基础，才有了深度学习，所以AI也是数据基础（chǔ）。

数据又来（lái）源于哪儿呢（ne），来源于IoT，大量对这（zhè）个世界（jiè）的数字化（huà），通（tōng）过5G，传到云端。通过大数据系统管理起来。

所以，未来我们谈（tán）数字经济（jì），我们谈数（shù）字化战略，都（dōu）脱离不开这几个技术。当然，还有（yǒu）一个是我们今天要说到的，有一（yī）个技术（shù）跟它们都（dōu）不能并（bìng）列，是“安全”。因为只有“安全（quán）”，给它们（men）提供了坚（jiān）实的基础，这（zhè）些技（jì）术才能够充分发挥作（zuò）用，而（ér）不至于成为风险的来源（yuán）。

我可以（yǐ）举一（yī）个简单的例子。

最（zuì）近的“俄（é）乌（wū）冲突”相当于是一场开卷考试，是新的（de）时代下数字世界对抗冲（chōng）突的真实预演，有几（jǐ）个特点，我给（gěi）大家总结一下。

第一（yī），网络战和传统战争相（xiàng）结合，已经演变成（chéng）一场数字化（huà）战（zhàn）争。

在战前，网络战已经不是传说中（zhōng）的幻（huàn）想小说。实际上在传统作战发生之前，网络战已经开打。俄乌双方的政府部门，还有银行（háng）、电信、电力等关键基础设施，均遭到了（le）网（wǎng）络打击。那除了网络（luò）攻击（jī）之外，星链、卫（wèi）星、互联网、人工智能、无人（rén）机，人工（gōng）智能技术，传统武器、传统攻击（jī）方法（fǎ）融（róng）为一（yī）体，打了（le）一场（chǎng）新型的数字（zì）战争。乌克兰获得了北约和美国的支（zhī）持（chí）。在数字化技术方面，弥补了（le）弱势，而俄方由于在数字化方面落后，所以不（bú）免有扩大（dà）的损失。

第二（èr），网络攻击的（de）手段无所不用其极。

此次，双方除了（le）使用包括原来（lái）常规的基于漏洞的APT攻击，还把DDoS拒绝服务攻击，特别是数据查（chá）处攻击、供应链攻击各种网站攻击，各（gè）种传统（tǒng）手（shǒu）段，包括新的手（shǒu）段结合起来，所以这一次战争（后面我会讲）还有（yǒu）一个（gè）特点，不仅是数（shù）字化战争（zhēng），还是第一次人工智能参战（zhàn）的数字战（zhàn）争。

第三，这一（yī）次是一场（chǎng）数字时代的人民战（zhàn）争。

正因（yīn）为双方都大（dà）量（liàng）使（shǐ）用了数字化技术（shù），而数字化的技术，真正的高（gāo）手（shǒu）在民间。所（suǒ）以（yǐ），很多高科技公（gōng）司走向攻防（fáng）的前沿（yán），民间（jiān）的黑客成为主力军。

比如美国有很多高科技的公司，哪怕是民间公司（sī），实际上都参与（yǔ）了战斗。包括IBM、微软、谷歌，他们对俄罗斯禁运芯片，或（huò）者终止服务，包括埃隆马（mǎ）斯克，提供星链、卫星、互联网（wǎng）等技术。

然后，民间的网安公司也纷纷参战。也就是包括（kuò）俄罗斯的卡巴斯基，还有欧洲的很多传统杀（shā）毒软（ruǎn）件公司都纷纷参加，成（chéng）为（wéi）网络攻（gōng）击攻防（fáng）的重要（yào）力量。

本来俄罗斯（sī）在乌克兰的系统里（lǐ），预埋了（le）一些（xiē）后（hòu）门和漏洞。但是，美国（guó）的网络战部队和美国的（de）一些安全公司出手（shǒu）。帮助乌克（kè）兰做了漏洞和预埋后门的清理，使得俄罗斯原来预设的网（wǎng）络打击效果大打折扣。

乌克（kè）兰（lán）还组织了30万国际（jì）黑客，又叫（jiào）“IT志愿军”，这（zhè）30万黑客（kè）冲（chōng）到俄罗斯的（de）网络（luò）空间里（lǐ），大打出手，导（dǎo）致俄罗斯的网军精力（lì）难以兼顾，处处被动。

所（suǒ）以，我们（men）可以从俄乌的例子来看，这是（shì）人（rén）类历史（shǐ）上（shàng）第一次数字化战争，也（yě）是第（dì）一次AI战（zhàn）争。体（tǐ）现（xiàn）了双方谁（shuí）的数字化（huà）技术落后（hòu），谁（shuí）就（jiù）要挨打这个机制。

过去我们有句老话讲“落（luò）后（hòu）就（jiù）要挨打”。通过俄（é）乌战争，我们可以把这句话改（gǎi）成，今天在（zài）数（shù）字化的时代（dài）里，谁（shuí）在（zài）数（shù）字化体系上落后（hòu），谁就（jiù）要挨打。

我们可以（yǐ）看到，这次俄（é）乌战（zhàn）争表面上是两个国家的武力冲（chōng）突。但（dàn）实（shí）际上背（bèi）后是俄（é）罗（luó）斯（sī）和西（xī）方两大数字体系（xì）的碰撞。结果不言而（ér）喻，西方强大的数字体系（xì），不再（zài）区分（fèn）军工、民用，也不再区分国企、民企，也（yě）不再区分企（qǐ）业、个人，把（bǎ）整个的（de）数字（zì）化力（lì）量综合在一起，在这方面俄罗斯就（jiù）应该说（shuō）处于下风吧。

为什（shí）么我又（yòu）讲这是人（rén）类历（lì）史上第一次（cì）AI战争呢？因为在军事冲突过（guò）程中，你（nǐ）会发现这一（yī）次（cì）AI（人工智（zhì）能）活跃于战场的各个领域，扮演着非常重要的角色。甚至包括AI的（de）武（wǔ）器（qì），直接参与（yǔ）了战（zhàn）场的攻击，参与（yǔ）了战（zhàn）场（chǎng）的情报支持，辅助战（zhàn）场（chǎng）决策，被（bèi）用于心理战的这种虚（xū）假宣（xuān）传，下面呢（ne）我讲一一详（xiáng）细来给（gěi）大家做一（yī）些例子的说明。

第一个，AI的武（wǔ）器直接参与（yǔ）战场（chǎng）攻击。

我记得当年阿西·莫夫在讲“机（jī）器人（rén）三原则”的时候，有一个重要的原则，就是机器（qì）人（rén）不能伤害人。实际（jì）上今（jīn）天（tiān）各种无（wú）人（rén）战车、无人飞（fēi）机（jī），已经应用在（zài）战场上。这（zhè）里面举一个例子，乌克兰军队使用美国的弹簧刀无人机，具（jù）备监（jiān）视、侦察（chá）和打（dǎ）击功能。既是无人（rén）机，又是一个（gè）自杀式导弹，在人工智能的加（jiā）持下，单兵就能熟练掌握，有效打（dǎ）击俄（é）军的机（jī）动（dòng）目（mù）标，成为战场规则的（de）改变者。

那今（jīn）天弹簧（huáng）刀无（wú）人机可能还是在被遥控，最后打击的瞬间可能还是由（yóu）人来下（xià）指令。但是，从人下指令，到它自动识别、自（zì）动判断、自主发起攻击（jī），我觉得这就是一层薄薄的窗户纸。

第二个，AI参与战（zhàn）场情（qíng）报支持。

乌克（kè）兰国防部使（shǐ）用Clearview AI面部识（shí）别技术，通过人工智能来（lái）识别俘虏和尸（shī）体。该公司拥有（yǒu）一个（gè）包括来自网络的100亿张面孔（kǒng）的数据库。其中，仅来自俄（é）罗斯社交媒（méi）体的图像就高达20亿张。这种技（jì）术通过战场上传来的俄罗斯战俘或（huò）者（zhě）尸体的面（miàn）部照片，可以（yǐ）对死者的身份进行匹配。

第三个，AI辅助战场决策。

这次我们都知道说（shuō）乌克兰派出很（hěn）多小（xiǎo）分队，对（duì）俄罗斯的运输（shū）线进行各种灵活的打（dǎ）击，打完了就跑。这个前（qián）提是要有完（wán）全，应（yīng）该说（shuō）尽在掌握之中的（de）战场态势感知。

这一次呢（ne），Seekr和Semantic AI的增强智（zhì）能平台相（xiàng）结合，应（yīng）用（yòng）深度分析技（jì）术（shù），来发现人员（yuán）地点，事件之间的隐蔽连（lián）接，自动生成报告和（hé）动态仪（yí）表盘（pán），从而帮助指挥者（zhě）做出更明确的选择。所以（yǐ），这一次（cì）整（zhěng）个战场态势感知（zhī），大（dà）数据分析（xī）应（yīng）该说AI功（gōng）不可（kě）没。

第四个（gè），打仗既是（shì）认（rèn）知战，也是心理（lǐ）战，也是宣传战。

所以，前面网上流传了一（yī）个叫（jiào）Deepfake的视频，所谓Deepfake就（jiù）是（shì）利用AI做的深度伪造，内容（róng）是（shì）泽连斯基（jī）宣布他投（tóu）降，这（zhè）个视频害的泽（zé）连斯基（jī）不得不公开辟谣。但还是（shì）有大量（liàng）的AI水军机器人在网上狂炒，制（zhì）造舆（yú）论。

所以（yǐ），在这个过程中，AI发挥了巨大的作用。

第五个，AI基（jī）础算力（lì）设施（shī）的（de）服务（wù）断供。

我们（men）讲运行AI需（xū）要算力，算力需要大数据等基础设施。但如果数据中心，云服（fú）务都被终止，那么（me）各种（zhǒng）无人机，自动驾驶坦克各种大脑就失去了重要的能源。

在本次（cì）俄乌冲突（tū）中，西方对俄罗斯采（cǎi）取了（le）“六断”（断网（wǎng）、断供、断服（fú）务、断证书、断域名（míng）、断舆论（lùn）），包括说微软、IBM和甲骨文这些公司对（duì）俄停止（zhǐ）SSL证书，停止（zhǐ）域名解（jiě）析，停止互联网（wǎng）接口（kǒu），中（zhōng）断（duàn）国际传输（shū）网络，停止了各种软（ruǎn）件跟（gēn）服务，芯片和硬件（jiàn）供应商，比如英特尔对俄（é）断供（gòng），甚至包括脸书、推特等就彻底把俄（é）罗斯的很多帐号（hào）给禁掉，彻底将俄（é）孤立。再试图把俄（é）罗斯在（zài）数字化的世界里彻底抹去。

而（ér）俄罗斯由于缺乏市场化的数字产业支撑（chēng），完全被动挨（āi）打，这个都让俄罗斯算力、产（chǎn）品和服务的基础被（bèi）掣肘。

所（suǒ）以，大家想一想（xiǎng）当未来发生冲突的时候，实际（jì）上就成了（le）数（shù）字体系的对抗（kàng）。这个（gè）数字体系的强壮与否，已经（jīng）不完（wán）全取决于（yú）军队或者仅仅是军工企业，可能跟每一家数（shù）字化的公司，每一家（jiā）研究（jiū）数字技术的科技人员，都（dōu）有密切的关系。

所以，我们可以得出一个结论，安全是数字化的基座，在一切皆可编（biān）程，万物均要互联，大数据驱（qū）动业务、软件重新世界的（de）趋（qū）势（shì）下，整个全世界的安全环境（jìng）也更加的（de）脆弱（ruò），这其中AI也不例（lì）外。

一切皆（jiē）可编程，我（wǒ）刚（gāng）才讲过了（le），就意味着所（suǒ）有（yǒu）的东西都是软件。比如（rú）说（shuō）汽车也是软件，无人机也是软件，所以（yǐ）漏洞无处不在。有漏（lòu）洞，就有（yǒu）可能被（bèi）人利用，被（bèi）人利用就可能被人攻（gōng）击。

我稍微解释（shì）一下漏洞的原理，过去大（dà）家只（zhī）要（yào）觉得说自己的（de）电（diàn）脑口令不（bú）丢失（shī），帐号不泄漏，就没有（yǒu）安全的问题。实际上“漏洞（dòng）”的出现改（gǎi）变了这一切，漏（lòu）洞改变（biàn）了整（zhěng）个网络攻防的游戏规则。基于一个我知道，而你不知道的漏洞，可能别人就（jiù）能（néng）以一种（zhǒng）完全意（yì）想（xiǎng）不到的方法来（lái）控制你的系统。

举一个例子，比（bǐ）如说利用（yòng）一个（gè）常（cháng）见的浏览器漏洞，可能你在浏览一张美（měi）女图片的时（shí）候，你在（zài）享受看图片的时候，可能在这个（gè）图片里（lǐ）面编（biān）码的一个代码，就神不知鬼不觉在（zài）你的电脑上开始（shǐ）运转起来。

前两天，有（yǒu）一（yī）个WannaCry勒索病毒利用了（le）一个漏洞，更是匪夷所思。一台电（diàn）脑向（xiàng）另（lìng）外一台（tái）电脑的网（wǎng）卡发送了一个数据包，两台电脑（nǎo）毫无感觉，这（zhè）个数据包（bāo）就能够在接收（shōu）机（jī）器的电脑上（shàng）运行，从而控制这台电脑（nǎo），所以应该讲，漏洞现在是无孔（kǒng）不入。

关于漏洞最典型的例子（zǐ），是去年年（nián）底阿（ā）帕奇基金开源项目的Log4j2的组件，被发现存（cún）在着（zhe）远程代码（mǎ）执行漏洞（dòng）。这个软件被大量应（yīng）用于（yú）关键业（yè）务系统（tǒng）底层开发，这个漏洞就意味着（zhe）我们很（hěn）多重要的系统，被漏洞的利用（yòng）者能够洞开。

万物均要互联，万物（wù）互联带来的好处（chù）就不讲（jiǎng）了。所以（yǐ），今天的车联（lián）网、智慧城市、工业互联（lián）网（wǎng）都是（shì）万物互联的典型例子。但是，这也（yě）意味着（zhe）在虚拟世界里的攻击，往往会（huì）变成物理世界（jiè）的伤害。在过去，大家（jiā）中了病毒，只是（shì）说（shuō）文件丢失，大不了电脑不用了，邮（yóu）件（jiàn）不收了，网（wǎng）不上了（le）。但是（shì），今天虚拟世（shì）界里的伤害，都（dōu）可以（yǐ）转成对物理（lǐ）世界的攻（gōng）击（jī）。

所以（yǐ），我们可（kě）以看到，导致（zhì）工厂停工，大面（miàn）积（jī）停电（diàn），社会停摆。

我（wǒ）举两个例子，今年2月-3月，三家丰田（tián）的供应（yīng）商（shāng）遭到黑客攻击，丰田不得（dé）不停止其14家日本（běn）工厂的运营，导（dǎo）致每月的生产（chǎn）能力下降了5%。

前几年（nián），在委内瑞拉、乌克兰都出现（xiàn）了（le）利用网络（luò）攻击，攻（gōng）击变电站设备，远程拉（lā）闸（zhá），导致（zhì）大面（miàn）积停电，所（suǒ）以这里（lǐ）就不是美国（guó）科幻电影里的幻想。

再举一个真（zhēn）实的例子，我们现在（zài）大家（jiā）都（dōu）会买智能网联车或者新能源车，但是说句不（bú）好（hǎo）听的话，你买了车，你不要以为这车就是你的了，实（shí）际（jì）上是听车厂（chǎng）的。

我们的车每时每（měi）刻都需要跟车厂（chǎng）保持联系，不断的从车厂（chǎng）各种更新的指令、更（gèng）新软件，也不断把各（gè）种数据（jù）传回车厂（chǎng）。

一（yī）旦黑客破解了这个车厂的协议（yì），或者破解了车厂的云（yún）端服务器，就可以远端对（duì）你的车进行遥控，那么可能就会（huì）出现更大（dà）的风险。在2017年，我们曾经（jīng）帮助某全球（qiú）知（zhī）名（míng）的一个知名车企，发现了大概（gài）19个漏洞。通过这些（xiē）漏（lòu）洞，这个车厂在2017年以后出的全球600多万辆车，都（dōu）可以远程启动、远程熄（xī）火、远程（chéng）开门、远程（chéng）开（kāi）天窗，一旦这些漏洞被（bèi）黑客掌握，后果不堪设想。

大数（shù）据驱动业务，我（wǒ）们现在（zài）对（duì）大数据都（dōu）非常重视。数据变成重要的（de）战（zhàn）略（luè）资产，数据变成整个信息化社（shè）会的重要的像石油（yóu）一样的（de）基础血（xuè）液（yè）。但是，反过（guò）来说，数（shù）据（jù）一旦遭（zāo）到了攻击，可能就意（yì）味着业务停转，数据安全直接影响业务安（ān）全。

那（nà）2022年1月，我们国（guó）家台（tái）湾地区的台达电遭到勒索软件攻击，有1500台服务（wù）器，12000台电脑在（zài）本次攻击中（zhōng）数据被加密，被勒索1500万美金。

还有（yǒu）一个去年5月份，美国东海（hǎi）岸一家输油管道公司（sī）受（shòu）到了攻击，当时这个（gè）事情很出（chū）名，美国东（dōng）海（hǎi）岸很多加油站都供不上油（yóu）了（le），害了美（měi）国（guó）总统都为（wéi）之出来做了一些讲话。美国交（jiāo）通部甚至都要宣布，在美（měi）国东部要进入紧急状态。当时我们也觉得这（zhè）是一件很诡异的工业（yè）互联网（wǎng）攻击。

后来调查下来发现，其实（shí）比我（wǒ）们想得要简单。因为来自（zì）俄罗斯的黑客（kè），直接把这家美国（guó）油（yóu）管公司（sī）的财务数据给加（jiā）密了，导致整个财务数（shù）据系统崩溃之后，就没有办法向客户（hù）提（tí）供油料（liào）了。所以，整个（gè）的（de）业务就中止（zhǐ）了（le）。

这几年我们在国内也接到不少公司的报案（àn），他（tā）们（men）受到（dào）勒索（suǒ）攻击（jī）的这种侵犯。实际上一（yī）旦（dàn）核心数据被加密，整个业务系统立刻停摆。

所以，这里边我也讲一下勒索软件或者勒索攻击，已（yǐ）经变成现在成（chéng）长速度最快，获利最高的一（yī）种新的黑产的商业模式。

过去（qù）我们很多（duō）人很（hěn）迷信，我的数据很加密，别人也拿不走（zǒu），但是勒索攻击者（zhě）脑洞很清奇（qí），他们不拿走你的数据，把你的数据再加（jiā）密一点，就（jiù）像我（wǒ）说的，我们家（jiā）有一个保险柜，你来了之（zhī）后不用打开它（tā），再带一个更大的保险柜，把我的保险柜（guì）锁在你的保险柜里，这样我只（zhī）能乖乖地（dì）找（zhǎo）你（nǐ）去要保（bǎo）险柜的钥匙，所以这就是（shì）勒索攻击的核心秘密。

所以，我们可以（yǐ）看到数字化技术，固然一方面（miàn）给我们创（chuàng）造了自动化，非常美好的（de）科技的（de）这种未来，美好的生活，更高（gāo）的生产力（lì）、更高的（de）效率。但是它同时也有安全上（shàng）的隐患。

当然了，前面讲（jiǎng）人工（gōng）智能技术本质也是（shì）软件，本质（zhì）也（yě）是基（jī）于数据，也有很（hěn）多破（pò）绽。所（suǒ）以，总结（jié）起（qǐ）来，我觉（jiào）得人工（gōng）智能安（ān）全有七大（dà）安（ān）全挑战：硬件、软件（jiàn）、通信协议、算（suàn）法、数据、应用（yòng）和社会伦理。

下面我将给大（dà）家逐个解（jiě）释（shì）一（yī）下。

第一个，硬件，可能会出错。因为我刚才讲，今天的数（shù）字（zì）化（huà）世界，我（wǒ）们很（hěn）多（duō）数据（jù）是来自于物联网设备及（jí）各种传感器。如果这个传感器数（shù）据出错，传（chuán）给系（xì）统的数据本身（shēn）信（xìn）号就是（shì）错的，那（nà）么系统当然就会做出（chū）错误的（de）判断。

比如说美（měi）国（guó）波（bō）音公司的（de）737Max前几年出了（le）几次空难，实际上（shàng）是自动（dòng）压机（jī）头（tóu）和（hé）自动提升的软件（jiàn）出了错（cuò）误（wù）。因为机头升降仰角读取（qǔ）的传感器读出（chū）了（le）错误，以（yǐ）至于（yú）AI发生了错误判断。

包括今（jīn）天我们比较看好的（de）无人驾驶（shǐ）车，都（dōu）会装（zhuāng）有激光雷达，用（yòng）激（jī）光雷达（dá）来对前方的路障进行识别。但（dàn）是，如果我用类似（sì）的激光笔或者对激光雷达进行干扰，可能无人驾驶车，就会发生错（cuò）误的判断（duàn）。所以，硬件（jiàn）是整个（gè）AI数字化很重要的（de）基础，硬件有可（kě）能（néng）会带来错误的数据。

第二个，软件（jiàn）存在漏洞。特别是我们今天的AI训练，很多都（dōu）是基于（yú）开源框架（jià），这些开源框架本身软件都（dōu）有很（hěn）多的漏洞。在（zài）过去的时间里面，我们360已经挖取了（le）不少的（de）漏洞。

比如说最近有（yǒu）一个AI编程神器的软件，自动（dòng）生成代码中有40%存在漏洞，这个漏洞比一个（gè）优（yōu）秀（xiù）的人工工程师的漏洞还（hái）要（yào）多出10倍以上。

第三个，通信协（xié）议可能会被劫持。你比如说，刚才我（wǒ）们讲了无人驾驶汽车，跟车厂之间是（shì）有（yǒu）特殊的协议，来进行软件的（de）更新和（hé）远程（chéng）控制。如果这（zhè）个（gè）协议被破获之后，无人驾（jià）驶车就可能会失控。

那么，伊朗曾经通过GPS信号的欺骗，把美国的一（yī）架无人机迫降到伊朗的机场，这种GPS的信号（hào）欺骗也是一种通（tōng）信协（xié）议的劫持。

第四个，算法可（kě）以（yǐ）被欺骗、被误导。谷歌曾经有一个AI算法，把（bǎ）黑人识别成猩猩，惹出了很大的风波。现（xiàn）在（zài）我们有一些人工智能漏洞挖掘团（tuán）队，发（fā）现当你走在街上，面（miàn）对满大街人工智能的基于（yú）人脸识别（bié）的摄像头，你如果不想被他认出来你是（shì）一个人，你（nǐ）穿上特殊条纹或者特殊图案的T恤，摄（shè）像头就会不认为你（nǐ）是一个人，它就对你不会做面部识（shí）别，这就说明了算法（fǎ）是可以通过一（yī）种特殊的组合数据来进行欺骗和（hé）误导的。

更重要的（de）数据可以被污染（rǎn），或者我们（men）称（chēng）之为数据投毒。因为数据是宝（bǎo）贵的数字资产（chǎn），AI的深度学习是（shì）要基于大量的（de）数据训练。但是（shì），如（rú）果我（wǒ）们（men）在训（xùn）练过（guò）程中，我们给的数据是有误的，有可能训练出一个（gè）完全不一样的AI的结果。

比如（rú）说，如果我们（men）在（zài）训练如何识别猫的这样一（yī）个训练（liàn）集的（de）时候，我们给了（le）很多狗的图片，那将来（lái）这个AI可能就会把狗（gǒu）误认为是（shì）猫（māo）。

AI比较独有（yǒu）的两（liǎng）个特点，我们也在这儿提一（yī）下。就是（shì）应（yīng）用上可（kě）能会危害人类的（de）根本利（lì）益，这里面的案（àn）例有两个，主要（yào）是（shì）涉及到社会（huì）伦理的问题。

第一（yī），AI在5G上战场直接（jiē）攻击人类。原（yuán）来阿西·莫夫就希望（wàng）说，只要有AI能力的，把这些机（jī）器都称之为叫机器人（rén），机器人永远不要（yào）伤害（hài）人（rén）类。但是现在看来这个原则已（yǐ）经（jīng）被打破。所以，我们可能有一个建议说，因为现（xiàn）在各（gè）国（guó）都在（zài）AI跟武器结合方面，世界各国都（dōu）在展开军（jun1）备竞赛，这也是未来大国角（jiǎo）力的焦点。

所以，AI武器应该（gāi）把最后的（de）决定权，应该让人（rén）来（lái）做最后的控制（zhì），而不是完全让AI做自动的判断、自动的决策。包括深度伪造（zào）技术，前（qián）面已（yǐ）经讲了（le），这个（gè）技术也（yě）涉及到对人的利益（yì）的伤害。不仅可以用于网络（luò）诈骗，制（zhì）造色（sè）情视频，甚至伪造（zào）新闻，误导舆（yú）论。

你比如说，最近有人（rén）用马（mǎ）斯克的视（shì）频，深度伪造。伪造了（le）一个他（tā）鼓动粉丝（sī）购买特定（dìng）的虚拟货币的事件，害得马斯（sī）克不得（dé）不出来（lái）辟谣，说这个（gè）视频（pín）是别人用Deepfake来伪造的。

AI最大（dà）的一个问题，也是（shì）现（xiàn）在我们国家很多学者都在讨论的（de），AI在社会伦理上，有可能超出现有（yǒu）的社会法律和道德的（de）规范。

比（bǐ）如说，有一个电（diàn）车难（nán）题，如（rú）何认定无人（rén）驾驶（shǐ）车出（chū）事以后的责（zé）任。比如说在高速行驶之中（zhōng），自动驾驶汽车，如果避（bì）让行人，可能会撞上旁边的障碍（ài）物，导致车主人身伤亡（wáng）；如果不避让（ràng），就会导致（zhì）行人伤亡。在这种情况下，就有两（liǎng）个（gè）问（wèn）题，AI的程序应该（gāi）如何来做（zuò）出（chū）判断（duàn）。第二个，如果出了车祸（huò），到底这个责任应（yīng）该算是AI的，算是车厂的，还算是驾（jià）驶员（yuán）的，所（suǒ）以这些问题应该说都（dōu）还没有一个明确的答（dá）案。

前面我们讲了数字化技术带来了诸多挑战，但（dàn）是今天也有很（hěn）多人，对安全的（de）认识还停（tíng）留在计算机安（ān）全（quán）和（hé）网络安全的时代（dài），以为安全（quán）就是（shì）杀杀病毒，防防木马，用防火（huǒ）墙隔离（lí）等传统手段。

面对大数据、人（rén）工智能（néng）各种复杂的安全挑（tiāo）战，我觉得网（wǎng）络安全还（hái）应该重（chóng）新（xīn）被定义，要将计算机安全、网（wǎng）络安全升级到数字安全，才能跟得上整（zhěng）个行业（yè）的发展要求，才能跟得上国家的产业数字化的（de）发（fā）展（zhǎn）要求，才能保障我们进（jìn）入数字（zì）文（wén）明时代。

当前一个重要的变化是，人（rén）工智能（néng）安（ān）全已经上升为国家安全的重要组成（chéng）部（bù）分（fèn），《国（guó）家安全（quán）战略（2021年-2025年）》明确提出加（jiā）快提升网络安（ān）全、数据安全、人（rén）工智能安全等领域的治理能力，这也是国家战略层面首次提出来，人工智能安全的概念，说（shuō）明（míng）人工智能安全是数字安全的一（yī）部（bù）分，也是（shì）平常我们所说的“非传统安全（quán）”。

反过来，说了半天（tiān）AI的（de）问题，我们讲数字化技术也是一把双刃剑（jiàn）。人工智（zhì）能技术高速发展，带来安全挑战的（de）同时（shí），也（yě）为解决网络安全、数字安（ān）全的（de）风险提供了（le）新的（de）技术手段（duàn）。

现在AI技（jì）术已经（jīng）广泛利用于大（dà）数（shù）据的分析、威胁情报的处理、智能防御等领（lǐng）域，特别是（shì）在恶（è）意代码（mǎ）的样（yàng）本检测、恶意代码（mǎ）流量分析（xī）、漏洞挖掘、僵尸网络检测、网络黑灰产检测等方面发挥了（le）巨大的作用。360这几年连续帮助国家发现了50个境外的国家级黑客组（zǔ）织（zhī），与我们对AI的使用都是（shì）分（fèn）不开的（de）。

在AI数（shù）据分析方（fāng）面，人工智（zhì）能在（zài）海量数据分析方面，发挥了（le）积（jī）极重要的作用。因为大数据（jù）的数量浩如烟海，依（yī）靠（kào）人工去做发现是基（jī）本不可能的。必（bì）须借助人工智能，去对多（duō）维度海量（liàng）、鲜活的安全大（dà）数据进（jìn）行实时的分析，用算力（lì）来代替人力，然后再从中挖掘出安全的（de）线索（suǒ），再由安全专家来（lái）进行跟进（jìn）。

在AI情报（bào）处理方面，人工智能（néng）可以参与漏洞的挖掘，筛选恶意的样本（běn）、恶（è）意的网址（zhǐ），对APT的攻击行为进行自动化（huà）的分（fèn）析跟学习，实现针对威胁攻（gōng）击的智能化检测、监测、预警和响应。

未来在（zài）AI智能防御方面，人工智能可以发（fā）现未知的病毒木马，对DDoS攻击进行监（jiān）测（cè）和（hé）预警，并对APT的攻击溯源进行定位，有效提（tí）高安全运营的效（xiào）率（lǜ），大幅度提高我国的安全防御能力。

作为中国数字安全的（de）领（lǐng）军企业（yè），360一直高度（dù）重视人工智能安全（quán），率先在行业里（lǐ）进行（háng）布局，积极构建人工（gōng）智能安全能力体系（xì）。我（wǒ）们确（què）立了“数据制胜”为核（hé）心的（de）新（xīn）战（zhàn）法，核心就是无（wú）论（lùn）任何的攻击（jī），首先要强调能够想（xiǎng）办法利用大数据分析，能够看（kàn）见攻击。看见攻击，那么随后对它进行阻断（duàn），进（jìn）行溯源，进行封堵，进（jìn）行清理，就变得比（bǐ）较简（jiǎn）单。如果看不见，那什（shí）么都是抓瞎（xiā）。

所以，如何利用人工智能（néng）技术，从全网大数据中进行（háng）分析，建立全（quán）局视角，并且（qiě）从中构建（jiàn）起（qǐ）看见的这种能力。

在新的战（zhàn）法指导下（xià），360应用人工（gōng）智能数（shù）据分（fèn）析技术，对自（zì）身积累（lèi）的（de）全球最大（dà）规模（mó）的安全大数据进行实（shí）时（shí）分析，形成360全网安全大脑（nǎo）的原型，为行业或者企业提（tí）供强（qiáng）大的数据和情（qíng）报支撑，实（shí）现对（duì）网络威（wēi）胁进行有效的分析、预警、发现和阻断。

面对（duì）人工智能自身的安全挑战，360也积（jī）极参与人工智（zhì）能漏洞挖掘。我们一（yī）共发（fā）现了150多个机（jī）器学习框架和（hé）供（gòng）应链的（de）漏洞，涉及到Tensorflow、Caffe、PyTorch等主流深度学习AI开源框架（jià）。我们（men）发现了多款人脸识别设备（bèi）的安全漏洞，利用漏洞可（kě）以实现远程控制、隐私的窃取、模型文件的窃取（qǔ）。360的AI安（ān）全实验（yàn）室（shì）发现了多款移动APP、人脸识（shí）别功（gōng）能方面存在的数字泄（xiè）漏的（de）安全风险。

所以，未来利（lì）用（yòng）AI解决安全，也大有可为。

360将AI安全作（zuò）为公（gōng）司业务发展的重点方（fāng）向（xiàng），愿意与行业、产业（yè）一起开放协同创新（xīn）。我们（men）积极（jí）承担安全大脑，国家新一（yī）代（dài）人工智能开放创新（xīn）平台的建设，目前360安全大（dà）脑（nǎo）开放平台的能（néng）力，已经落地于工业互（hù）联（lián）网、物联网、智（zhì）能网联车、智慧城市、数（shù）字政府等多个（gè）场（chǎng）景，并（bìng）且赋能教育、运营商、信创等诸（zhū）多行（háng）业（yè）。

360还牵头研发了（le）人工智能安全评测与风险监测预警平台，入选工信（xìn）部的人工智能产业创新任务揭榜单（dān）位（wèi）名（míng）单。

作为中国数字安全的领军企业，360愿意（yì）开放自身的安全大数据（jù），将产业力量联（lián）合起来，共建（jiàn）AI安全（quán）生态，集中推（tuī）动数字安全的创新，其成果也将最终（zhōng）沉（chén）淀于安全大脑人（rén）工智能创新开放平台的建设。

360还将在安全大脑人工智能开放创新平（píng）台建设（shè）的基（jī）础之上，倡导建立（lì）人工智（zhì）能与开（kāi）放创新体系，建立平台化（huà）机制，实现核心研究（jiū）成果的（de）对接与转（zhuǎn）换（huàn），赋能人工智能与（yǔ）安（ān）全相关的中小微企业、高校、科研（yán）院所，赋能中小（xiǎo）微初创的安（ān）全企（qǐ）业，全球行业（yè）、AI产业，共享技术成果（guǒ），推动产业健（jiàn）康快速发展，提（tí）升国（guó）家人工（gōng）智能（néng）安全整体的防御能力。

在过去的20年里（lǐ）面（miàn），360核心做（zuò）的（de）就一（yī）件事，就是“安（ān）全（quán）”。希望（wàng）在未来越来越富有挑（tiāo）战（zhàn）的安全环境（jìng）里（lǐ）面，我们（men）做到真正能看见攻击，发现威胁，抵御（yù）威胁。

未来360将携手合作伙伴，共同夯实AI安全能力，把服务于（yú）国（guó）家（jiā）和社会的数（shù）字安全能力复制（zhì）到（dào）各（gè）个（gè）行业里，为数字中（zhōng）国（guó）的建设，各个行业（yè）的数字化（huà）转（zhuǎn）型贡（gòng）献（xiàn）力量。

谢谢大（dà）家！