从互联网、云计算、大数据等新技术的发展历程可以看出，任何一项新技术的发展和应用都存在着相互促进又相互制约的两个方面：一方面，技术的发展能带来社会的进步与变革；另一方面，技术的应用要以安全为前提，要受到安全保障机制的制约。然而安全是伴生技术，往往会在新技术的发展之后才被关注到，因为人们首先会去享用新技术带来的红利，之后才会注意到新技术伴随的种种安全问题。人工智能作为一项新技术，既能赋能安全，又会伴生安全问题。目前，人们普遍更关注人工智能技术的发展，突出其在军事、交通、金融等各个领域的发展和应用。当人工智能技术发展到一定阶段后，必然会面临伴生安全问题的困扰，此时人们便会转而强调技术的安全可控性。英国技术哲学家大卫·科林格里奇在其《技术的社会控制》一书中阐述，一项技术的社会后果不能在技术生命的早期被预料到，然而当不希望看到的后果被发现以后，技术往往已经成为整个经济和社会的一部分，此时想要控制它将会十分困难[1]。这个观点被许多科学哲学研究人员认同，也常被称为“技术的控制困境”或“科林格里奇困境”。
新技术存在安全赋能效应及安全问题伴生效应。所谓安全赋能效应，是指新技术很强大，可以用于安全领域，可以提升安全领域的势能。所谓安全问题伴生效应，是指尽管新技术在酝酿之初会根据以往的经验去充分考虑安全问题，但在新技术推出之后，势必会在不断的应用中发现新的安全问题伴生而来。
新技术的安全赋能效应表现在两个方面：一是赋能攻击，让安全问题变得更加严峻；二是赋能防御，让安全问题借助新技术而得到更好的解决。
从赋能攻击的角度来看，互联网本身就像是一个打开了的“潘多拉的盒子”，互联网带来便利的同时产生了越来越多的安全隐患。例如，云平台的存在，导致云资源可能被用于DDoS（Distributed Denial of Service，分布式拒绝服务）攻击、病毒传播等；量子纠缠通信的出现，导致服务于传统监管的通信检查变得不再可行；大数据的出现，可以被用于对人进行画像以形成强大的隐私挖掘能力，传统的“脱敏”方法已经很难发挥隐私保护的作用。新技术赋能攻击的能力从另一个侧面来说也等效于新技术所伴生的“衍生安全”问题。
从赋能防御的角度来看，新技术被用于安全防御是非常自然的事情。因为安全作为一种防御性领域，自然也会需要引入各种新的技术来提升其防御能力。例如，物联网被用于安全边界防护，从而有效提升了城市的防护能力；大数据分析技术被用于网络安全态势感知，从而提高了对安全事件感知的灵敏度；云计算被用于网络杀毒提高了人们的工作效率；区块链用于防欺诈、防篡改，在无中心的环境下保障了系统的可信性；量子密钥分发有助于实现一次一密的高强度通信保密模式等。
任何新技术的出现，势必会伴随着新的安全问题出现。因为当一种新技术刚刚走入公众的视野之时，需要通过大量的应用实践才能够逐步提升其技术成熟度，通过市场上的“众测”来完善其技术能力；而在这一过程中，因其所呈现出的自身的不成熟、不完备，容易引发新的安全问题。新技术的安全问题伴生效应也会表现在两个方面：一个是新技术的脆弱性导致新技术系统自身出现问题，无法达到预设的功能目标，称之为新技术自身带来的“内生安全”；另一个是新技术的脆弱性并没有给新技术系统自身的运行带来什么风险，但这些脆弱性却可以被攻击者所利用，从而引发其他领域的安全问题，这称之为“衍生安全”。
从内生安全的角度来看，部分原因是因为新技术自身不成熟，存在着一些安全漏洞，但这些漏洞通常会被发现并且可被改进；还有一种情况是新技术存在着天然的缺陷，使得某些客观存在的问题无法通过改进的方法来解决，此时只能采取其他手段加以防护。例如，可信计算是建立在可信根的基础之上，而可信根的前提是系统的使用者就是可信根的拥有者，这才能够让不可被替换的可信根来保护系统的安全运行。但就云计算环境而言，由于云服务商拥有云资源，该资源仅仅是提供给云的租户使用而已，使得计算资源的使用者与拥有者分开，导致可信根的拥有者与需要保障安全的使用者不再是同一个对象，从而使可信根的模式在云计算平台上不再适用。同样，量子的塌陷效应使之难以用于通信，因为一旦出现监听，通信就被中止，致使通信的可靠性成为量子通信系统的软肋，使其大大降低了用量子通信系统构建传输通道的可行性。事实上，这种情况一直伴生在各种技术中。例如，互联网上的系统必须通过开放端口来提供服务，而开放端口本质上就相当于引入了一个攻击面，从而形成了脆弱性，这就是互联网服务的内生安全问题。
从衍生安全的角度来看，其本质就是新技术自身的一些缺陷或脆弱性，并不会影响新技术自身的运行，但却会被攻击者利用而危害到其他的领域。这就好比有些学生自控能力比较弱，不能遵守课堂纪律，自己还可以正常生活，却往往影响其他同学的听课效果。又如物联网的传感部件具有信息辐射的特点，这并不影响物联网的正常运行，却使得信息泄露成为新的风险；社交网络不支持强制实名制时并不影响社交网络的正常运转，但却有可能被利用而助力了谣言的传播，从而无助于抑制负面行为，导致群体事件可能容易发生；近场通信（Near Field Communication，NFC）在帮助人们便捷通信的时候，没有设置强制性通信握手环节以确认通信的发起是否自愿，尽管这并不影响NFC的正常使用，但不法分子却有可能利用这个缺失的环节来近距离盗刷用户的手机钱包等。由于假设新技术的诞生并不是服务于威胁安全领域的，因此，这些新技术助力安全攻击的现象，本质上也属于新技术的衍生安全问题。同样，由于衍生安全威胁的是其他领域，这与新技术赋能攻击具有异曲同工之效果。
如上所述，衍生安全绝大多数情况下指的是新技术的脆弱性被攻击者所利用，从而引发其他领域的安全问题。人工智能技术当然也存在着同样的情况。例如，人工智能的智能化判定需要高度依赖输入数据，自动驾驶的前提是要对环境参数进行正确的感知，一旦感知出现错误，如没有感知到对面的障碍物（感知部件已被攻击），其决策结果当然就是错误的。因此，这种依赖输入的现象可以被视为人工智能系统的一种脆弱性。这种脆弱性并不影响人工智能系统自身的运行，但攻击者可以利用这一点，如干扰自动驾驶汽车的雷达等传感设备，从而达到让自动驾驶汽车肇事的目的。另外，人工智能技术还是一个十分少见的特例。这是因为人工智能的脆弱性不一定都被攻击者所利用，而是以一种“事故”的形式形成了对人类的直接威胁。
人们经常看到的那些“机器人伤人”、“自动驾驶出事故”的现象，本质上都是人工智能脆弱性所带来的问题，这时即便没有被攻击者有意利用，但由于“人工智能行为体”（Artificial Intelligence Actant，AIA）在运行状态下往往具有可伤害人类的“动能”，所以其自身就可以“自主”伤人。更有甚者，由于AIA具有自主学习能力，使得AIA可能在自我进化的过程中脱离人类控制，进而危及人类安全。而且，AIA系统功能越强大，其带来的威胁往往也会越大。尽管AIA会表现得很强大，但从人类的观点来说，其系统仍然存在着“人类对之不可控”的脆弱性，因为AIA的存在，其可控性原本是前提，但AIA竟然能够通过进化而摆脱人类的控制，这说明AIA变强大的同时，人类控制AIA的能力在显著降低，从而反映出人类所设计的AIA在可控性方面的脆弱性，只不过这个脆弱性不是被攻击者所利用，而是被AIA自身所利用。由此可见，凡是具备自我进化能力的系统，都可能在不被他人主动利用其脆弱性的前提下引发安全问题，而人工智能技术的特殊性就在于其可成为打开“自我进化之门的钥匙”。因此，确保人工智能技术发展过程“安全可控”无疑是至关重要的。
总之，人工智能技术具有安全赋能与安全伴生两个效应。其中，安全赋能效应是指人工智能技术系统足够强大，可以提升安全领域的防御能力，也可以被应用于安全攻击；安全伴生效应是指人工智能技术存在问题或其可控性方面存在脆弱性，前者可以导致人工智能系统的运行出现问题，后者可以导致人工智能系统危及到其他领域的安全。本质上来说，赋能攻击与衍生安全的外显行为都是人工智能系统会危及到其他领域的安全，差别仅仅是内因的不同：赋能攻击是攻击者利用人工智能技术的强大特性来主动提升破坏性效果；衍生安全是由于人工智能技术的脆弱性被利用，或者人工智能系统在可控性方面的脆弱性导致自身“意外”地形成破坏性效果，或者自主地形成破坏性效果，从而影响到其他领域的安全状况。
