在分析之前，让我们先简单介绍一下人工智能的应用。人工智能由于其在数据分析、知识提取和自主学习方面的突出优势，被广泛应用于网络保护、数据管理、信息审查、智能安全、金融风险控制和舆情监测等领域。在这些领域，往往会出现一些安全风险，常见风险如下:
1、人工智能安全风险有哪些——框架安全风险
近年来，著名的深度学习框架TensorFlow和Caffe及其依赖库被多次发现存在安全漏洞，被攻击者利用，造成系统安全问题。文摘生成模型[3]为例,原来的工作原理是:输入X是映射到低维表示Z编码器,然后映射回高维重建X解码器,并表示为如下图所示:
如果输入是7，攻击后输出可能是8。如图所示:
此外，人工智能可能被用来编写计算机病毒和木马。原始的恶意脚本都是手动编写的。人工智能技术可以通过插入对抗性样本[4]实现这些过程的自动化，绕过安全检测。同样，人工智能技术也可以自动生成智能僵尸网络[5]，它可以在不等待僵尸网络控制命令的情况下对其他系统进行大规模的、自动的攻击，大大提高了网络攻击的破坏程度。(页面)
2、人工智能安全风险有哪些——数据安全风险
攻击者可以通过网络的内部参数得到网络训练的数据集。人工智能技术还将增强数据挖掘能力，提高隐私泄露的风险，比如2018年3月的Facebook数据泄露事件。
3、人工智能安全风险有哪些——算法安全风险
深度学习网络目标函数定义不准确、不合理或不正确，可能导致错误甚至有害的结果。错误的目标函数、计算代价过高的目标函数以及表达能力有限的网络都可能导致网络产生错误的结果。例如，2018年3月，优步自动驾驶汽车发生事故，机器人视觉系统未能及时识别突然出现在道路上的行人，导致行人相撞并死亡。算法的偏差和人工智能的不可解释性也是主要问题。在人工智能算法被用来预测罪犯的美国，一些名单显示，许多无辜的人被冤枉了，而这些冤枉的人大多是黑人，就连系统的开发者也无法合理解释为什么会做出这样的决定。拮抗样本的存在也会使算法误判情况。通过在下图中添加少量的噪声，人工智能将非常自信地识别出熊猫是长臂猿。
4、人工智能安全风险有哪些——信息安全风险
有了足够的训练数据，人工智能可以产生用于非法活动的虚假信息。比如人工智能面部改变技术DeepFakes，以及最近的DeepNude。一些犯罪分子利用虚假的声音和视频进行诈骗。现在谷歌已经发明了一种聊天机器人，它可以完全愚弄人们在电话上聊天。
5、人工智能安全风险有哪些——社会安全风险
这也是目前游戏中最热门也是最具争议的一个方面。首先，人工智能在不久的将来会取代很多工人，从目前的发展趋势来看，这是正确的。如果相关工人不学习新的技能，他们将面临失业，这将导致严重的社会问题。其次，人工智能系统可能会危及人类安全。由于技术的不成熟，自动汽车和无人机的一些行为可能会导致人类安全风险。2016年，特斯拉汽车在蓝天下认不出一辆白色面包车，导致事故发生。2018年，优步自动驾驶汽车与一名行人相撞，导致该行人死亡，原因是机器视觉系统未能及时识别路上突然出现的行人。近年来，我国发生了多起无人机干扰导致飞机紧急迫降的事件。另外，人工智能产品可能会对现有的社会伦理产生影响[7]:1)AI算法的偏见会影响社会公正，例如，为什么黑人的犯罪率远高于白人?2)AI算法缺乏伦理约束，只知道实现自己的目标，不考虑他人的权益。例如，一些应用会利用人工智能，根据用户最近的活动，自动向用户发送短信来推广产品和广告，而不保证其内容的真实性，也不保证其行为是否侵犯了用户的某些权利。3)如果人类和人工智能有像丈夫和妻子、父亲和女儿那样的感情，现代伦理规范将受到质疑。
6、人工智能安全风险有哪些——国家安全风险
人工智能可以用来影响公共意识形态。例如，在美国大选中，候选人通过点对点的虚假新闻馈送，受到公众意识形态的影响。人工智能还可以用于建立新的军事力量，比如在2018年8月的一次公开活动中，委内瑞拉的总统遭到无人机炸弹袭击，这是世界上首次将人工智能用于恐怖活动。
以上就是《人工智能安全风险有哪些？安全在这个行业竟然这么重要》，在分析之前，让我们先简单介绍一下人工智能的应用。人工智能由于其在数据分析、知识提取和自主学习方面的突出优势，如果你想知道更多的人工智能安全的发展，可以点击下方资料下载链接。
