第2579页

　　“人工智能是先进生产力，它正在以前所未有的深度、广度和速度，进入我们的生产和生活。它还不成熟，存在着固有的缺陷，存在着被滥用的可能，需要对它进行治理，但这不能成为阻碍它发展的理由——对于人工智能，不发展就是最大的不安全。”中国新一代人工智能发展战略研究院执行院长龚克在国家科技传播中心讲坛上发表如上观点。 　　《国家科技传播中心讲坛》是中国科协打造的新型演讲类新知栏目，以科学精神，科技探索和科技产业为主要讲述内容，汇集相...

1.1 什么是人工智能安全 目前并没有统一的定义，人工智能安全是人工智能与网络安全的交叉学科，两个学科已经建立了深厚的理论和技术体系，进一步看清两个学科的交叉点的逻辑关系是理解人工智能安全的关键。 攻击与防御 对于防御者而言，使用人工智能新技术加强网络空间安全技术；对于攻击者...

科技日报记者 刘艳 7月28日，2022全球数字经济大会人工智能驱动未来产业论坛在北京举办。 瑞莱智慧合伙人、高级副总裁朱萌在圆桌论坛环节中指出，助推数字经济发展的同时，人工智能正面临着算法歧视、大数据杀熟、深度伪造等多重安全挑战。 朱萌说：“有鉴于此，人工智能安全领域的关键技术研究与突破，已成为产业发展的核心推动力；人工智能安全治理体...

全球新一轮科技革命和产业变革方兴未艾，而作为引领新一轮科技革命和产业变革的核心驱动力量之一，人工智能近年来被广泛应用于金融、电商、医疗等领域。 风生水起之余，人工智能产业也暗藏隐忧：随着全球人工智能规模化建设和应用的加速，人工智能基础设施、设计研发及融合应用面临的安全风险正日益凸显。由中国信息通信研究院联合瑞莱智慧RealAI、百度、腾讯等单位共同撰写的《...

　　智能手机出货量1.24亿部，智能车载设备制造、智能无人飞行器制造、其他智能消费设备制造分别增长36.3%、12.5%、20%……从今年上半年的数据来看，中国人工智能相关产业发展势头喜人。8月9日至10日，由中国互联网协会、中国人工智能学会、中国企业联合会、360互联网安全中心等单位主办的“ISC 2023第十一届互联网安全大会”在京举行，业内人士就人工智能快速发展过程中如何确保数字安全建言献策。 　　全国工商联副主席汪鸿雁认为，面对新一轮科技革命和产...

　　现在有很多技术可以欺骗人工智能，也有很多人工智能技术被用来欺骗人。在人工智能（AI）时代，安全问题不容忽视。　　近几年，人工智能技术在很多领域都取得了初步的成功，无论是图像分类、视频监控领域的目标跟踪，还是自动驾驶、人脸识别、围棋等方面，都取得了非常好的进展。那么，人工智能技术到底安全不安全？事实上，目前的人工智能技术还存在很多问题。　　人工智能并不安全　　现在有很多技术可以欺骗人工智能，如在图片上加入一些对抗干扰。所谓对抗干扰，就是针对智能判别式模型的缺陷，设计算法精...

目前世界各国政府在人工智能领域的主要关注点是推动发展，对其所蕴含风险则准备不足。如上文所述，在人工智能时代，世界各国在国家安全领域面临的各项风险是相当严峻的。从全球层面来看，各国所具备的应对举措还存在较大的缺点。结合人工智能技术特点和应用发展趋势中可能引发的各项潜在风险，我们认为，国家可以从风险意识提升、治理体系建设、加强监管能力和国际合作等多个方面来构建风险分析和应对框架，以提升国家安全的韧性。 提升风险防范意识 提升风险防范意识是应对人工智能时代国家安全风险的重要...

作者简介 沈逸，复旦大学国际关系与公共事务学院教授、复旦大学网络空间国际治理研究基地主任 高瑜，复旦大学国际关系与公共事务学院博士研究生 内容摘要 在大国战略竞争加剧的背景下，实现对人工智能的有效治理，不仅关乎人类社会的发展，而且影响国际战略稳定。中国和美国作为全球人工智能领域的两大关键行为体，在该领域的治理理念和方式上存在差异。美国依赖技术优势推行单边主导型治理，将人工智能界定为战略竞争的前沿领域，坚持绝对安全理念，试图将监管体系按照人工智能技术...

随着云计算、大数据、物联网等产业不断发展，内网和外网的边界逐渐模糊，摄像头、智能家居等更多设备接入网络意味着更多潜在攻击点，全球威胁不断增长。面临新挑战，需要用新的方式来应对越来越艰巨的战斗。 人工智能为提升网络安全带来新可能 在利益的驱动下黑色产业不断壮大，攻击手段层出不穷。在防御过程中经常需要面临先前未知类型的恶意软件，而人工智能能够凭借其强大的自我学习记忆能力及数据分析运算能力，迅速排查筛选数千万次事...

21世纪经济报道记者 王俊 实习生 霍凯 北京报道 人工智能正在重塑人类经济与社会，被寄予引领新一轮产业革命的厚望，业界纷纷抢滩布局。但在人工智能发展火热的同时，安全问题不容忽视。 7月24日，中国人工智能产业发展联盟（AIIA）安...

近年来，生成式人工智能不断成熟，展现出全方位提升人类生产生活效率的重要潜力，同时也为数据安全保护带来了新的挑战。2023年7月，国家网信办联合七部门印发《生成式人工智能服务管理暂行办法》，为我国有序开展生成式人工智能安全管理明确了方向。2023年10月，全国信息安全标准化技术委员会发布《生成式人工智能服务安全基本要求》（征求意见稿），为《办法》落实提供了有力支撑，并间接指出以下可能存在的数据安全风险。 一是服务语料来源风险。生成式人工智能需要收...

　　大數據殺熟、技術黑箱、算法偏見等專業名詞，正在隨著人工智能的普及引來人們的關注。隨著人工智能技術的快速發展和廣泛應用，技術倫理問題開始從幕后走到台前，成為人工智能研究發展的重要議題。 　　這段時間，一款AI換臉軟件持續刷屏。該軟件通過獲取人臉信息，利用人工智能的深度學習技術，將影視劇、綜藝節目片段中明星臉換成用戶的。然而，在滿足了用戶短暫的娛樂心理后，軟件中所設置的灰色條款引發了用戶對於自身肖像權和信息安全...

央广网西安10月13日消息（记者王佳爱）10月12日，2021年国家网络安全宣传周人工智能安全产业发展论坛在西安国际会展中心举办。 论坛由陕西省委网信办、西安市委网信办、西安市大数据资源管理局指导，中国网络空间安全协会、中国信息通信研究院、全国工商联大数据运维（网络安全）委员会主办，西安四叶草信息技术有限公司、陕西省网络社会组织联合会、数字丝路安全智库承办。 论坛上，南开大学计算机学院副院长刘哲理、360集团...

随着人工智能技术的兴起对该领域的研究也日益加深，其应用也早已融入到很多领域并成为其不可分割的一部分。目前来讲，人工智能已经涵盖数学、计算机科学等多个学科的知识，并且对每个方向都有详细的技术探讨过程。已呈现星星之火、燎原之势。但是人工智能技术是一把“双刃剑”，在给我们生活带来便利之时，也会带来相关的问题。目前安全方面的问题最受关注，本文从其基本概念和内涵出发，主要结合一些案例来分析目前人工智能技术存在的安全风险并在最后提出相关建议...

　　摘要：国家安全学的创建为人工智能安全研究提供了整合与成长的契机。人工智能技术并非基于安全目的而诞生，却因其核心功能可以与既有安全体系内的诸多环节建立深度链接，从而获得了内在的安全属性。人工智能与国家安全学存在深度耦合关系，国家安全学研究框架能够为人工智能安全议题网络的建构提供基础条件。人工智能本身蕴含的“双重时空意义”与国家安全学框架内特点各异的安全领域形成复杂互动，能够在学科框架中建立以“中心—外围”结构为基本特征的人工智能安全研究议题网络。国家安全研究的六个领域同...

学习了解人工智能相关，共同探索成长。 在ChatGPT发布之后，人工智能(AI)、机器学习(ML)和大型语言模型(LLM)已经成为网络安全从业者、供应商和投资者讨论的头号话题。 这并不奇怪；正如马克·安德森十年前指出的，软件正在吞噬世界，而人工智能也开始吞噬软件。...

　　在英国布莱奇利园，警察在首届人工智能安全峰会上执勤。 　　新华社记者 李 颖摄 　　日前，为期两天的首届人工智能安全峰会在英国布莱奇利园举行。英国科学、创新和技术部的信息显示，本次峰会邀请了约100名各国官员、人工智能企业代表和专家。美国、中国、日本、德国、印度等20多个国家的政府代表以及联合国、经合组织、国际电信联盟等多个国际组织的代表参会。各方代表就人工智能技术快速发展带来的风险和机遇展开讨论。28个国...

图为郑州网络安全科技馆中，“手机安全的秘密”“移动终端安全”“钓鱼邮件”等展区。视觉中国供图 ◎本报记者崔爽 “数字化进入新阶段，我们面临着全新的安全挑战。”1月18日，中国社会科学院大学数字中国研究院举办“数字时代安全科技价值”专题研讨会，中国社会科学院大学数字中国研究院执行院长吕鹏在会上说，“安全风险呈现出快迭代、高智能、全覆盖的新特点。尤其是有了生成式人工智能以后，关注人工智能的安全风险更加紧迫。” 研讨会上发布了《数字时代安全科技价值报告》。该报告指出...

编者按 2023年2月21日，中国外交部正式发布《全球安全倡议概念文件》，呼吁“加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险”。在中国式现代化进程中，人工智能的技术革新是助推我国科技创新的重要力量之一。作为最具代表性的颠覆性技术，人工智能在给人类社会带来潜在巨大发展红利的同时，其不确定性也会带来诸多全球性挑战，引发重大的伦理关切。习近平总书记高度关注人工智能等新兴科技的发展，强调...

人工智能已经成为了现代技术的重要组成部分，随着人工智能的飞速发展，越来越多的企业开始将人工智能应用到了自身的业务中。然而，人工智能带来的安全风险也变得越来越大。本篇文章将介绍人工智能带来的安全问题以及如何保护AI系统的安全。 1. 人工智能引发的安全风险 人工智能本身并不是一个危险的技术，但是它带来的应用场景有可能会引发安全问题。人工智能使用大量的数据来进行训练，如果这些数据被篡改，就可能会导致人工智能系统做出错误的决策。此外，人工智能也可能受到外部攻...