念乡人 第2668页

近年来，生成式人工智能不断成熟，展现出全方位提升人类生产生活效率的重要潜力，同时也为数据安全保护带来了新的挑战。2023年7月，国家网信办联合七部门印发《生成式人工智能服务管理暂行办法》，为我国有序开展生成式人工智能安全管理明确了方向。2023年10月，全国信息安全标准化技术委员会发布《生成式人工智能服务安全基本要求》（征求意见稿），为《办法》落实提供了有力支撑，并间接指出以下可能存在的数据安全风险。 一是服务语料来源风险。生成式人工智能需要收...

　　大數據殺熟、技術黑箱、算法偏見等專業名詞，正在隨著人工智能的普及引來人們的關注。隨著人工智能技術的快速發展和廣泛應用，技術倫理問題開始從幕后走到台前，成為人工智能研究發展的重要議題。 　　這段時間，一款AI換臉軟件持續刷屏。該軟件通過獲取人臉信息，利用人工智能的深度學習技術，將影視劇、綜藝節目片段中明星臉換成用戶的。然而，在滿足了用戶短暫的娛樂心理后，軟件中所設置的灰色條款引發了用戶對於自身肖像權和信息安全...

央广网西安10月13日消息（记者王佳爱）10月12日，2021年国家网络安全宣传周人工智能安全产业发展论坛在西安国际会展中心举办。 论坛由陕西省委网信办、西安市委网信办、西安市大数据资源管理局指导，中国网络空间安全协会、中国信息通信研究院、全国工商联大数据运维（网络安全）委员会主办，西安四叶草信息技术有限公司、陕西省网络社会组织联合会、数字丝路安全智库承办。 论坛上，南开大学计算机学院副院长刘哲理、360集团...

随着人工智能技术的兴起对该领域的研究也日益加深，其应用也早已融入到很多领域并成为其不可分割的一部分。目前来讲，人工智能已经涵盖数学、计算机科学等多个学科的知识，并且对每个方向都有详细的技术探讨过程。已呈现星星之火、燎原之势。但是人工智能技术是一把“双刃剑”，在给我们生活带来便利之时，也会带来相关的问题。目前安全方面的问题最受关注，本文从其基本概念和内涵出发，主要结合一些案例来分析目前人工智能技术存在的安全风险并在最后提出相关建议...

　　摘要：国家安全学的创建为人工智能安全研究提供了整合与成长的契机。人工智能技术并非基于安全目的而诞生，却因其核心功能可以与既有安全体系内的诸多环节建立深度链接，从而获得了内在的安全属性。人工智能与国家安全学存在深度耦合关系，国家安全学研究框架能够为人工智能安全议题网络的建构提供基础条件。人工智能本身蕴含的“双重时空意义”与国家安全学框架内特点各异的安全领域形成复杂互动，能够在学科框架中建立以“中心—外围”结构为基本特征的人工智能安全研究议题网络。国家安全研究的六个领域同...

学习了解人工智能相关，共同探索成长。 在ChatGPT发布之后，人工智能(AI)、机器学习(ML)和大型语言模型(LLM)已经成为网络安全从业者、供应商和投资者讨论的头号话题。 这并不奇怪；正如马克·安德森十年前指出的，软件正在吞噬世界，而人工智能也开始吞噬软件。...

　　在英国布莱奇利园，警察在首届人工智能安全峰会上执勤。 　　新华社记者 李 颖摄 　　日前，为期两天的首届人工智能安全峰会在英国布莱奇利园举行。英国科学、创新和技术部的信息显示，本次峰会邀请了约100名各国官员、人工智能企业代表和专家。美国、中国、日本、德国、印度等20多个国家的政府代表以及联合国、经合组织、国际电信联盟等多个国际组织的代表参会。各方代表就人工智能技术快速发展带来的风险和机遇展开讨论。28个国...

图为郑州网络安全科技馆中，“手机安全的秘密”“移动终端安全”“钓鱼邮件”等展区。视觉中国供图 ◎本报记者崔爽 “数字化进入新阶段，我们面临着全新的安全挑战。”1月18日，中国社会科学院大学数字中国研究院举办“数字时代安全科技价值”专题研讨会，中国社会科学院大学数字中国研究院执行院长吕鹏在会上说，“安全风险呈现出快迭代、高智能、全覆盖的新特点。尤其是有了生成式人工智能以后，关注人工智能的安全风险更加紧迫。” 研讨会上发布了《数字时代安全科技价值报告》。该报告指出...

编者按 2023年2月21日，中国外交部正式发布《全球安全倡议概念文件》，呼吁“加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险”。在中国式现代化进程中，人工智能的技术革新是助推我国科技创新的重要力量之一。作为最具代表性的颠覆性技术，人工智能在给人类社会带来潜在巨大发展红利的同时，其不确定性也会带来诸多全球性挑战，引发重大的伦理关切。习近平总书记高度关注人工智能等新兴科技的发展，强调...

人工智能已经成为了现代技术的重要组成部分，随着人工智能的飞速发展，越来越多的企业开始将人工智能应用到了自身的业务中。然而，人工智能带来的安全风险也变得越来越大。本篇文章将介绍人工智能带来的安全问题以及如何保护AI系统的安全。 1. 人工智能引发的安全风险 人工智能本身并不是一个危险的技术，但是它带来的应用场景有可能会引发安全问题。人工智能使用大量的数据来进行训练，如果这些数据被篡改，就可能会导致人工智能系统做出错误的决策。此外，人工智能也可能受到外部攻...

　　人工智能是引领新一轮科技革命和产业变革的重要驱动力。2023年中央经济工作会议提出，要大力推进新型工业化，发展数字经济，加快推动人工智能发展。“十四五”规划和2035年远景目标纲要强调，加强网络安全关键技术研发，加快人工智能安全技术创新，提升网络安全产业综合竞争力。本期特邀专家围绕相关问题进行研讨。 　　夯实人工智能发展的安全基础 　　加快推动人工智能发展，需如何应对潜在风险、把握战略主动？ 　　单志广（国家信息中心信息化和产业发展部主任、国家大数据...

点击蓝字 关注我们 全国信息安全标准化技术委员会发布的《人工智能安全标准化白皮书（2019版）》指出，人工智能安全是指通过采取必要措施，防范对人工智能系统的攻击、侵入、干扰、破坏和非法使用以及意外事故，使人工智能系统处于稳定可靠运行的状态，以及遵循人工智能以人为本、权责一致等安全原则，保障人工智能算法模型、数据、系统和产品应用的完整性、保密性、可用性、鲁棒性、透明性、公平性和隐私的能力。 撰稿｜罗兰 常欢 排版｜郭伟 李...

人工智能从一个“高冷”概念坠落“凡间”不过短短几十年，从语音识别、智能购物到无人驾驶……它带来的便捷似乎无处不在，但其背后的风险也不容小觑。 站在国家安全和军事安全层面考虑，人工智能“威力之大，堪比核武，管控不当，不堪设想。”作为中国信息安全测评中心首席科学家，吴世忠委员深刻认识到人工智能可能带来的风险。“人工智能被公认为对国家安全带来深刻变化的颠覆性技术，其智能化、自主性程度越高，双刃剑特...

随着数智化时代的到来，数据、算力、人工智能共同构成新质生产力的重要驱动因素。 “近年来，中国移动作为人工智能发展的‘国家队’进展十分迅速，不仅建设3个国产近2万卡智算中心，可为万亿、千亿等超大参数模型训练提供澎湃算力，打造的九天基座大模型实现行业定向增强、行业模态匹配、全栈国产化、安全可信等四大技术突破，成为国内预训练行业数据占比最高的大模型。”日前，在“智启新质、‘四新’向未来——浙江移动...

　　10月12日下午，2021年国家网络安全宣传周人工智能安全产业发展论坛在西安国际会展中心成功举办。陕西省委网信办、中国网络空间安全协会相关负责人出席并致辞。论坛由陕西省委网信办、西安市委网信办、西安市大数据资源管理局指导，中国网络空间安全协会、中国信息通信研究院、全国工商联大数据运维（网络安全）委员会主办，西安四叶草信息技术有限公司、陕西省网络社会组织联合会、数字丝路安全智库承办。 　　论坛上，南开大学计算机学...

主讲人介绍：梁彬，中国人民大学信息学院教授，博士生导师。研究方向为软件安全性分析与安全攻防。长期从事软件缺陷/漏洞检测与攻防技术研究，主要涉及代码静态分析、动态分析、代码挖掘、智能手机安全及机器学习系统安全等方面，在Linux内核等重要基础性软件系统中成功发现了百余个的未知漏洞/缺陷。近年来已在TSE、TDSC、FSE、IJCAI、ICSE，WWW、SP、CCS等顶级学术会议和期刊上发表论文十余篇。 学术报告内容：以机器学习为核心的人工智能技术已经得到了广泛的应...

2022年是生成式人工智能的突破之年，它终于抓住了人们的想象力。到2023年，它不再只是商业世界中根深蒂固的流行词，而是重塑行业并创造新机遇。现在，当我们站在2024年时，我们正处于一个重要的关口：人工智能融入我们的日常生活不再是未来发生的事情的概念——它正在发生。但这有多安全？ 当我们谈论网络安全和数据流时，人工智能就像一把双刃剑。一方面，这项令人惊叹的技术提供了强大的工具来检测异常并防止网络威...

【网易智能讯 12月11日消息】2020年的网络安全处于一个发展转折点。人工智能和机器学习的进步正在为网络安全的技术进步提供助力，实时数据和分析也使得建立更强大的业务案例成为可能。网络安全支出过去很少与增收入或降成本挂钩，然而，这种情况将在2020年发生变化。 领先的网络安全专家对2020年做出了怎样的预测？ 凯捷咨询联系到五位专家：Nicko van Someren（Abso...

　　将一张“神奇贴纸”贴在脸上，就能让人脸识别门禁系统出现误判，毫无防备地为陌生人打开大门；把这张“贴纸”放在眼镜上对准手机，就能解锁其人脸识别系统，获取用户信息如入无人之境……这曾经只出现在科幻电影中的场景，如今已经在现实生活中发生。日前，首届人工智能安全大赛在北京举办，上述攻防场景在大赛中令不少观众直呼惊讶。 　　近年来，我国人工智能产业规模快速增长。据工信部发布数据显示，人工智能核心产业规模超过4000亿元，...

　　集理论之思，汇大家之言。《理论圆桌会》栏目，紧跟理论热点，关注理论动态。 　　本期主题：在中国式现代化进程中，人工智能的技术革新是助推我国科技创新的重要力量之一。作为最具代表性的颠覆性技术，人工智能在给人类社会带来潜在巨大发展红利的同时，其不确定性也会带来诸多全球性挑战。理论圆桌会集纳近期专家学者关于人工智能的发展与安全的相关文章，与大家一起学习。 　　推动我国新一代人工智能健康发展 　　华南师范大...