人工智能是典型的军民两用技术,利弊并存,其智能化、自主性程度越高,双刃剑特征就越突出,“能否掌握对人工智能的控制权”这一安全拷问,已经提到人类战略高度。目前,各国都高度重视人工智能的安全风险,密集讨论其对国家安全和国际秩序的威胁与挑战,突出体现在三个方面:国家安全风险,军事安全风险,社会安全风险。
我国发展人工智能,不能再走“先发展、后治理”的老路,必须发展与治理并举,在趋利避害上走出中国特色之路。对此,建议:
一、 强化战略引领,发挥体制优势,争取技术领先。在总体国家安全观指导下,完善人工智能发展战略,处理好发展与安全的辩证关系。面向国防、情报等国家战略需求,统一建设人工智能国家实验室、安全风险测评基地、模拟试验场等技术基础设施。设立重大科技专项,研发人工智能积极防御关键技术。
二、 强化军民融合,推动技术创新,促进商业应用。增加人工智能安全相关的基础研究投入。将人工智能商业应用创新作为军民融合的重要内容。支持跨部门、跨界的数据共享和业务配合机制。
三、 强化安全治理,有效防范和管控灾难性风险。深化改革,明确人工智能安全治理责任部门,防止九龙治水、政出多门。建设防故障、防干扰、防破坏、防控制等技术标准、治理体系。
