吴世忠

当前，全世界科技革命与财产厘革加快演进，人工智能（AI）正从“辅助东西”跃升为驱动社会厘革的焦点引擎。国务院近日出台《关在深切实行“人工智能+”步履的定见》（如下简称《定见》），以六年夜重点步履及八项基础支撑促成技能与运用“双向赋能”。《定见》鞭策AI深度融入科学研究、财产成长、平易近生改善等范畴，踊跃计划AI于安全管理方面的运用，为智能化时代管理现代化结构“中国方案”。

从“赋能变量”到“成长增量”的战略跃升

《定见》鞭策AI成为高质量成长的“要害增量”，其焦点价值凸起表现于赋能、减负、提质、增效4个维度。

AI赋能的新范畴：拓展科学研究的“认知界限”——AI正成为基础研究的“加快器”，如阿尔法折叠（AlphaFold）破解了困扰科学界半个世纪的卵白质折叠难题。《定见》聚焦海内需求，撑持科研范式转型，加快立异结果转化，鞭策AI+赋能财产成长，新业态、新上风、新模式走进千行百业，惠和千家万户。

事情减负的新手腕：开释“效率盈余”——AI经由过程主动化技能将人们从伤害繁重的事情中解放出来，创造更多更好的智能化就业时机及事情方式。《定见》存眷平易近生，提振消费，活泼诠释了“以人平易近为中央”的理念——技能前进的终极目的是让人平易近更幸福，让糊口更便捷。

提高质量的新路子：强化重点范畴的“增加动能”——智能制造中，车企经由过程AI维护体系将装备妨碍率降低20%；于教诲范畴，AI进修体系按照学生现实定制进修路径；医疗范畴，AI成为大夫的“智能助手”。《定见》对于财产和教诲、医疗、消费等平易近生范畴的精准撑持，表现了技能运用的普惠性与实践性。

增长效益的新方式：推进管理能力的“精准晋升”——社会管理范畴，让AI多思索，让群众少懊恼；安全管理范畴，聪明警务，动态防控，应急效率年夜幅晋升；生态管理范畴，及时监测，模仿推演，人与天然及谐共生。《定见》为国度管理系统及能力现代化加装AI新引擎。

综上，《定见》紧扣全世界科技趋向，以战略性结构引领标的目的、科学性设计鞭策交融、引导性举措明确路径、和时性部署抢抓机缘，为AI高质量成长与运用提供了坚实支撑。

从“技能盈余”到“安全可控”的体系思量

《定见》将“对峙安全可控”作为四项基来源根基则之一，要求出力提防AI激发的安全危害。

模子的内涵危害：技能局限带来的“不成控性”——当前年夜模子的“黑箱”特性显著：不成注释性致使决议计划逻辑难被理解、鲁棒性不足使其易受匹敌进犯、幻觉问题会天生虚伪但看似合理的内容。这些缺陷若不加约束，AI可能从东西异化为危害源。

新型的伦理挑战：价值冲突下的“认知危机”——AI的价值不雅素质上是数据的投射，练习数据中的成见会被模子放年夜。更隐藏的是，AI可能无心识地流传与主流价值不雅相悖的内容，成为社会负面情绪的“放年夜器”，影响社会及谐不变。

衍生的运用危害：数字空间的“新型威逼”——深度伪造技能可天生以假乱真的音视频，源在AI对于海量数据依靠的隐私泄露危害，AI驱动的收集进犯……这些危害直接威逼着小我私家安全与社会不变。

需要夸大的是，这些安全危害并不是AI技能成长的尽头，而是成长历程中的阶段性挑战。跟着可注释性、安全对于齐、危害测评等技能的快速成长，这些危害将获得体系性解决。

从“单点防控”到“多元协同”的管理立异

为兼顾成长与安全，《定见》明确要求“构建安全管理新系统，创始多元共治新格式”，经由过程轨制完美、技能赋能、生态协同，为AI康健成长筑牢安全保障防地。

构建“四位一体”协同管理系统。一是完美法令法例系统，摸索鼓动勉励立异与危害防控并重的政策机制，谨慎包涵制订促成康健成长的治理规范；二是构建多元大众安全系统，笼罩天然人、呆板人、数字人等主体，确保人机交互安全稳当，形成动态灵敏的管理格式；三是设置装备摆设“人机物”交融的收集空间管理系统，细化羁系法则，经由过程智能化平台晋升内容审核与危害措置能力；四是成立人机协作的智能应急系统，使用AI辅助决议计划晋升防灾营救效率。

晋升四年夜范畴安全管理能力。技能安全方面，融入原生能力筑牢安全根底，开发可注释AI技能让决议计划历程透明化；经由过程匹敌练习与多场景测试晋升模子抗进犯能力及鲁棒性；针对于幻觉问题，研发内容真实性检测算法降低虚伪信息危害。伦理安全方面，强化对于齐技能，打造安全护栏。内涵价值对于齐方面，经由过程强化进修将中华优异传统文化与社会主义焦点价值不雅嵌入模子，指导天生内容传承中华血脉；外于安全护栏方面，优化内容审核与举动约束技能，确保输出文本切合主流品德。运用安全方面，引导重点范畴，完美安全保障。制订涵盖数据保密、收集安全、供给链安全等环节的安全治理措施；指导安全行业加速数智转型，打造忠诚靠得住的智能安全办事雄师；对于社会公家，经由过程安全意识培训及“AI安全周”等科普勾当晋升危害意识。国度安全方面，兼顾国际海内，冲破重点难点。海内层面，加速设置装备摆设全维度安全测评系统，支撑技能自立可控；国际层面，介入全世界管理法则及技能尺度制订，鞭策“智能向上向善”的人类运气配合体理念走深走实。

《定见》兼顾“赋能”与“安全”，是我国抢抓科技革命机缘、鞭策高质量成长的战略举措。咱们有决定信念经由过程技能立异及管理立异，有用管控及提防危害，为设置装备摆设智能、包涵、安全的将来孝敬气力。

（作者系中国工程院院士、国度保密局科技委主任）