人工智能的跨越式发展正在引领新一轮科技革命和产业变革，其不仅是当前国家安全最新、最活跃、最突出的重点领域，更是维护和塑造国家安全的主战场主阵地。人工智能安全包括技术本身的内生安全和技术在各领域使用所导致的应用安全，在实践中具有内涵外延快速拓展、攻防非对称性、风险不可预测性等特征。我们国家的人工智能安全面临多重挑战，大多数表现为技术实力尚不够强、监管难题长期存在、外部遏压不断加码，以及外溢领域风险突出等。推进人工智能治理应全面贯彻总体国家安全观，统筹AI发展和安全，从关键核心技术自立自强、加快应用开发和强化安全监管三方面同步发力。中国作为人工智能全球治理的积极倡导者和贡献者，已发布一系列政策法规和国际立场文件，为促进人工智能全球治理贡献了中国智慧、提供了中国方案。

  人工智能是国家安全最新最活跃最突出的重点领域。经过多年的发展，人工智能技术及其应用已进入爆发期，以大模型和生成式人工智能为代表的通用人工智能技术取得突破性进展，成为引领新一轮科技革命和产业变革的重要驱动力。属于非传统安全范畴的人工智能不仅是总体国家安全观的重要领域，更是新时代新征程国家安全工作新的战线和科技赋能的关键手段。当前，人工智能因其战略性、前沿性和全局性成为全社会关注的焦点，但政府、科技工作人员、产业界、社会大众对AI安全的关注点各有侧重，政府更关心国家竞争力和安全监管，产业界更关注技术本身的发展和安全，社会大众更关注新技术带给各行各业的变革，这便产生了人人都在谈论人工智能安全，但谈论的人工智能安全并不相同的局面。

  人工智能安全的内涵由中央有关部门组织编写的《国家人工智能安全知识百问》（以下简称《百问》）于2023年4月出版，《百问》将AI安全分为内生安全、衍生安全和发展安全。全国网络安全标准化技术委员会于2024年9月发布的《人工智能安全治理框架》1.0版则将AI安全风险分为内生风险和应用风险。从AI发展的实践来看，后一种分类更具指导意义，因其能够更好地区分并涵盖技术本身的安全问题和因技术应用所引发的其他安全问题。

  人工智能安全的外延随着人工智能技术的加快速度进行发展，社会各界对AI安全的讨论已不局限于技术本身，很多问题的根源也不是源于人工智能技术的脆弱性，但我们也将其称为人工智能安全，这些安全问题被视为人工智能安全的外延。其最重要的包含三类：一是发展安全。人工智能的发展安全是指影响和决定人工智能所处的技术生态能否健康发展的安全问题，通常包括基础研究、应用研究、产业环境、体制机制、人才资源和国际环境等方面。当前，我们国家的人工智能面临的最大发展安全问题便是来自外部的遏制打压，包括技术上的“脱钩断链”“小院高墙”“卡脖子”“去风险”等。

  人工智能安全的特征第一，内涵外延快速拓展。速度快是本轮人工智能技术发展的突出特征。第二，攻防非对称性。人工智能安全中的攻防有着非常明显的非对称性，攻击成本低、手段多样且易实施，例如对抗样本攻击只需要对原始数据进行微小的、人眼难以察觉的扰动，就可能使AI系统产生错误的输出结果，受过一定技术训练的个体就可以实施此类攻击。与此同时，防御的难度却很大，成本高且要求持续投入，需要建立完善的安全防护体系、进行持续的安全检测和漏洞修复。同样以对抗样本攻击为例，防御方需要开发更加安全的机器学习算法和模型，进行大量的研究和开发投入，不断跟进攻击者的新型攻击方式，及时调整和完善防御策略。

  第三，风险不可预测性。传统技术工具即使再复杂，其设计原理和运行逻辑还是能够被人完全掌握，故而其行为可以被预测。人工智能技术则不然，智能的原理对人类来说是“黑箱”，使用者只知道其好用，但不知道其为什么好用，也不能排除好用之外是否存在安全隐患。此外，人工智能还存在复杂系统的“涌现”可能（涌现是系统科学和哲学中的概念，用来描述一个系统中个体组成部分之间相互作用后产生新的、不可预测的特性或行为模式），随着算力的进一步提升，很难预计人工智能还将产生什么超出人类预料之外的能力。最后，AI系统具备一定的学习能力，能够自我进化，长期而言其进化轨迹存在很大的不确定性。当人类无法预测人工智能的行为，就必然无法为所有的安全问题做好准备。

  【点击这里立即体验搜狐简单AI】，太神奇了！上传照片，AI帮你5秒生成动漫头像，超多风格可选，前100名免费体验 →

  第一步：在电脑或手机浏览器中打开简单AI，或者在微信小程序搜索【简单AI】。在左侧导航栏选择AI绘图中的图片生成图片，在选择画什么模块选择动漫头像。

  第三步：选择画面风格、生成比例及生成数量，点击“生成图片”，一键生成属于你的头像！

  第四步：点击下载图标，就可以不要钱下载啦。若需要抠图换背景，能够正常的使用简单AI的【绘图工具-AI抠图功能】哦~

  最后，是个小彩蛋，这个工具目前这个工具目前是【免费】的，新用户会获得30积分新手礼，相比市面上动不动就收费几百的的AI工具，性价比直接拉满！关键是简单易操作，不需要下载软件，打开就能用，很适合小白用户。搜狐简单AI是简单易用的AI人工智能在线图片处理工具平台(无需安装，免费使用，“搜狐简单AI”微信小程序可直接免费在线处理照片和图片)，各种图片、照片处理工具一应俱全，一键修图！返回搜狐，查看更加多