人工智能安全治理框架 1.0
2. 人工智能安全治理框架构成 基于风险管理理念,本框架针对不同类型的人工智能安全风险,从技术、 管理两方面提出防范应对措施。同时,目前人工智能研发应用仍在快速发展, 安全风险的表现形式、影响程度、认识感知亦随之变化,防范应对措施也将相 应动态调整更新,需要各方共同对治理框架持续优化完善。 2.1 安全风险方面。通过分析人工智能技术特性,以及在不同行业领域 应用场景,梳理人工智能技 或者因训练数据集质量问题,导致算法设计目的、输出结果存在偏见或歧视, 甚至输出存在民族、宗教、国别、地域等歧视性内容。 (c)鲁棒性弱风险。由于深度神经网络存在非线性、大规模等特点,人 工智能易受复杂多变运行环境或恶意干扰、诱导的影响,可能带来性能下降、 决策错误等诸多问题。- 4 - 人工智能安全治理框架 (d)被窃取、篡改的风险。参数、结构、功能等算法核心信息,面临被 逆向攻击窃取、修改,甚至嵌入后门的风险,可导致知识产权被侵犯、商业机 (e)输出不可靠风险。生成式人工智能可能产生 “幻觉”,即生成看似合理, 实则不符常理的内容,造成知识偏见与误导。 (f)对抗攻击风险。攻击者通过创建精心设计的对抗样本数据,隐蔽地 误导、影响,以至操纵人工智能模型,使其产生错误的输出,甚至造成运行瘫痪。 3.1.2 数据安全风险 (a)违规收集使用数据风险。人工智能训练数据的获取,以及提供服务 与用户交互过程中,存在未经同意收集、不当使用数据和个人信息的安全风险。0 码力 | 20 页 | 3.79 MB | 29 天前3Rust 程序设计语言 简体中文版 1.85.0
尾表达式,不过你已经见过作为语句一部分的表达式。因为 Rust 是一门基于表达式 (expression-based)的语言,这是一个需要理解的重要区别。其他语言并没有这样的区别, 所以让我们看看语句与表达式有什么区别以及这些区别是如何影响函数体的。 • 语句(Statements)是执行一些操作但不返回值的指令。 • 表达式(Expressions)计算并产生一个值。 让我们看一些例子。 实际上,我们已经使用过语句和表达式。使用 通过完成一些示例来学习所有权,这些示例基于一个常用的数据结构:字符串。 栈(Stack)与堆(Heap) 在很多语言中,你并不需要经常考虑到栈与堆。不过在像 Rust 这样的系统编程语言 中,值是位于栈上还是堆上在更大程度上影响了语言的行为以及为何必须做出这样的 抉择。我们会在本章的稍后部分描述所有权与栈和堆相关的内容,所以这里只是一个 用来预热的简要解释。 栈和堆都是代码在运行时可供使用的内存,但是它们的结构不同。栈以放入值的顺序 Acquisition Is Initialization (RAII))。如果你使用过 RAII 模式的 话应该对 Rust 的 drop 函数并不陌生。 这个模式对编写 Rust 代码的方式有着深远的影响。现在它看起来很简单,不过在更复杂的场 景下代码的行为可能是不可预测的,比如当有多个变量使用在堆上分配的内存时。现在让我们 探索一些这样的场景。 使用移动的变量与数据交互 在 Rust 中,多个0 码力 | 562 页 | 3.23 MB | 9 天前3
共 2 条
- 1