如何利用深度学习提高高精地图生产的自动化率-邹亮
0 码力 | 34 页 | 56.04 MB | 1 年前3【PyTorch深度学习-龙龙老师】-测试版202112
1.2.2 深度学习 2006 年,Geoffrey Hinton 等人发现通过逐层预训练的方式可以较好地训练多层神经网 络,并在 MNIST 手写数字图片数据集上取得了优于 SVM 的错误率,开启了第三次人工智 能的复兴。在论文中,Geoffrey Hinton 首次提出了 Deep Learning 的概念,这也是(深层)神 经网络被叫作深度学习的由来。2011 年,Xavier Glorot 技术来防止过拟合,同时抛弃了逐层预训练的方式,直接在两块 NVIDIA GTX580 GPU 上训练网络。AlexNet 在 ILSVRC-2012 图片识别比赛中获得了第一名的成绩,比第二 名在 Top-5 错误率上降低了惊人的 10.9%。 自 AlexNet 模型提出后,各种各样的算法模型相继被发表,其中有 VGG 系列、 GoogLeNet 系列、ResNet 系列、DenseNet 系列等。ResNet ILSVRC10 ILSVRC11 ILSVRC12 ILSVRC13 ILSVRC14 ILSVRC14 ILSVRC15 ILSVRC挑战赛ImageNet数据集分类任务 网络模型层数 Top-5错误率 图 1.13 网络层数变化趋势 1.3.4 通用智能 过去,为了提升某项任务上的算法性能,往往需要利用先验知识手动设计相应的特 预览版202112 第 1 章 人工智能绪论0 码力 | 439 页 | 29.91 MB | 1 年前3全连接神经网络实战. pytorch 版
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19 4.1 自定义 Variable 数据与网络训练 19 4.2 准确率的可视化 22 4.3 分类结果的可视化 23 4.4 自定义 Dataset 数据集 25 3 4.5 总结 27 Literature . . . . . . . . . . . . . 当我们明白何为“神经网络”,何为“反向传播”时,我们就已经具备了开始搭建和训练网络 的能力。此时,最好的方法就是给我们一个由简及难的程序示例,我们能够快速搭建出一个网络, 我们可以开始训练,以及指导如何计算训练后的结果准确率等信息。 这也是我要开始写这么一本小书的初衷,我会把本小书控制在 3 小时的学习时间之内。也就 是说,只知道一丁点 python 知识和神经网络的概念,而从未使用过 pytorch 的读者,只需要三个 CrossEntropyLoss () # 学 习 率 learning_rate = 1e−3 # 优 化 器 为 随 机 梯 度 下 降 optimizer = torch . optim .SGD( model . parameters () , l r=learning_rate ) 现在我们先构思一下训练的主体程序,该程序训练 10 轮,并且每轮会训练一次,然后测试一 次准确率。训练函数的输入是训练数据0 码力 | 29 页 | 1.40 MB | 1 年前3Kubernetes开源书 - 周立
,并且Node上的所有Pod都会被Node Controller驱逐。默认驱逐的超时时间为五分钟 。 在某 些情况下,当Node不可访问时,apiserver⽆法与其上的kubelet进⾏通信。 在与apiserver恢复通信之前,删除Pod的指 令⽆法传达到kubelet。 同时,计划删除的Pod可能会继续在该Node上运⾏。 在Kubernetes 1.5之前,Node Controller将强制从apiserver中 Controller就以正常速率 --node-eviction-rate 驱逐。 当所有区域都不健康时(即 集群中没有健康的Node),Node Controller就会假定Master的连接有问题,并停⽌所有驱逐,直到连接恢复。 从Kubernetes 1.6开始,NodeController还负责驱逐运⾏在“NoExecute taint”的Node上的Pod,当Pod不能忍受这些taint 时。 另外,作为默认禁 targetCPUUtilizationPercentage: 50 将此清单保存为 hpa-rs.yaml 并将其提交到Kubernetes集群,这样就会创建⼀个HPA,根据Pod副本的CPU使⽤率⾃动 调整⽬标ReplicaSet。 kubectl create -f hpa-rs.yaml 或者,您可以使⽤ kubectl autoscale 命令来完成相同的操作(并且更容易!)0 码力 | 135 页 | 21.02 MB | 1 年前3为何选择VMware?
如何在 150 个虚拟机的 IT 环境中实现每年 60,000 美元 的成本节省。 图 6. 使用 VMware HA 节省资金 14 完整的虚拟化管理 从部署到数据灾难恢复 VMware 提供的管理解决方案范围很广,没有任何其他虚拟化平台供应商能够与之相比。只有 VMware 提供了用于在虚拟机整个生命周期中管理虚拟基础架构的全面解决方案。最让人欣喜的是, 我们 自动发布管理工具 � VMware vCenter Stage Manager � � 自动化数据灾难恢复 “我们在全公司使用 VMware 软件,在每个领域都实现了时间、资金和资源的节省。它帮助我们整 合了 Windows 服务器,增强了我们的灾难规避和灾难恢复计划。我们在虚拟机上运行生产系统和关 键的 Microsoft 应用程序,如 Exchange 和 SQL。” — 帮 助达到您的恢复时间目标 (RTO) 和遵从性要求。通过将两个站点设置为彼此的恢复站点来管理两个活 动站点之间的故障切换。甚至数据中心迁移等情景下的计划内数据中心故障切换也可以通过 VMware vCenter Site Recovery Manager 得到简化。 通过 VMware vCenter Site Recovery Manager 简化和自动建立、测试和执行恢复计划的关键要素。0 码力 | 34 页 | 862.76 KB | 1 年前3OpenShift Container Platform 4.7 日志记录
自定义资源 (CR )配置为从临时切换到持久性存储,EO 会创建一个持久性卷声明 (PVC),但不创建持久性卷 (PV)。要清除 StorageStructureChangeIgnored 状态,您必须恢复对 ClusterLogging CR 的 更改并删除持久性卷声明 (PVC)。 (LOG-1351) 在更新前,如果您重新部署了一个完整的 Elasticsearch 集群,它会处于不健康状态,一个非数据 不再拒绝超过最大标头大小的 HTTP 请求。 (BZ#1845293) 在以前的版本中,节点无法从 Pending 状态恢复,因为一个软件漏洞导致无法在 Elasticsearch 自定义资源(CR)中正确更新其状态。当前发行版本解决了这个问题,节点可在从 Pending 状 态中进行恢复。(BZ#1887357) 在以前的版本中,当 Cluster Logging Operator(CLO)将 clusterlogging 会进入崩溃循环。当前发行版本解决了这个问题。现在,多个输出可以共享一个 secret。 (BZ#1890072) 在以前的版本中,如果您删除了 Kibana 路由,Cluster Logging Operator(CLO)将无法恢复或 重新创建它。现在,CLO 会监视路由,如果删除了路由,OpenShift Elasticsearch Operator 可 以协调或重新创建路由。(BZ#1890825) 在以前的版本中,Cluster0 码力 | 183 页 | 1.98 MB | 1 年前3Keras: 基于 Python 的深度学习库
在训练过程中数据是否会混洗? . . . . . . . . . . . . . . . . . . . . . . . . 32 3.3.13 如何在每个 epoch 后记录训练集和验证集的误差和准确率? . . . . . . . . 32 3.3.14 如何「冻结」网络层? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33 处理超过内存的数据集? • 在验证集的误差不再下降时,如何中断训练? • 验证集划分是如何计算的? • 在训练过程中数据是否会混洗? • 如何在每个 epoch 后记录训练集和验证集的误差和准确率? • 如何「冻结」网络层? • 如何使用有状态 RNN (stateful RNNs)? • 如何从 Sequential 模型中移除一个层? • 如何在 Keras 中使用预训练的模型? evaluation_data 或 evaluation_split 时,评估将在 每个 epoch 结束时运行。 • 在 Keras 中,可以添加专门的用于在 epoch 结束时运行的 callbacks 回调。例如学习率变化 和模型检查点(保存)。 3.3.6 如何保存 Keras 模型? 3.3.6.1 保存/加载整个模型(结构 + 权重 + 优化器状态) 不建议使用 pickle 或 cPickle 来保存0 码力 | 257 页 | 1.19 MB | 1 年前3OpenShift Container Platform 4.8 日志记录
replica(副本) ),Elasticsearch 也会分散到 Elasticsearch 节点上。 ClusterLogging 自定义资源(CR)允许您指定如何复制分片,以提供数据冗余和故障恢复能力。您还可以使用 ClusterLogging CR 中的保留策略来指定不同类型的日志的保留的时长。 注意 注意 索引模板的主分片数量等于 Elasticsearch 数据节点的数目。 Red Logging 的默 认值,则必须将其设置为 Unmanaged。但是,非受管部署不接收更新,直到 OpenShift Logging 重新变为受管状态为止。将部署重新置于受管状态可能会使您所做 的任何修改被恢复。 apiVersion: "logging.openshift.io/v1" kind: "ClusterLogging" metadata: name: "instance" 1 namespace: 将每个索引的主分片完整复制到一半的数据节 点。这可在安全性和性能之间提供很好的折衷。 SingleRedundancy:Elasticsearch 为每个索引的主分片制作一个副本。只要存在至少 两个数据节点,日志就能始终可用且可恢复。使用 5 个或更多节点时,性能胜过 MultipleRedundancy。您不能将此策略应用于单个 Elasticsearch 节点的部署。 ZeroRedundancy:Elasticsearch0 码力 | 223 页 | 2.28 MB | 1 年前3OpenShift Container Platform 4.8 Service Mesh
可以通过捕获或截获服务间的流量 来解决这些架构问题,并可修改、重定向或创建新请求到其他服务。 Service Mesh 基于开源 Istio 项目,为创建部署的服务提供发现、负载均衡、服务对服务身份验证、故障 恢复、指标和监控的服务网络提供了便捷的方法。服务网格还提供更复杂的操作功能,其中包括 A/B 测 试、canary 发行版本、访问控制以及端到端验证。 1.1.2. 核心功能 Red Hat OpenShift SameNamespace 或 All 设置在 Gateway API 监听器上限制路由附加功能可能。Istio 会忽略 listeners.allowedRoutes.namespaces 中标签选择器的使用,并恢复到默认行为 (SameNamespace)。 1.2.2.5. Red Hat OpenShift Service Mesh 2.1.5.1 的新功能 的新功能 此 Red Hat OpenShift 把带有存在无效 ServiceMeshControlPlane 的系统升级到 2.0.0 的 问题无法被简单修复。ServiceMeshControlPlane 资源中的无效项会导致无法恢复的错误。在这 个版本中,这个错误可以被恢复。您可以删除无效的资源,并将其替换为新资源或编辑资源来修 复错误。有关编辑资源的更多信息,请参阅 [配置 Red Hat OpenShift Service Mesh 安装]。0 码力 | 344 页 | 3.04 MB | 1 年前322-云原生的缘起、云原生底座、PaaS 以及 Service Mesh 等之道-高磊
测试环境 生产环境 复杂的应用软件架构,在开发、测试、运维 团队之间建成了认知的“墙”,团队间配合效 率低,故障排查慢,阻碍了软件价值的流动 无法满足用户对于业务快速研发、 稳定交付的要求 场景 1 如果生产中一台Web应用服务器故障,恢复这台服务器需要 做哪些事情? 场景 2 如果应用负载升高/降低,如何及时、按需扩展/收缩所 用资源? 场景 3 如果业务系统要升级,如何平滑升级?万一升级失败是 传统稳态业务环境难以高效承载敏态应用 发现故障 (假死) 创建 新实例 配置 运行环境 部署当前 应用版本 添加 监控 配置 日志采集 测试确认 服务正常运行 实例 加入集群 恢复正常 场景 1 如果生产中一台Web应用服务器故障,恢复这台服务器需要 做哪些事情? 场景 2 如果应用负载升高/降低,如何及时按需扩展/收缩所用 资源? 场景 3 如果业务系统要升级,如何平滑升级?万一升级失败是 否能够自动回滚?整个过程线上业务持续运行不中断。 传统稳态业务环境难以高效承载敏态应用 发现故障 (假死) 创建 新实例 配置 运行环境 部署当前 应用版本 添加 监控 配置 日志采集 测试确认 服务正常运行 实例 加入集群 恢复正常 工作量 成本 新一代架构(微服务)应用的对承载平台提出新要求 传统实践中,主要采用虚机/物理机+SpringCloud等微服务框架的方式承载微服务应用。但在一个虚机/服务器上0 码力 | 42 页 | 11.17 MB | 6 月前3
共 173 条
- 1
- 2
- 3
- 4
- 5
- 6
- 18