【摘要】 问题 KPI异常检测项目需要对设备内多模块、多类型数据，并根据波形以及异常表现进行分析，这样的数据量往往较大，对内存和性能要求较高。同时，在设计优化算法时，需要快速得到训练及测试结果并根据结果来调整算法，因此进一步要求计算内存和性能达到较高的水平。当前，本地安全PC性能难以满足调试要求，难点主要在于，时间序列数据以csv文件格式存储，需要根据时序关系以及五维关键字拆分成以五维关键字为主...

问题

KPI异常检测项目需要对设备内多模块、多类型数据，并根据波形以及异常表现进行分析，这样的数据量往往较大，对内存和性能要求较高。
 
同时，在设计优化算法时，需要快速得到训练及测试结果并根据结果来调整算法，因此进一步要求计算内存和性能达到较高的水平。
 
当前，本地安全PC性能难以满足调试要求，难点主要在于，时间序列数据以csv文件格式存储，需要根据时序关系以及五维关键字拆分成以五维关键字为主键的唯一时序数据，这一过程需要将同一台设备所有KPI文件同时读入内存，一星期KPI数据文件就达到GB级别，单单本机训练就需要41Min。同时，每台网管设备纳管几千台设备，训练花的时间将按设备数对应倍数增加，单进程执行网管设备局点数据分析的时间将到达Month级别。
 
KPI异常检测项目希望能够根据KPI数据特点，显著缩短训练时间，以满足快速测试算法调优的需求。

华为解决方案

1. 对华为NAIE训练平台现有任务机制进行拓展，任务可使用Master-Worker机制，即原来的任务变成Master控制消息分发，在其命名空间下创建N个子任务，循环处理数据
 
 
2. 设计一套简单易用的API，尽量对业务代码无侵入
  • 导入依赖：
我们从naie sdk中导入两个装饰器
  • 定义数据：
假设我们有四个数据集实例，我们将它定义为一个列表
如上面代码所示，主程序每次接受一个列表中的元素，其余代码和单机保持一致。
 
after装饰器下面的代码只会在主节点上运行一次，它执行的时机是所有的主程序运行完之后，请根据业务的需求决定是否添加。

改进效果

50个同等大小的文件夹如果在本地运行约需要34hour，扩大训练任务节点数后（现为30个），50个同等大小的文件夹在训练平台运行时间缩短为2hour。

【华为云技术分享】网络场景AI模型训练效率实践的更多相关文章

  1. 【Python3网络爬虫开发实战】6.4-分析Ajax爬取今日头条街拍美图【华为云技术分享】

    [摘要] 本节中,我们以今日头条为例来尝试通过分析Ajax请求来抓取网页数据的方法.这次要抓取的目标是今日头条的街拍美图,抓取完成之后,将每组图片分文件夹下载到本地并保存下来. 1. 准备工作 在本节 ...

  2. 【华为云技术分享】跟唐老师学习云网络 ： Kubernetes网络实现

    当今K8s独霸天下之时,咱们站在更高的角度,好好的看看K8s网络是以什么理念构筑的.以及一个容器集群的好保姆,是如何分别照顾 南北流量和东西流量的. 一.简单介绍下Kubernetes 略..容器集群 ...

  3. 成为高手前必懂的TCP干货【华为云技术分享】

    版权声明:本文为博主原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明. 本文链接:https://blog.csdn.net/devcloud/article/detai ...

  4. 挑战10个最难的Java面试题（附答案）【上】【华为云技术分享】

    版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明.本文链接:https://blog.csdn.net/devcloud/article/deta ...

  5. Spring Boot 最流行的 16 条实践解读！【华为云技术分享】

    置顶:华为云618大促火热进行中,全场1折起,免费抽主机,消费满额送P30 Pro,点此抢购. Spring Boot是最流行的用于开发微服务的Java框架.在本文中,将与大家分享自2016年以来笔者 ...

  6. 不服跑个分：ARM鲲鹏云服务器实战评测——华为云鲲鹏KC1实例 vs. 阿里云G5实例【华为云技术分享】

    原文链接:https://m.ithome.com/html/444828.htm 今年一月份,华为正式发布了鲲鹏920数据中心高性能处理器,该处理器兼容ARM架构,采用7纳米制造,最高支持64核,主 ...

  7. 【我的物联网成长记6】由浅入深了解NB-IoT【华为云技术分享】

    版权声明:本文为博主原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明. 本文链接:https://blog.csdn.net/devcloud/article/detai ...

  8. MySQL数据库开发的36条原则【华为云技术分享】

    版权声明:本文为博主原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明. 本文链接:https://blog.csdn.net/devcloud/article/detai ...

  9. 华为云·寻找黑马程序员#海量数据的分页怎么破？【华为云技术分享】

    版权声明:本文为博主原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明. 本文链接:https://blog.csdn.net/devcloud/article/detai ...

  10. Python正则表达式，看完这篇文章就够了...#华为云·寻找黑马程序员#【华为云技术分享】

    版权声明:本文为博主原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明. 本文链接:https://blog.csdn.net/devcloud/article/detai ...

随机推荐

  1. Keycloak 创建和修改自定义用户信息

    前言 公司在用 Keycloak 作为认证服务器,之前在系统数据库里存的,后来想了想是不是可以在 Keycloak 中存.在网上找的方法大多都是通过 admin 接口去改,但这种方法就需要两种解决方案 ...

  2. mol 文件格式简单解析（v2000）

    前言 .mol 文件是常见的化学文件格式,主要包含分子的坐标.分子间的键等数据. 示例文件 下面是一个水分子的 .mol 文件 H2O APtclcactv05052315543D 0 0.00000 ...

  3. 采用ResNet网络+TSNE降维算法对自建图像数据集进行二维可视化显示

    起因:某一天下午,我在"玩"的时候,突然接到了老板的电话,说是要对图像做可视化降维.因此,我拿到了一批图像的数据. 数据的特点: 1.数据集的图像分为4类,并且每一种类的图像多少不 ...

  4. [NISACTF 2022]level-up

    [NISACTF 2022]level-up 查看源码,根据这个提示就可以反应出是需要去访问robots.txt这个文件 访问level_2_1s_h3re.php进入第二关 需要post进去arra ...

  5. 铅华洗尽,粉黛不施,人工智能AI基于ProPainter技术去除图片以及视频水印(Python3.10)

    视频以及图片修复技术是一项具有挑战性的AI视觉任务,它涉及在视频或者图片序列中填补缺失或损坏的区域,同时保持空间和时间的连贯性.该技术在视频补全.对象移除.视频恢复等领域有广泛应用.近年来,两种突出的 ...

  6. 01--OpenStack 手动安装手册（Icehouse）

    #OpenStack 手动安装手册(Icehouse) 声明:本博客欢迎转发,但请保留原作者信息!作者:[罗勇] 云计算工程师.敏捷开发实践者博客:http://yongluo2013.github. ...

  7. 分布式应用开发的核心技术系列之——基于TCP/IP的原始消息设计

    本文由葡萄城技术团队原创并首发.转载请注明出处:葡萄城官网,葡萄城为开发者提供专业的开发工具.解决方案和服务,赋能开发者. 前言 本文的内容主要围绕以下几个部分: TCP/IP的简单介绍. 消息的介绍 ...

  8. js数据结构--栈

    <!DOCTYPE html> <html> <head> <title></title> </head> <body&g ...

  9. Flask后端开发(二) - 功能实现和项目总结

    Flask后端开发(二) - 功能实现和项目总结 目录 Flask后端开发(二) - 功能实现和项目总结 1. 功能1:修改文件参数值 1.1. 获取网页端传参 1.2. 读取文件 1.2.1. 一般 ...

  10. [Python急救站课程]无角正方形

    无角正方形 from turtle import * penup() fd(-100) pendown() pensize(10) penup() seth(0) fd(20) pendown() f ...