智能运维第一步:HDD磁盘故障预测

当今数字化时代,信息技术扮演着企业和组织运营的关键角色。然而,随着IT环境不断复杂化和数据量激增,传统的运维管理方法已经无法满足日益增长的需求。为应对这一挑战,智能运维(Artificial intelligence for IT operations,简称AIOPS)应运而生。

AIOPS融合了人工智能、自动化和数据分析等技术,旨在优化IT运维的效率、可靠性和可用性。在AIOPS的范畴内,硬盘驱动器(HDD)故障预测是其中一个至关重要的组成部分。在数字化时代,数据被誉为"新时代的石油"HDD作为数据存储的基础设备,在数据中心、服务器和个人计算机中广泛使用,扮演着关键角色。然而其敏感、精确、结构复杂的特性往往也使得某些故障难以避免。因此,通过AIOPS来实现HDD故障预测,避免数据丢失、业务中断、维护成本上升,从而保障数据可用性和系统稳定性,逐渐成为保障业务正常运转的重要手段。

为什么硬盘会出现故障?

由旋转磁盘和漂浮在其上方的读/写头组合而成的硬盘驱动器尽管结构复杂,但它们已经证明了自己作为数据载体的价值。然而,引起机械硬盘发生故障的原因有多种:首先,如高温、湿度、机械磨损、读写操作频率等,这些因素之间的相互作用使得故障模式变得更为复杂,大大提高了预测难度。其次,温度、振动、读写速度、错误率等多样性HDD性能数据在规模庞大的数据存储环境中对进行有效利用和分析,无疑也是一个挑战。

传统的故障预测方法主要基于固定的阈值和经验判断,存在明显的限制:传统方法只能在故障已经发生或接近发生时才采取行动,无法预测性地防止故障;基于阈值的警报往往容易误报,因为某些参数可能因正常使用而产生波动;传统方法通常需要大量的人工干预,增加管理成本。相比之下,智能算法的引入为HDD故障预测带来诸多可能性,利用大数据和机器学习技术,其强大的学习和自适应能力可以更好地利用和分析这些多样化的数据,从海量的硬盘驱动器数据中提取有价值的信息,进而更加准确地进行故障预测。

HDD故障预测解决方案

方案主要包含两部分:模型离线训练以及实时监测和警报。首先通过离线训练得到可用的预测模型,然后将模型运用到实际生产环境中进行实时故障预测。

  • 模型离线训练

模型离线训练整体流程如图1所示。模型所需数据为S.M.A.R.T.(Self-Monitoring Analysis and Reporting Technology,自我监测、分析及报告技术,即一种自动的硬盘状态检测与预警系统和规范)数据,主要指硬盘运行过程中的指标值。在数据预处理阶段,由于并非所有原始属性都是机器学习模型的可用特征,因此需要先去除冗余和不相关的特征并选择与预测结果相关的特征,然后对于空缺的数据进行向前补全。同时,故障盘最后两周的样本均为潜在故障样本(预示着该硬盘可能随时会发生故障),即需要将最后两周的样本设置为故障盘样本标签。最后,二维数据类图构建则是将时间作为第二维度(SMART属性作为第一维度),使用滑动窗口的方式,构建出二维数据图,如图2所示。经过此阶段处理能够保持SMART数据的时间局部性,有利于磁盘故障预测。最后将得到的数据进行数据划分,分别组成训练集、验证集和测试集用于模型训练和评估。

模型离线训练

滑动窗口构建数据类图

故障预测模型训练过程中(图3中虚线框所示),只使用健康硬盘的样本。编码器 用来对原始输入图片 进行编码,得到图片特征 ,解码器 对编码后的图片特征 进行解码。得到重构图片 。为检测异常,添加一个编码器 来学习重构样本 的特征表示 。对于原始样本 和生成图片 ,交由判别网络 来判别真伪,这样,在判别网络进行更新时,判别网络的判别能力会得到提升。

故障预测模型

模型预测过程中(图3中实线框所示),无判别网络,只利用生成网络。将硬盘当前的二维SMART数据类图作为输入,经过模型中生成网络的处理,得到输入类图的特征表示 和生成网络的特征表示 。其预测原理是,利用 和 之间的差异来衡量样本生成的有效性,且两者差异越小,样本生成越好。因此,两者的 范式  被用于衡量样本的异常度,即当值大于某一阈值时,表示样本异常,即该硬盘将发生故障。其背后原因是,在训练过程中只利用和学习健康硬盘样本的分布,则使得健康硬盘样本的差异更小,即 和 的差距更小。在预测时,如果输入样本来自故障硬盘,则会因为故障样本偏离健康样本的分布,导致 和 差异更显著。

模型每次迭代训练使用AUCArea Under Curve,接受者操作特征曲线下面积)区域预测效果最好的模型参数进行保存并供后续预测使用。模型训练完成后使用准确率对模型的性能进行评估,经评估模型的预测准确性可达99%

  • 实时监测和警报

当模型训练完成后将HDD故障预测引擎顺利整合到多设备管理软件InView端,允许实时采集硬盘SMART数据,并利用模型进行在线推理预测未来两周内硬盘发生故障可能性(如图4所示)。当系统检测到硬盘出现故障风险立即触发告警机制,及时通知用户进行换盘处理。此机制不仅能够确保数据的安全可靠性,还提高了硬盘驱动器的整体性能和维护效率,强力保障了业务的连续性和数据管理的稳定性。

4 InViewHDD故障预测

通过AIOPS技术,浪潮信息HDD磁盘故障预测解决方案不仅实现了业界领先的预测准确性,还成功整合预测引擎和实时监测系统,能够在故障风险出现时采取及时的措施,保护数据的安全和业务的连续性。

未来,将继续优化和拓展HDD磁盘故障预测能力:

  • SMART数据外拓展更多类型数据,全方位多角度评估硬盘健康状况;
  • 通过机器学习和深度学习技术的发展为识别和预测复杂的故障模式提供更多工具;
  • 进一步改进实时监测和警报系统,提高智能化和自适应性,使系统学习并适应不断变化的硬盘性能和环境条件;
  • 研究自动化响应机制,实现更快速的故障处理,进一步降低业务中断的风险。

面对生成式AI掀起的变革浪潮,5GAI大语言模型、自动驾驶等各类新技术融合,大容量HDD依然是企业级数据中心、云服务提供商以及超大规模云业务领域的首选,浪潮信息将继续秉承“极致存储,智慧有数”的理念,基于自身技术优势不断创新,持续推动该领域的技术发展,以高效xx的一体式解决方案守护企业数据安全,助力千行百业数字化转型。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/155762.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

UE5实现相机水平矫正

UE5实现相机水平矫正 思路,用HIT获得基于相机视角的 离散采样点,然后根据距离相机距离进行权重分析。 距离越近,采样约中心,即越接近人眼注意点,最后算出加权平均高度,赋予给相机,相机将水平旋…

基于Qt Designer 操作教程

​本章将简介使用 Qt Creator 里自带的 Qt Designer,使用 Qt Designer 比较方便的构造 UI 界面。特点是方便布局,比较形象。 ## 使用 UI 设计器开发程序 在这小节里我们继续学习如何使用 Qt Designer 开发程序,Qt Designer 是属于 Qt Creator 的一个功能而已,大家不要搞混…

解决:http://localhost:8080 不在以下 request 合法域名列表中

在搭建资源服务器时,遇到了微信开发者工具中无法访问本地资源服务器的情况,报错如下: 参考一篇博文的方法,完美解决 【解决】http://localhost:8080 不在以下 request 合法域名列表中_localhost不在以下 request 合法域名列表中-…

【IDEA】设置sql提示

第一步:注入SQL语言 1.首先选择任意一条sql语句,右击,选择 ‘显示上下文操作’ 2.选择 ‘注入语言或引用’ 3. 往下翻,找到MySQL 第二步:配置MySQL数据库连接 1.首先点击侧边的数据库,再点击上面的加号 2…

总线类设备驱动——IIC

目录 一、本章目标 二、IIC设备驱动 2.1 I2C协议简介 2.2 LinuxI2C驱动 2.3 I2C 设备驱动实例 一、本章目标 一条总线可以将多个设备连接在一起,提高了系统的可扩展性能。这个互联的系统通常由三部分组成:总线控制器、物理总线(一组信号线) 和设备。总线控制器…

构建 hive 时间维表

众所周知 hive 的时间处理异常繁琐且在一些涉及日期的统计场景中会写较长的 sql,例如:周累计、周环比等;本文将使用维表的形式降低时间处理的复杂度,提前计算好标准时间字符串未来可能需要转换的形式。 一、表设计 结合业务场景常…

基于YOLOv8模型暗夜下人脸目标检测系统(PyTorch+Pyside6+YOLOv8模型)

摘要:基于YOLOv8模型暗夜下人脸目标检测系统可用于日常生活中检测与定位黑夜下人脸目标,利用深度学习算法可实现图片、视频、摄像头等方式的目标检测,另外本系统还支持图片、视频等格式的结果可视化与结果导出。本系统采用YOLOv8目标检测算法…

RocketMQ生产者消息发送出去了,消费者一直接收不到怎么办?(Rocket MQ订阅关系一致性)

问题: 使用RocketMQ消息队列,生产者将数据发送出去了,但是生产者一致没接收到(或者是间隔好几分钟,突然接收到一条数据)怎么办?并且通过rocket web控制台查看消息的状态为NOT_ONELINE或者NOT_CONSUME&#…

Python爬取读书网的图片链接和书名并保存在数据库中

一个比较基础且常见的爬虫,写下来用于记录和巩固相关知识。 一、前置条件 本项目采用scrapy框架进行爬取,需要提前安装 pip install scrapy# 国内镜像 pip install scrapy -i https://pypi.douban.com/simple 由于需要保存数据到数据库,因…

[LeetCode]-27. 移除元素-26.删除有序数组中的重复项-88.合并两个有序数组

目录 27.移除元素 题目 思路 代码 26. 删除有序数组中的重复项 题目 思路 代码 88.合并两个有序数组 题目 思路 代码 总结 27.移除元素 27. 移除元素 - 力扣(LeetCode)https://leetcode.cn/problems/remove-element/description/ 题目 给你一…

843. n-皇后问题

文章目录 QuestionIdeasCode Question n− 皇后问题是指将 n 个皇后放在 nn 的国际象棋棋盘上,使得皇后不能相互攻击到,即任意两个皇后都不能处于同一行、同一列或同一斜线上。 现在给定整数 n ,请你输出所有的满足条件的棋子摆法。 输入格…

多路IO—POll函数,epoll服务器开发流程

引言 "在计算机网络编程中,多路IO技术是非常常见的一种技术。其中,Poll函数和Epoll函数是最为常用的两种多路IO技术。这两种技术可以帮助服务器端处理多个客户端的并发请求,提高了服务器的性能。本文将介绍Poll和Epoll函数的使用方法&am…