日志告警收敛（查看告警日志）

本文目录一览：

• 1、智能运维适合哪些场景？都涉及那些领域？
• 2、告警收敛是什么意思？
• 3、银行IT系统运维风险控制有哪些手段
• 4、智能运维适合哪些场景？涉及哪些领域？
• 5、如何做好运维监控？

智能运维适合哪些场景？都涉及那些领域？

IT的智能运维AIOps，目前在国内落地比较多的是对IT故障容忍率更低的行业，比如金融、交通、互联网等等。各厂商主要的差异在于数据治理的能力和经验（当数据量越来越大时，一个好的运维数据中台可以保证运行性能）、产品线的覆盖度（告警、日志、指标等均可进行智能分析）、智能场景的丰富度。

对于智能运维来说，常见的智能场景有异常检测、根因定位、自动排障、容量预测、告警收敛、日志聚类等。随着应用的进一步广泛，智能场景也会不断更新、越来越多。

可以说智能运维的发展完全是顺应时代的需求，互联网逐渐与衣食住行变得息息相关，由生活衍生出来的金融、交通、通讯、能源等行业企业同互联网一起经历了多样化的变迁升级。因此，与互联网伴生而来的是对生产数据的运维管理，经历了手工、自动化的阶段后，在人工智能的推动下，运维逐渐向智能化（AIOps）进化。

告警收敛是什么意思？

收敛是一个汉语词语，读音为shōu liǎn，意思是收获农作物；征收租税；聚敛；收集；归总；检点行为，约束身心；停止；消失；医学用语。谓通过药物作用，使肌体皱缩、腺液分泌减少；收殓。出自《庄子·让王》。

中文名

收敛

拼音

shōu liǎn

注音

ㄕㄡ　ㄌㄧㄢˋ

基本解释

检点行为，约束身心或收拢

中译

减轻放纵的程度，减弱或消失

基本释义

1．减轻放纵的程度。

2．会聚于一点；向某一值靠近。

3．减弱或消失。

4．使有机体组织收缩、减少腺体分泌。

5．受环境影响，将一些手段隐藏起来。

引证详解

亦作“收敛”。

1、收获农作物。

①《庄子·让王》：“春耕种，形足以劳动；秋收敛，身足以休食。”

②宋 陆游《晚晴》诗：“农家筑塲罢，竭作事收敛。”

③明 张宁《方洲杂言》：“盖自来生长草野世无服役，不过垦植收敛。”

2.征收租税。

①《礼记·月令》：“﹝孟秋之月﹞命百官，始收敛。”

②《北史·崔浩传》：“列置守宰，收敛租谷。”

③《东周列国志》第二回：“襃珦之子洪德，偶因收敛，来到乡间。”

3.聚敛；收集。

①《墨子·尚贤中》：“收歛关市山林泽梁之利，以实官府。”

②《晋书·儒林传·徐邈》：“﹝帝﹞好为手诏诗章以赐侍臣…… 邈 每应时收敛，还省刊削。”

③《宋书·王镇恶传》：“镇恶极意收敛，子女玉帛，不可胜计。”

4.归总。

宋 周密 《齐东野语·道学》：“朱公尤渊洽精诣，盖其以至高之才，至博之学，而一切收敛，归诸义理。”

5.检点行为，约束身心。 现如今大多作为这个含义。

①清 李渔 《比目鱼·狐威》：“用豪奴，使狠仆，非是我不知收歛。”[1]

②浩然 《艳阳天》第八六章：“反击 马之悦 ，就能使落后的富裕中农收敛。”

6.停止；消失。

①唐 樊宗师《绛守居园池记》：“可四时合奇士，观风云霜露雨雪所为发生收敛，赋歌诗。”

②宋 刘过 《沁园春·寿》词：“紫府真人，黑头元宰，收敛神功寂似无。”

③《东周列国志》第一百六回：“颜聚曰：‘吾当以死据住北门，公子收敛公族，火速到此，同奔代地，再图恢复。’”

④清 孙枝蔚《张良进履》诗：“莫言豪气全收歛，无限恩仇气未平。”

⑤巴金《家》四：“她想到这里，便又收敛了笑容。”

⑥郁达夫 《迟桂花》：“白天的热度，日落之后，忽然收敛了。”

⑦叶君健《看戏》：“太阳虽然早已经下落，但暑气并没有收敛。”

7.医学用语。谓通过药物作用，使肌体皱缩、腺液分泌减少。

①宋 张世南《游宦纪闻》卷七：“龙涎入香，能收敛。”

②《医宗金鉴·外科心法要诀·枯筋箭》“枯筋箭由肝失荣、筋气外发赤豆形”注：“以月白珍珠散掺之，其疤收敛。”

8.收殓。

①《东观汉记·桓典传》：“相王吉以罪被诛，故人亲戚莫敢至者，典独弃官收敛归葬。”

②宋 周密 《癸辛杂识别集·杨髠发陵》：“事竟， 罗铣买棺制衣收敛，大恸垂绝。”

③鲁迅《呐喊·明天》：“收敛的时候，给他穿上顶新的衣裳。”

银行IT系统运维风险控制有哪些手段

数字化时代，银行业务的快速发展，计算机的系统数量和部署规模均呈快速增长态势，且加上应用系统的微服务化，系统间的关联更为复杂，也相应提升了对运维系统的要求与难度。虽然银行内建立了较为全面的监控体系，但是面对千百万的告警风暴时，故障定位解决问题十分困难，特别不利于系统安全、持续、稳定运行。

数字化转型中，以用户为中心是驱动金融行业的核心基础。所以，对于像银行、证券公司这样拥有海量运维数据的金融行业来说，智能运维势在必行。采用先进的运维手段（智能运维）则是企业不断前行的源源动力。

说一个我们正在服务的客户案例吧，客户是一家商业银行。

这家商业银行通过擎创科技提供的夏洛克AIOps解决方案，建设了一套智能运维数据分析系统，集中收集和分析十多个系统的运维数据，包括应用系统日志、告警、性能指标、交易指标和网络性能指标等，并通过机器学习算法实现指标异常检测、关联分析和告警收敛，以此加快问题定位效率，保障系统运行。为了有效提高对异常情况的监测和未来趋势预测，提前发现系统隐患，该商业银行通过擎创夏洛克AI实验室，训练并生成了基于业务场景的多类算法，实现系统的单指标异常检测，极大降低系统故障发生的概率。

与此同时，该商业银行还用了擎创夏洛克指标解析中心和告警辨析中心，通过此实现多维指标关联分析，帮助快速发现和定位系统问题，提升排障效率；实现告警收敛，降低告警风暴，加快定位时间。目前告警压缩率达到了80%以上，运维人员的告警处理效率明显提高。实现了IT系统运维的智能化，为业务健康运转提高强力保障。

其实，擎创科技此前便服务过众多银行类客户，如中国银联、交通银行、浦发银行和宁波银行等，帮助其构建了智能化的运维平台，提升了客户运维效率，且目前很多项目都进入到二期、三期建设阶段。

智能运维适合哪些场景？涉及哪些领域？

IT的智能运维AIOps，目前在国内落地比较多的是对IT故障容忍率更低的行业，比如金融、交通、互联网等等。各厂商主要的差异在于数据治理的能力和经验（当数据量越来越大时，一个好的运维数据中台可以保证运行性能）、产品线的覆盖度（告警、日志、指标等均可进行智能分析）、智能场景的丰富度。

对于智能运维来说，常见的智能场景有异常检测、根因定位、自动排障、容量预测、告警收敛、日志聚类等。随着应用的进一步广泛，智能场景也会不断更新、越来越多。

智能运维AIOps体系架构

如何做好运维监控？

统一监控平台，说到底本质上也是一个监控系统，监控的基本能力是必不可少的，回归到监控的本质，先梳理下整个监控体系：

① 监控系统的本质是通过发现故障、解决故障、预防故障来为了保障业务的稳定。

② 监控体系一般来说包括数据采集、数据检测、告警管理、故障管理、视图管理和监控管理6大模块。而数据采集、数据检测和告警处理是监控的最小闭环，但如果想要真正把监控系统做好，那故障管理闭环、视图管理、监控管理的模块也缺一不可。

一、数据采集

1、采集方式

数据采集方式一般分为Agent模式和非Agent模式；

Agent模式包括插件采集、脚本采集、日志采集、进程采集、APM探针等

非Agent模式包括通用协议采集、Web拨测、API接口等

2、数据类型

监控的数据类型有指标、日志、跟踪数据三种类型。

指标数据是数值型的监控项，主要是通过维度来做标识。

日志数据是字符型的数据，主要是从中找一些关键字信息来做监控。

跟踪型数据反馈的是跟踪链路一个数据流转的过程，观察过程中的耗时性能是否正常。

3、采集频率

采集频率分秒级、分钟级、随机三种类型。常用的采集频率为分钟级。

4、采集传输

采集传输可按传输发起分类，也可按传输链路分类。

按传输发起分类有主动采集Pull（拉）、被动接收Push（推）

按传输链路分类有直连模式、Proxy传输。

其中Proxy传输不仅能解决监控数据跨网传输的问题，还可以缓解监控节点数量过多导致出现的数据传输的瓶颈，用Proxy实现数据分流。

5、数据存储

对于监控系统来说，主要有以下三种存储供选择

① 关系型数据库

例如MySQL、MSSQL、DB2；典型监控系统代表：Zabbix、SCOM、Tivoli；

由于数据库本身的限制，很难搞定海量监控的场景，有性能瓶颈，只在传统监控系统常用

② 时序数据库

为监控这种场景设计的数据库，擅长于指标数据存储和计算；例如InfluxDB、OpenTSDB（基于Hbase）、Prometheus等；典型监控系统代表：TICK监控框架、 Open-falcon、Prometheus

③ 全文检索数据库

这类型数据库主要用于日志型存储，对数据检索非常友好，例如Elasticsearch。

二、数据检测

1. 数据加工

① 数据清洗

数据清洗比如日志数据的清洗，因为日志数据是非结构化的数据，信息密度较低，因此需要从中提取有用的数据。

② 数据计算

很多原始性能数据不能直接用来判断数据是否产生异常。比如采集的数据是磁盘总量和磁盘使用量，如果要检测磁盘使用率，就需要对现有指标进行一个简单的四则运算，才能得到磁盘使用率。

③ 数据丰富

数据丰富就是给数据打上一些tags标签，比如打上主机、机房的标签，方便进行聚合计算。

④ 指标派生

指标派生指的是通过已有的指标，通过计算得出新的指标。

2. 检测算法

有固定规则和机器学习算法。固定算法是较为常见的算法，静态阈值、同比环比、自定义规则，而机器学习主要有动态基线、毛刺检测、指标预测、多指标关联检测等算法。

无论是固定规则还是机器学习，都会有相应的判断规则，即常见的 =和and/or的组合判断等。

三、告警管理

1. 告警丰富

告警丰富是为了后续告警事件分析做准备，需要辅助信息去判断该怎么处理、分析和通知。

告警丰富一般是通过规则，联动CMDB、知识库、作业历史记录等数据源，实现告警字段、关联信息的丰富；通过人工打Tags也是一种丰富方式，不过实际场景下由于人工成本高导致难以落地。

2. 告警收敛

告警收敛有三种思路：抑制、屏蔽和聚合

① 抑制

即抑制同样的问题，避免重复告警。常见的抑制方案有防抖抑制、依赖抑制、时间抑制、组合条件抑制、高可用抑制等。

② 屏蔽

屏蔽可预知的情况，比如变更维护期、固定的周期任务这些已经知道会发生的事件，心里已经有预期。

③ 聚合

聚合是把类似或相同的告警进行合并，因为可能反馈的是同一个现象。比如业务访问量升高，那承载业务的主机的CPU、内存、磁盘IO、网络IO等各项性能都会飙升，这样把这些性能指标都聚合到一块，更加便于告警的分析处理。

3. 告警通知

① 通知到人

通过一些常规的通知渠道，能够触达到人。

这样在没有人盯屏的时候，可以通过微信、短信、邮件触发到工作人员。

② 通知到系统

一般通过API推送给第三方系统，便于进行后续的事件处理

另外还需要支持自定义渠道扩展（比如企业里有自己的IM系统，可以自行接入）

四、故障管理

告警事件必须要处理有闭环，否则监控是没有意义的。

最常见还是人工处理：值班、工单、故障升级等。

经验积累可以把人工处理的故障积累到知识库里面，用于后续故障处理的参考。

自动处理，通过提取一些特定告警的固化的处理流程，实现特定场景的故障自愈；比如磁盘空间告警时把一些无用日志清掉。

智能分析主要是通过故障的关联分析、定位、预测等AI算法，进一步提升故障定位和处理的效率；

1. 视图管理

视图管理也属于增值性功能，主要是满足人的心理述求，做到心中有底，面向的角色很多（领导、管理员、值班员等）。

大屏：面向领导，提供全局概览

拓扑：面向运维人员，提供告警关联关系和影响面视图

仪表盘：面向运维人员，提供自定义的关注指标的视图

报表：面向运维人员、领导，提供一些统计汇总报表信息，例如周报、日报等

检索：面向运维人员，用于故障分析场景下的各类数据检索

2. 监控管理

监控管理是企业监控落地过程中的最大挑战。前5个模块都是监控系统对外提供的服务功能，而监控管理才是面向监控系统自身的管理和控制，关注真正落地的过程的功能呈现。主要有以下几个方面：

配置：简单、批量、自动

覆盖率：监控水平的衡量指标

指标库：监控指标的规范

移动端：随时随地处理问题

权限：使用控制

审计：管理合规

API：运维数据最大的来源，用于数据消费

自监控：自身稳定的保障

为了实现上述监控六大基础能力模块，我们可以按如下架构设计我们的统一监控平台。

主要分三层，接入层，能力层，功能层。

接入层主要考虑各种数据的接入，除了本身Agent和插件的采集接入，还需要支持第三方监控源的数据接入，才能算一个完整的统一监控平台。

能力层主要考虑监控的基础通用能力，包含数据采集模块、数据存储模块、数据加工模块、数据检测模块、AI分析模块。

功能层需要贴近用户使用场景，主要有管理、展示两类功能，在建设的过程中可以不断丰富功能场景。

另外，考虑到数据的关联关系，为未来的数据分析打下基础，监控和CMDB也需要紧密联动，所有的监控对象都应该用CMDB进行管理，另外，还可以配置驱动监控为指导理念，实现监控的自动上下线，告警通知自动识别负责人等场景，简化监控的维护管理。

为了统一监控平台能够在企业更好的落地，我们需要配备对应的管理体系，其中最重要的是指标管理体系。

指标管理体系的核心理念：

监控的指标体系是以CMDB为骨架，以监控指标为经脉，将整个统一监控平台的数据有机整合起来。

贯穿指标的生命周期管理，辅以指标的管理规范，保障监控平台长久有序的运行。

从企业业务应用的视角出发，一般将企业监控的对象分为6层，也可以根据企业自己的情况进行调整：

基础设施层

硬件设备层

操作系统层

组件服务层

应用性能层

业务运营层