日志服务 HarmonyOS NEXT 日志采集最佳实践

作者：高玉龙（元泊）

背景信息

随着数字化新时代的全面展开以及 5G 与物联网（IoT）技术的迅速普及，操作系统正面临前所未有的变革需求。在这个背景下，华为公司自主研发的鸿蒙操作系统（HarmonyOS）应运而生，旨在满足万物互联时代的多元化设备接入、高效协同和安全可靠运行的需求。

HarmonyOS 不仅着眼于智能手机市场，更是全球首个面向全场景智能生态的操作系统，支持从手机、平板电脑到智能家居、穿戴设备乃至工业控制等多种终端形态。2024 年 1 月 18 日正式推出 HarmonyOS NEXT 鸿蒙星河开发者预览，深圳市于 2024 年 3 月 3 日也发布了支持开源鸿蒙原生应用发展的 2024 年行动计划。

图片

日志服务（SLS）介绍

日志服务（SLS，后文简称 SLS）是云原生观测与分析平台，为 Log、Metric、Trace 等数据提供大规模、低成本、实时的平台化服务。SLS 一站式提供数据采集、加工、查询与分析、可视化、告警、消费与投递等功能，全面提升您在研发、运维、运营、安全等场景的数字化能力。

图片

在构建复杂而庞大的应用和智能生态系统过程中，SLS 作为开发调试、性能优化、运维监控和故障排查的重要基础设施。为确保各类应用程序能够在鸿蒙操作系统上实现无缝对接并高效利用 SLS，对 SLS SDK 进行 HarmonyOS 原生适配成为必然之举。

此举不仅可以提升鸿蒙生态下应用的稳定性和可靠性，也有助于开发者更好地遵循统一的标准和最佳实践，进一步促进鸿蒙操作系统生态的繁荣与发展。在这种情况下，基于 SLS 的移动应用日志管理和分析将成为不可或缺的工具，基于对 SLS+ 移动应用日志可以帮助开发人员快速定位和解决问题，优化应用性能。

SDK 特性介绍

HarmonyOS 下的 SLS SDK 基于共同的基座 C Core SDK 适配，底层适配鸿蒙NDK。C Core 部分使用纯 C 语言编写，对性能进行了极端优化（包括缓存管理、文件管理、PB 序列化等），能够适用于 IoT、移动端、服务端等各种场景。SDK 提供 ArkTS 语言原生调用 API。SDK 具备以下特性：

  • 异步
    • 客户端线程写入无阻塞
    • 日志队列异步发送
  • 聚合&压缩上传
    • 日志聚合发送（支持按超时时间、日志数、日志大小聚合）
    • 支持 lz4、zstd 压缩
  • 多实例
    • 支持创建多个实例分别发送到不同的目标
    • 可以实例配置独立，互不影响
  • 缓存
    • 支持设置可允许占用的缓存内存上限
    • 超过内存缓存上限时，日志写入会失败
  • 自定义标识
    • 支持设置自定义 Tag 和 Topic
  • 断点续传
    • 支持日志缓存到本地文件，只有发送成功才会删除，确保日志上传 At Least Once
  • 日志上下文
    • 支持查看某条日志的上下文，可以更好的定位问题

图片

HarmonyOS SDK 通过 OpenHarmony 三方库中心托管发布，当前支持 HarmonyOS NEXT API 9.0 及以上，仅支持 stage 模式。

SDK 使用最佳实践

准备工作

在使用 HarmonyOS SDK 进行日志采集之前，您需要做一些准备工作。

  • 已开通日志服务（SLS），请参见开通日志服务 [ 1] 。
  • 已创建好对应的 Project 和 Logstore，请参见管理 Project [ 2] 和管理 Logstore [ 3] 。
  • 已创建并获取 AccessKey，请参见访问密钥 [ 4] 。阿里云账号 AccessKey 拥有所有 API 的访问权限，风险很高。强烈建议您创建并使用 RAM 用户进行 API 访问或日常运维。RAM 用户需具备操作日志服务（SLS）资源的权限。具体操作，请参见为 RAM 用户授权 [ 5] 。
  • [可选]搭建 HarmonyOS 开发环境。开发鸿蒙应用需要使用 HarmonyOS 的 IDE 进行开发，具体内容请参考 HarmonyOS 官网开发文档 [ 6] 。

日志采集

安装 SDK

在项目的 entry 或 library 目录下执行如下命令。

ohpm install @aliyunsls/producer --registry=https://ohpm.openharmony.cn/ohpm

以上命令执行完成后，在 entry 或 library 目录下的 oh-package.json5 文件中会自动增加以下信息。

"dependencies": {"@aliyunsls/producer": "^0.1.0"
}

你可以通过以上信息来确定 SDK 是否安装成功。

集成 SDK

SDK 安装成功后，您可以按照实际业务需要，在指定的 ets 文件中导入 SLS 模块。

import { AliyunLog } from "@aliyunsls/producer"

您还需要完成 SDK 的初始化工作。

let aliyunLog: AliyunLog = new AliyunLog("https://cn-qingdao.log.aliyuncs.com", // 需要根据实际业务需要，替换为您Project所在Region"test-project-yuanbo", // 需要根据实际业务需要，替换为您的Project"applog", // 需要根据实际业务需要，替换为您的Logstore"<accesskey id>","<accesskey secret>","<accesskey token>" // 仅当AccessKey是通过STS方式获取时才需要
);

参数说明：

参数名称说明
endpointSLS 所在地域的访问域名，请参见服务入口 [ 7] 。
projectSLS 的资源管理单元，请参见项目（Project） [ 8] 。
logstoreSLS 中日志数据的采集、存储和查询单元，请参见日志库（Logstore） [ 9] 。
accesskey调用 API 访问云资源的安全口令，请参见访问密钥 [ 10] 。
日志采集

完成 SDK 的初始化之后，可以通过以下方式完成日志的采集。

aliyunLog.addLog(new Map([// 根据实际业务需要，调整您需要上报的业务字段["from", "Home"],["page", "HomePage"],]
));

更多 SDK 使用相关的信息，建议您参考 SLS 官网文档 HarmonyOS SDK [1****1] 。

日志使用

场景一：查询和可视化分析

数据通过 SDK 采集上来之后，我们可以通过 SLS 控制台进行日志的查询和分析。

首先在 SLS 控制台 Project 列表中找到您的 Project，并进入到 Project 页面。如下：

图片

接着，在左侧日志库菜单中找到您的 Logstore。如下：

图片

如果 Logstore 没有开启索引，在您打开 Logstore 页面之后，会收到一个“未开启日志库索引”的提示框。您可以通过 Logstore 页面右上角的开启索引按钮来配置相关字段的索引。配置索引的具体方式可以参考创建索引 [ 12] 这篇文档。本文示例的 Logstore 已经对以下字段进行了索引配置：

图片

索引开启后，即可在 Logstore 页面看到我们上报的日志信息，如下：

图片

注意： 如果您的日志是在开启索引之前写入的，您需要重建索引后才能看到历史写入的数据。如何重建索引？您可以参考文档重建索引 [ 13] 。

可视化分析示例一：分析 CartPage 的访问趋势

基于示例数据，我们可以通过 SQL 查询出 page 字段的访问趋势，如下：

* and page: CartPage | select date_trunc('minute', __time__)  as minute, count(*) as cnt group by minute order by minute asc

以上查询分析语句的含义是：

  • “|”之前的部分，是通过查询语句 page: CartPage 过滤出 page 为 CartPage 的页面数据。请参考更多关于查询语法 [ 14] 的信息。
  • “|”之后的部分，是通过 SQL 语句对过滤出来的数据进行分析，即：通过 date_trunc 语句把时间对齐到分钟级别，然后使用 count(*) 计算出每分钟页面的访问次数。请参考更多关于分析语法 [ 15] 的信息。

通过 SLS 可视化能力，可以对查询分析的结果使用丰富的图表展示，如下图是通过“线图 Pro”类型的图表，按照时间升序展示每分钟的页面访问次数。

图片

可视化分析示例二：分析 CartPage 页面的访问来源

基于示例数据，可以使用如下查询分析语句查询 Cart 页面的来源分布：

* and page: CartPage | select "from"  as "from", count(*) as cnt group by "from"

备注： 因为 from 是 SQL 的保留字段，因此示例中使用了双引号""对 from 进行包装。

下图是通过饼图 Pro 类型的图表，绘制的来源页面分布。

图片

SLS 拥有非常强大的可视化分析能力，以上仅是非常简单的示例。实际使用中，可能会涉及到多种指标的同比/环比，漏斗转化实时分析等等。SLS 对此提供了非常灵活和丰富的能力进行支持。更多信息可以参考查询与分析 [ 16] 以及可视化 [ 17] 。

场景二：日志加工处理

如果从鸿蒙设备上采集到的原始数据格式没有事先约定好，或者数据格式较为复杂，或者需要对个别字段做富化/脱敏等，您可以使用 SLS 数据加工能力对原始数据做富化和清洗。您可以参考以下步骤。

  1. [可选]新增一个 Logstore 用于存储加工处理后的数据，如下：

图片

可根据实际业务的需要，提前对该 Logstore 进行索引等配置。

  1. 进入到数据加工配置页面

图片

您可以通过 Logstore 名称右侧的“数据加工”超链接进入到数据加工配置页面。

  1. 配置数据加工任务

图片

如上图，您可以参考以下步骤配置数据加工任务。

a. 把目标数据加入到测试数据，用于验证数据加工脚本是否符合预期。

b. 在脚本编辑区域，根据实际业务需要输入数据加工脚本规则，示例如下：

# 富化__tag__:__client_ip__字段，提取出省、市、经纬度等信息
e_set("x", geo_parse(v("__tag__:__client_ip__")))
e_json("x", prefix="geo_") # 平铺x节点，并增加geo_前缀e_drop_fields("x")# 平铺content节点
e_json("content")
e_drop_fields("content")

关于数据加工脚本支持的语法，您可以参考数据加工语法 [ 18] 。

c. 脚本编写完成后，您可以通过右上角“预览数据”按钮验证数据加工的结果。

如下图，是以上数据加工脚本的预览结果：

图片

数据加工预览结果符合预期后，您就可以保存当前数据加工任务了，后续的具体操作请参考创建数据加工任务 [ 19] 。

其他场景

除了上文中提到的查询与可视化分析、日志加工处理之外，SLS 还支持基于业务日志创建自定义告警监控业务，通过流处理、批处理（定时SQL）功能对数据进一步加工、聚合处理，通过消费与投递功能投递业务数据到 OSS、MaxCompute 等。您可以通过访问日志服务（SLS） [ 20] 官网文档等方式进一步了解 SLS 各种功能，助力您的业务发展。

总结

SLS SDK 通过适配 HarmonyOS NDK，并提供原生 ArkTS 语言原生 API 的方式，使开发者能够确保应用程序在 HarmonyOS 操作系统上实现无缝对接和高效利用 SLS 功能，可以有效提升应用的稳定性和性能。SDK 提供的异步日志写入、日志聚合压缩上传、缓存控制、自定义标识、断点续传、日志上下文查看等丰富特性，可以简化日志管理流程，提升故障排查、性能优化、资源利用监控、安全防范等方面的能力。

此外，借助 SLS 的强大平台功能，如实时查询、可视化分析、数据加工处理等等能力，不仅能够快速定位问题，优化应用性能，还能够在满足数据合规性要求的同时，基于业务日志构建全面的运维监控体系，为数字化运营决策提供有效支持。

除了以上能力外，SLS 还提供基于 OTel（OpenTelemetry）协议的多平台数据采集插件，您可以借助这些插件实现端到端的 Trace 数据采集和分析能力。

  • 通过 OpenTelemetry 接入 Android Trace 数据

https://help.aliyun.com/zh/sls/user-guide/import-trace-data-from-android-apps-to-log-service-1

  • 通过 OpenTelemetry 接入 iOS Trace 数据

https://help.aliyun.com/zh/sls/user-guide/import-trace-data-from-ios-apps-to-log-service-46

  • 通过 OpenTelemetry 接入 Flutter/Dart Trace 数据

https://help.aliyun.com/zh/sls/user-guide/import-trace-data-from-flutter-and-dart-applications-by-using-opentelemetry-sdk-for-flutter

  • 通过 OpenTelemetry 接入 C++ Trace 数据

https://help.aliyun.com/zh/sls/user-guide/import-trace-data-from-cpp-applications-to-log-service

  • 接入 Web Trace 数据

https://help.aliyun.com/zh/sls/user-guide/import-data-from-web-pages-to-log-service

  • 接入小程序 Trace 数据

https://help.aliyun.com/zh/sls/user-guide/import-data-from-mini-programs-to-log-service

更多关于 Trace 数据采集和使用相关的内容，你可以参考 SLS Trace [2****1] 服务。欢迎您试用！

相关链接：

[1] 开通日志服务

https://www.aliyun.com/product/sls

[2] 管理 Project

https://help.aliyun.com/zh/sls/user-guide/manage-a-project

[3] 管理 Logstore

https://help.aliyun.com/zh/sls/user-guide/manage-a-logstore

[4] 访问密钥

https://help.aliyun.com/zh/sls/developer-reference/accesskey-pair#reference-rh5-tfy-zdb

[5] 为 RAM 用户授权

https://help.aliyun.com/zh/sls/create-a-ram-user-and-authorize-the-ram-user-to-access-log-service#section-kxp-1ok-zj4

[6] HarmonyOS 官网开发文档

https://developer.huawei.com/consumer/cn/doc/

[7] 服务入口

https://help.aliyun.com/zh/sls/user-guide/manage-a-project#section-mb8-vvq-67c

[8] 项目（Project）

https://help.aliyun.com/zh/sls/product-overview/project

[9] 日志库（Logstore）

https://help.aliyun.com/zh/sls/product-overview/logstore

[10] 访问密钥

https://help.aliyun.com/zh/sls/developer-reference/accesskey-pair

[11] HarmonyOS SDK

https://help.aliyun.com/zh/sls/developer-reference/harmonyos-sdk/

[12] 创建索引

https://help.aliyun.com/zh/sls/user-guide/create-indexes

[13] 重建索引

https://help.aliyun.com/zh/sls/user-guide/reindex-logs-for-a-logstore

[14] 查询语法

https://help.aliyun.com/zh/sls/user-guide/search-syntax

[15] 分析语法

https://help.aliyun.com/zh/sls/user-guide/sql-syntax-and-functions/

[16] 查询与分析

https://help.aliyun.com/zh/sls/user-guide/index-and-query/

[17] 可视化

https://help.aliyun.com/zh/sls/user-guide/visualization-2/

[18] 数据加工语法

https://help.aliyun.com/zh/sls/user-guide/data-processing-syntax/

[19] 创建数据加工任务

https://help.aliyun.com/zh/sls/user-guide/create-a-data-transformation-job

[20] 日志服务（SLS）

https://help.aliyun.com/zh/sls/product-overview/

[21] SLS Trace

https://help.aliyun.com/zh/sls/user-guide/usage-notes-39

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.hqwc.cn/news/589990.html

如若内容造成侵权/违法违规/事实不符，请联系编程知识网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

29-控制流（下）：iam-apiserver服务核心功能实现讲解

29-控制流（下）：iam-apiserver服务核心功能实现讲解

我们再来看下 iam-apiserver 中的核心功能实现。 这些关键代码设计分为 3 类&#xff0c;分别是应用框架相关的特性、编程规范相关的特性和其他特性。 应用框架相关的特性 应用框架相关的特性包括三个&#xff0c;分别是优雅关停、健康检查和插件化加载中间件。 优雅关停 …
阅读更多...
elementui 左侧或水平导航菜单栏与main区域联动

elementui 左侧或水平导航菜单栏与main区域联动

系列文章目录 一、elementui 导航菜单栏和Breadcrumb 面包屑关联 二、elementui 左侧导航菜单栏与main区域联动 三、elementui 中设置图片的高度并支持PC和手机自适应 四、elementui 实现一个固定位置的Pagination&#xff08;分页&#xff09;组件 文章目录 系列文章目录…
阅读更多...
书生·浦语大模型InternLM-Chat-1.8B 智能对话 Demo 第二期

书生·浦语大模型InternLM-Chat-1.8B 智能对话 Demo 第二期

文章目录 InternLM-Chat-1.8B 智能对话 Demo环境准备下载模型运行 InternLM-Chat-1.8B web 运行八戒 demo下载模型执行Demo InternLM-Chat-1.8B 智能对话 Demo 环境准备 在InternStudio平台中选择 10% A100(1/4) 的配置&#xff08;平台资源有限&#xff09;&#xff0c;如下图…
阅读更多...
Spark-Scala语言实战（11）

Spark-Scala语言实战（11）

在之前的文章中&#xff0c;我们学习了如何在spark中使用RDD中的cartesian,subtract最终两种方法。想了解的朋友可以查看这篇文章。同时&#xff0c;希望我的文章能帮助到你&#xff0c;如果觉得我的文章写的不错&#xff0c;请留下你宝贵的点赞&#xff0c;谢谢。 Spark-Scal…
阅读更多...
AI学习-线性回归推导

AI学习-线性回归推导

线性回归 1.简单线性回归2.多元线性回归3.相关概念熟悉4.损失函数推导5.MSE损失函数 1.简单线性回归 ​ 线性回归&#xff1a;有监督机器学习下一种算法思想。用于预测一个或多个连续型目标变量y与数值型自变量x之间的关系,自变量x可以是连续、离散&#xff0c;但是目标变量y必…
阅读更多...
第二十一章 RabbitMQ

第二十一章 RabbitMQ

一、RabbitMQ 介绍 在介绍 RabbitMQ 之前&#xff0c;我们先来看下面一个电商项目的场景&#xff1a; - 商品的原始数据保存在数据库中&#xff0c;增删改查都在数据库中完成。 - 搜索服务数据来源是索引库&#xff08;Elasticsearch&#xff09;&#xff0c;如果数据库商品…
阅读更多...
【JavaWeb】Day32.MySQL概述

【JavaWeb】Day32.MySQL概述

什么是数据库 数据库&#xff1a;英文为 DataBase&#xff0c;简称DB&#xff0c;它是存储和管理数据的仓库。 像我们日常访问的电商网站京东&#xff0c;企业内部的管理系统OA、ERP、CRM这类的系统&#xff0c;以及大家每天都会刷的头条、抖音类的app&#xff0c;那这些大家所…
阅读更多...
redis之穿透、击穿、雪崩

redis之穿透、击穿、雪崩

目录 缓存雪崩 问题描述 缓存雪崩 问题描述 key 对应的数据存在&#xff0c;但在 redis 中过期&#xff0c;此时若有大量并发请求过来&#xff0c;这些请求发现缓存过期一般都会从后端数据库加载数据并回设到缓存&#xff0c;这个时候大并发的请求可能会瞬间把后端数据库压垮。…
阅读更多...
非小米电脑下载小米电脑管家

非小米电脑下载小米电脑管家

由于 小米电脑管家 现在新增了机型验证&#xff0c;本篇将分享非小米电脑用户如何绕过机型验证安装 小米电脑管家 首先到小米跨端智联官网 https://hyperos.mi.com/continuity 中下载小米电脑管家 打开官网链接后&#xff0c;直接滑动到底部&#xff0c;点击下载 下载完成后…
阅读更多...
NineData云原生智能数据管理平台新功能发布｜2024年3月版

NineData云原生智能数据管理平台新功能发布｜2024年3月版

数据库 DevOps - 大功能升级 SQL 开发早期主要提供 SQL 窗口&#xff08;IDE&#xff09;功能&#xff0c;在产品经过将近两年时间的打磨&#xff0c;新增了大量的企业级功能&#xff0c;已经服务了上万开发者&#xff0c;覆盖了数据库设计、开发、测试、变更等生命周期的功能…
阅读更多...
MapReduce [OSDI‘04] 论文阅读笔记

MapReduce [OSDI‘04] 论文阅读笔记

原论文&#xff1a;MapReduce: Simplified Data Processing on Large Clusters (OSDI’04) 1. Map and Reduce Map&#xff1a;处理键值对&#xff0c;生成一组中间键值对Reduce&#xff1a;合并与同一中间键相关的所有中间值process overview&#xff1a;分割输入数据&#x…
阅读更多...
【环境变量】命令行参数 | 概念 | 理解 | 命令行参数表 | bash进程

【环境变量】命令行参数 | 概念 | 理解 | 命令行参数表 | bash进程

目录 四组概念 命令行参数概念&理解 查看命令函参数 命令行字符串&命令行参数表 命令行参数存在的意义 谁形成的命令行参数 父进程&子进程&数据段 bash进程 最近有点小忙&#xff0c;可能更新比较慢。 四组概念 竞争性: 系统进程数目众多&#xff0c…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023