日志服务 HarmonyOS NEXT 日志采集最佳实践
背景信息
随着数字化新时代的全面展开以及 5G 与物联网(IoT)技术的迅速普及,操作系统正面临前所未有的变革需求。在这个背景下,华为公司自主研发的鸿蒙操作系统(HarmonyOS)应运而生,旨在满足万物互联时代的多元化设备接入、高效协同和安全可靠运行的需求。
HarmonyOS 不仅着眼于智能手机市场,更是全球首个面向全场景智能生态的操作系统,支持从手机、平板电脑到智能家居、穿戴设备乃至工业控制等多种终端形态。2024 年 1 月 18 日正式推出 HarmonyOS NEXT 鸿蒙星河开发者预览,深圳市于 2024 年 3 月 3 日也发布了支持开源鸿蒙原生应用发展的 2024 年行动计划。
日志服务(SLS)介绍
日志服务(SLS,后文简称 SLS)是云原生观测与分析平台,为 Log、Metric、Trace 等数据提供大规模、低成本、实时的平台化服务。SLS 一站式提供数据采集、加工、查询与分析、可视化、告警、消费与投递等功能,全面提升您在研发、运维、运营、安全等场景的数字化能力。
在构建复杂而庞大的应用和智能生态系统过程中,SLS 作为开发调试、性能优化、运维监控和故障排查的重要基础设施。为确保各类应用程序能够在鸿蒙操作系统上实现无缝对接并高效利用 SLS,对 SLS SDK 进行 HarmonyOS 原生适配成为必然之举。
此举不仅可以提升鸿蒙生态下应用的稳定性和可靠性,也有助于开发者更好地遵循统一的标准和最佳实践,进一步促进鸿蒙操作系统生态的繁荣与发展。在这种情况下,基于 SLS 的移动应用日志管理和分析将成为不可或缺的工具,基于对 SLS+ 移动应用日志可以帮助开发人员快速定位和解决问题,优化应用性能。
SDK 特性介绍
HarmonyOS 下的 SLS SDK 基于共同的基座 C Core SDK 适配,底层适配鸿蒙NDK。C Core 部分使用纯 C 语言编写,对性能进行了极端优化(包括缓存管理、文件管理、PB 序列化等),能够适用于 IoT、移动端、服务端等各种场景。SDK 提供 ArkTS 语言原生调用 API。SDK 具备以下特性:
- 异步
- 客户端线程写入无阻塞
- 日志队列异步发送
- 聚合&压缩上传
- 日志聚合发送(支持按超时时间、日志数、日志大小聚合)
- 支持 lz4、zstd 压缩
- 多实例
- 支持创建多个实例分别发送到不同的目标
- 可以实例配置独立,互不影响
- 缓存
- 支持设置可允许占用的缓存内存上限
- 超过内存缓存上限时,日志写入会失败
- 自定义标识
- 支持设置自定义 Tag 和 Topic
- 断点续传
- 支持日志缓存到本地文件,只有发送成功才会删除,确保日志上传 At Least Once
- 日志上下文
- 支持查看某条日志的上下文,可以更好的定位问题
HarmonyOS SDK 通过 OpenHarmony 三方库中心托管发布,当前支持 HarmonyOS NEXT API 9.0 及以上,仅支持 stage 模式。
SDK 使用最佳实践
准备工作
在使用 HarmonyOS SDK 进行日志采集之前,您需要做一些准备工作。
- 已开通日志服务(SLS),请参见开通日志服务[1]。
- 已创建好对应的 Project 和 Logstore,请参见管理 Project[2]和管理 Logstore[3]。
- 已创建并获取 AccessKey,请参见访问密钥[4]。阿里云账号 AccessKey 拥有所有 API 的访问权限,风险很高。强烈建议您创建并使用 RAM 用户进行 API 访问或日常运维。RAM 用户需具备操作日志服务(SLS)资源的权限。具体操作,请参见为 RAM 用户授权[5]。
- [可选]搭建 HarmonyOS 开发环境。开发鸿蒙应用需要使用 HarmonyOS 的 IDE 进行开发,具体内容请参考 HarmonyOS 官网开发文档[6]。
日志采集
安装 SDK
在项目的 entry 或 library 目录下执行如下命令。
ohpm install @aliyunsls/producer --registry=https://ohpm.openharmony.cn/ohpm
以上命令执行完成后,在 entry 或 library 目录下的 oh-package.json5 文件中会自动增加以下信息。
"dependencies": {
"@aliyunsls/producer": "^0.1.0"
}
你可以通过以上信息来确定 SDK 是否安装成功。
集成 SDK
SDK 安装成功后,您可以按照实际业务需要,在指定的 ets 文件中导入 SLS 模块。
import { AliyunLog } from "@aliyunsls/producer"
您还需要完成 SDK 的初始化工作。
let aliyunLog: AliyunLog = new AliyunLog(
"https://cn-qingdao.log.aliyuncs.com", // 需要根据实际业务需要,替换为您Project所在Region
"test-project-yuanbo", // 需要根据实际业务需要,替换为您的Project
"applog", // 需要根据实际业务需要,替换为您的Logstore
"<accesskey id>",
"<accesskey secret>",
"<accesskey token>" // 仅当AccessKey是通过STS方式获取时才需要
)
参数说明:
参数名称 | 说明 |
endpoint | SLS 所在地域的访问域名,请参见服务入口[7]。 |
project | SLS 的资源管理单元,请参见项目(Project)[8]。 |
logstore | SLS 中日志数据的采集、存储和查询单元,请参见日志库(Logstore)[9]。 |
accesskey | 调用 API 访问云资源的安全口令,请参见访问密钥[10]。 |
日志采集
完成 SDK 的初始化之后,可以通过以下方式完成日志的采集。
aliyunLog.addLog(new Map(
[
// 根据实际业务需要,调整您需要上报的业务字段
["from", "Home"],
["page", "HomePage"],
]
));
更多 SDK 使用相关的信息,建议您参考 SLS 官网文档 HarmonyOS SDK[11]。
日志使用
场景一:查询和可视化分析
数据通过 SDK 采集上来之后,我们可以通过 SLS 控制台进行日志的查询和分析。
首先在 SLS 控制台 Project 列表中找到您的 Project,并进入到 Project 页面。如下:
接着,在左侧日志库菜单中找到您的 Logstore。如下:
如果 Logstore 没有开启索引,在您打开 Logstore 页面之后,会收到一个“未开启日志库索引”的提示框。您可以通过 Logstore 页面右上角的开启索引按钮来配置相关字段的索引。配置索引的具体方式可以参考创建索引[12]这篇文档。本文示例的 Logstore 已经对以下字段进行了索引配置:
索引开启后,即可在 Logstore 页面看到我们上报的日志信息,如下:
注意:如果您的日志是在开启索引之前写入的,您需要重建索引后才能看到历史写入的数据。如何重建索引?您可以参考文档重建索引[13]。
可视化分析示例一:分析 CartPage 的访问趋势
基于示例数据,我们可以通过 SQL 查询出 page 字段的访问趋势,如下:
* and page: CartPage | select date_trunc('minute', __time__) as minute, count(*) as cnt group by minute order by minute asc
以上查询分析语句的含义是:
- “|”之前的部分,是通过查询语句 page: CartPage 过滤出 page 为 CartPage 的页面数据。请参考更多关于查询语法[14]的信息。
- “|”之后的部分,是通过 SQL 语句对过滤出来的数据进行分析,即:通过 date_trunc 语句把时间对齐到分钟级别,然后使用 count(*) 计算出每分钟页面的访问次数。请参考更多关于分析语法[15]的信息。
通过 SLS 可视化能力,可以对查询分析的结果使用丰富的图表展示,如下图是通过“线图 Pro”类型的图表,按照时间升序展示每分钟的页面访问次数。
可视化分析示例二:分析 CartPage 页面的访问来源
基于示例数据,可以使用如下查询分析语句查询 Cart 页面的来源分布:
* and page: CartPage | select "from" as "from", count(*) as cnt group by "from"
备注:因为 from 是 SQL 的保留字段,因此示例中使用了双引号""对 from 进行包装。
下图是通过饼图 Pro 类型的图表,绘制的来源页面分布。
SLS 拥有非常强大的可视化分析能力,以上仅是非常简单的示例。实际使用中,可能会涉及到多种指标的同比/环比,漏斗转化实时分析等等。SLS 对此提供了非常灵活和丰富的能力进行支持。更多信息可以参考查询与分析[16]以及可视化[17]。
场景二:日志加工处理
如果从鸿蒙设备上采集到的原始数据格式没有事先约定好,或者数据格式较为复杂,或者需要对个别字段做富化/脱敏等,您可以使用 SLS 数据加工能力对原始数据做富化和清洗。您可以参考以下步骤。
1. [可选]新增一个 Logstore 用于存储加工处理后的数据,如下:
可根据实际业务的需要,提前对该 Logstore 进行索引等配置。
2. 进入到数据加工配置页面
您可以通过 Logstore 名称右侧的“数据加工”超链接进入到数据加工配置页面。
3. 配置数据加工任务
如上图,您可以参考以下步骤配置数据加工任务。
a. 把目标数据加入到测试数据,用于验证数据加工脚本是否符合预期。
b. 在脚本编辑区域,根据实际业务需要输入数据加工脚本规则,示例如下:
# 富化__tag__:__client_ip__字段,提取出省、市、经纬度等信息
e_set("x", geo_parse(v("__tag__:__client_ip__")))
e_json("x", prefix="geo_") # 平铺x节点,并增加geo_前缀
e_drop_fields("x")
# 平铺content节点
e_json("content")
e_drop_fields("content")
关于数据加工脚本支持的语法,您可以参考数据加工语法[18]。
c. 脚本编写完成后,您可以通过右上角“预览数据”按钮验证数据加工的结果。
如下图,是以上数据加工脚本的预览结果:
数据加工预览结果符合预期后,您就可以保存当前数据加工任务了,后续的具体操作请参考创建数据加工任务[19]。
其他场景
除了上文中提到的查询与可视化分析、日志加工处理之外,SLS 还支持基于业务日志创建自定义告警监控业务,通过流处理、批处理(定时SQL)功能对数据进一步加工、聚合处理,通过消费与投递功能投递业务数据到 OSS、MaxCompute 等。您可以通过访问日志服务(SLS)[20]官网文档等方式进一步了解 SLS 各种功能,助力您的业务发展。
总结
SLS SDK 通过适配 HarmonyOS NDK,并提供原生 ArkTS 语言原生 API 的方式,使开发者能够确保应用程序在 HarmonyOS 操作系统上实现无缝对接和高效利用 SLS 功能,可以有效提升应用的稳定性和性能。SDK 提供的异步日志写入、日志聚合压缩上传、缓存控制、自定义标识、断点续传、日志上下文查看等丰富特性,可以简化日志管理流程,提升故障排查、性能优化、资源利用监控、安全防范等方面的能力。
此外,借助 SLS 的强大平台功能,如实时查询、可视化分析、数据加工处理等等能力,不仅能够快速定位问题,优化应用性能,还能够在满足数据合规性要求的同时,基于业务日志构建全面的运维监控体系,为数字化运营决策提供有效支持。
除了以上能力外,SLS 还提供基于 OTel(OpenTelemetry)协议的多平台数据采集插件,您可以借助这些插件实现端到端的 Trace 数据采集和分析能力。
- 通过 OpenTelemetry 接入 Android Trace 数据:https://help.aliyun.com/zh/sls/user-guide/import-trace-data-from-android-apps-to-log-service-1
- 通过 OpenTelemetry 接入 iOS Trace 数据:https://help.aliyun.com/zh/sls/user-guide/import-trace-data-from-ios-apps-to-log-service-46
- 通过 OpenTelemetry 接入 Flutter/Dart Trace 数据:https://help.aliyun.com/zh/sls/user-guide/import-trace-data-from-flutter-and-dart-applications-by-using-opentelemetry-sdk-for-flutter
- 通过 OpenTelemetry 接入 C++ Trace 数据:https://help.aliyun.com/zh/sls/user-guide/import-trace-data-from-cpp-applications-to-log-service
- 接入 Web Trace 数据:https://help.aliyun.com/zh/sls/user-guide/import-data-from-web-pages-to-log-service
- 接入小程序 Trace 数据:https://help.aliyun.com/zh/sls/user-guide/import-data-from-mini-programs-to-log-service
更多关于 Trace 数据采集和使用相关的内容,你可以参考 SLS Trace[21]服务。欢迎您试用!
相关链接:
[1] 开通日志服务
https://www.aliyun.com/product/sls
[2] 管理 Project
https://help.aliyun.com/zh/sls/user-guide/manage-a-project
[3] 管理 Logstore
https://help.aliyun.com/zh/sls/user-guide/manage-a-logstore
[4] 访问密钥
https://help.aliyun.com/zh/sls/developer-reference/accesskey-pair#reference-rh5-tfy-zdb
[5] 为 RAM 用户授权
[6] HarmonyOS 官网开发文档
https://developer.huawei.com/consumer/cn/doc/
[7] 服务入口
https://help.aliyun.com/zh/sls/user-guide/manage-a-project#section-mb8-vvq-67c
[8] 项目(Project)
https://help.aliyun.com/zh/sls/product-overview/project
[9] 日志库(Logstore)
https://help.aliyun.com/zh/sls/product-overview/logstore
[10] 访问密钥
https://help.aliyun.com/zh/sls/developer-reference/accesskey-pair
[11] HarmonyOS SDK
https://help.aliyun.com/zh/sls/developer-reference/harmonyos-sdk/
[12] 创建索引
https://help.aliyun.com/zh/sls/user-guide/create-indexes
[13] 重建索引
https://help.aliyun.com/zh/sls/user-guide/reindex-logs-for-a-logstore
[14] 查询语法
https://help.aliyun.com/zh/sls/user-guide/search-syntax
[15] 分析语法
https://help.aliyun.com/zh/sls/user-guide/sql-syntax-and-functions/
[16] 查询与分析
https://help.aliyun.com/zh/sls/user-guide/index-and-query/
[17] 可视化
https://help.aliyun.com/zh/sls/user-guide/visualization-2/
[18] 数据加工语法
https://help.aliyun.com/zh/sls/user-guide/data-processing-syntax/
[19] 创建数据加工任务
https://help.aliyun.com/zh/sls/user-guide/create-a-data-transformation-job
[20] 日志服务(SLS)
https://help.aliyun.com/zh/sls/product-overview/
[21] SLS Trace
https://help.aliyun.com/zh/sls/user-guide/usage-notes-39
作者:高玉龙(元泊)
本文为阿里云原创内容,未经允许不得转载。
日志服务 HarmonyOS NEXT 日志采集最佳实践的更多相关文章
- 使用日志服务进行Kubernetes日志采集
阿里云容器服务Kubernetes集群集成了日志服务(SLS),您可在创建集群时启用日志服务,快速采集Kubernetes 集群的容器日志,包括容器的标准输出以及容器内的文本文件. 新建 Kubern ...
- 吴太银:华为消费者云服务Cassandra使用场景与最佳实践
大家好,我是华为消费者云的吴太银. 我今天分享的主要是华为消费者云服务使用Cassandra的应用场景和最佳实践.我这个可能跟其他嘉宾分享的不太一样,因为前几个嘉宾讲的实际上对Cassandra原生的 ...
- 海量大数据大屏分析展示一步到位:DataWorks数据服务+MaxCompute Lightning对接DataV最佳实践
1. 概述 数据服务(https://ds-cn-shanghai.data.aliyun.com) 是DataWorks产品家族的一员,提供了快速将数据表生成API的能力,通过可视化的向导,一分钟“ ...
- Spring RESTful服务接收和返回JSON最佳实践
http://blog.csdn.net/prince_hua/article/details/12103501
- 阿里云日志服务采集自建Kubernetes日志(标准输出日志)
日志服务支持通过Logtail采集Kubernetes集群日志,并支持CRD(CustomResourceDefinition)进行采集配置管理.本文主要介绍如何安装并使用Logtail采集Kuber ...
- Kubernetes Ingress 日志分析与监控的最佳实践
摘要: Ingress主要提供HTTP层(7层)路由功能,是目前K8s中HTTP/HTTPS服务的主流暴露方式.为简化广大用户对于Ingress日志分析与监控的门槛,阿里云容器服务和日志服务将Ingr ...
- [转]在 Azure 云服务上设计大规模服务的最佳实践
本文转自:http://technet.microsoft.com/zh-cn/magazine/jj717232.aspx 英文版:http://msdn.microsoft.com/library ...
- 5分钟搭建网站实时分析:Grafana+日志服务实战
原文地址:https://yq.aliyun.com/articles/227006 阿里云日志服务是针对日志类数据一站式服务,用户只需要将精力集中在分析上,过程中数据采集.对接各种存储计算.数据索引 ...
- aliyun 日志服务(Log Service,Log)是针对日志场景的一站式服务
日志服务(Log Service,Log)是针对日志场景的一站式服务,在阿里巴巴集团内部被广泛使用.用户无需开发就能快捷完成日志生命周期中采集.消费.投递以及查询功能. 日志服务当前提供如下功能 日志 ...
- asp.net core使用serilog将日志推送到腾讯云日志服务
为什么是serilog? Serilog是 .NET 中最著名的结构化日志类库. 基于日志事件log events,而不是日志消息log message. 你可以将日志事件格式化为控制台的可读文本或者 ...
随机推荐
- 记录--开局一张图,构建神奇的 CSS 效果
这里给大家分享我在网上总结出来的一些知识,希望对大家有所帮助 假设,我们有这样一张 Gif 图: 利用 CSS,我们尝试来搞一些事情. 图片的 Glitch Art 风 在这篇文章中 --CSS 故障 ...
- java 计算两个日期相差工作日天数
import java.text.ParseException; import java.text.SimpleDateFormat; import java.time.DayOfWeek; impo ...
- 使用EasyPoi导出excel时如何避免导出null
使用replace将null替换为空字符串 @Excel(name = "是否自动开始", replace = { "是_1", "否_0" ...
- verilog语法基础学习系列
verilog语法 1.学习目标 verilog语法是数字电路的基础.好像大部分的数字电路工程师都需要在面试时回答相关问题,一些甚至需要对该块的知识进行机考.所以,这部分的知识需要明确的概念和结合数字 ...
- linux下firefox用css配置把网页设置成黑白
网址输入 about:config 忽略警告 toolkit.legacyUserProfileCustomizations.stylesheets设置为true 在 /home/user/.mozi ...
- 解密数仓的SQL ON ANYWHERE技术
本文分享自华为云社区<GaussDB DWS的SQL ON ANYWHERE技术解密>,作者:tooooooooooomy. 1. 前言 适用版本:[8.1.1(及以上)] 查询分析是大数 ...
- #莫比乌斯反演,整除分块,欧拉定理#U137539 虚伪的最小公倍数
题目 \[\large\prod_{i_1=1}^n\prod_{i_2=1}^n\dots\prod_{i_k=1}^n\frac{i_1*i_2*\dots*i_k}{gcd(i_1,i_2,\d ...
- 基于OpenHarmony的智能金属探测器
一.简介 智能金属探测器是基于 OpenAtom OpenHarmony(以下简称"OpenHarmony")操作系统,利用电磁感应原理来探测周围的金属物体.该样例采用多设备协同 ...
- zbar:Qt调用zbar做条码识别
编译: zbar Windows编译:https://gitee.com/vvvj/zbar-windows 下载下来后,直接使用vs来编译就可以了. zbar官网:https://zbar.sour ...
- Causal Inference理论学习篇-Tree Based-Causal Tree
Tree-Based Algorithms Tree-based这类方法,和之前meta-learning 类的方法最明显的区别是: 这类方法把causal effect 的计算显示的加入了到了树模型 ...