轻量级日志收集方案Loki

先看看结果有多轻量吧

官方文档：https://grafana.com/docs/loki/latest/

简介

Grafana Loki 是一个日志聚合工具，它是功能齐全的日志堆栈的核心。

Loki 是一个为有效保存日志数据而优化的数据存储。日志数据的高效索引将 Loki 与其他日志系统区分开来。与其他日志系统不同，Loki 索引是根据标签构建的，原始日志消息未编入索引。

代理（也称为客户端）获取日志，将日志转换为流，然后通过 HTTP API 将流推送到 Loki。Promtail 代理专为 Loki 安装而设计，但许多其他代理与 Loki 无缝集成。

Loki特点

• 用于索引日志的高效内存使用

  通过在一组标签上建立索引，索引可以明显小于其他日志聚合产品。更少的内存使得操作成本更低。

• 多租户

  Loki 允许多个租户使用单个 Loki 实例。不同租户的数据与其他租户完全隔离。通过在代理中分配租户 ID 来配置多租户。

• LogQL，Loki 的查询语言

  Prometheus 查询语言 PromQL 的用户会发现 LogQL 熟悉且灵活，可用于生成针对日志的查询。该语言还有助于从日志数据中生成指标，这是一项远远超出日志聚合的强大功能。

• 可扩展性

  Loki 在小范围内运行良好。在单进程模式下，所有需要的微服务都在一个进程中运行。单进程模式非常适合测试 Loki、在本地运行或小规模运行。

  Loki 还旨在为大规模安装进行横向扩展。Loki 的每个微服务组件都可以分解为单独的进程，并且配置允许对组件进行单独扩展。

• 灵活性

  许多代理（客户端）都有插件支持。这允许当前的可观察性结构将 Loki 添加为他们的日志聚合工具，而无需切换可观察性堆栈的现有部分。

• Grafana 集成

  Loki 与 Grafana 无缝集成，提供完整的可观察性堆栈。

Loki / Promtail / Grafana vs EFK

EFK（Elasticsearch、Fluentd、Kibana）堆栈用于从各种来源摄取、可视化和查询日志。

Elasticsearch 中的数据作为非结构化 JSON 对象存储在磁盘上。每个对象的键和每个键的内容都被索引。然后可以使用 JSON 对象定义查询（称为查询 DSL）或通过 Lucene 查询语言查询数据。相比之下，单二进制模式的 Loki 可以将数据存储在磁盘上，但在水平可扩展模式下，数据存储在云存储系统中，例如 S3、GCS 或 Cassandra。日志以纯文本形式存储，并标有一组标签名称和值，其中仅索引标签对。这种权衡使得操作比完整索引更便宜，并允许开发人员积极地从他们的应用程序中登录。使用LogQL查询 Loki 中的日志。然而，由于这种设计权衡，基于内容（即日志行中的文本）过滤的 LogQL 查询需要加载搜索窗口中与查询中定义的标签匹配的所有块。

Fluentd 通常用于收集日志并将其转发到 Elasticsearch。Fluentd 被称为数据收集器，它可以从许多来源摄取日志，对其进行处理，并将其转发到一个或多个目标。

相比之下，Promtail 的用例是专门为 Loki 量身定制的。它的主要操作模式是发现存储在磁盘上的日志文件，并将它们与一组标签相关联地转发给 Loki。Promtail 可以为与 Promtail 运行在同一节点上的 Kubernetes pod 进行服务发现，充当容器边车或 Docker 日志驱动程序，从指定文件夹读取日志，并跟踪 systemd 日志。

Loki 通过一组标签对表示日志的方式类似于 Prometheus表示指标的方式。当与 Prometheus 一起部署在环境中时，由于使用相同的服务发现机制，Promtail 的日志通常具有与应用程序指标相同的标签。具有相同标签的日志和指标使用户能够在指标和日志之间无缝切换上下文，帮助进行根本原因分析。

Kibana 用于可视化和搜索 Elasticsearch 数据，并且在对这些数据进行分析方面非常强大。Kibana 提供了许多可视化工具来进行数据分析，例如位置图、用于异常检测的机器学习以及用于发现数据关系的图形。警报可以配置为在发生意外情况时通知用户。

相比之下，Grafana 专门针对来自 Prometheus 和 Loki 等来源的时间序列数据量身定制。仪表板可以设置为可视化指标（即将提供日志支持），并且可以使用浏览视图对您的数据进行临时查询。与 Kibana 一样，Grafana 支持根据您的指标发出警报。

架构图

收集日志的架构图

转载请在文章开头附上原文链接地址： https://www.cnblogs.com/Sunzz/p/15190702.html

介绍Loki

Promtail:日志收集工具

Loki:日志聚合系统

Grafana:可视化工具

一、部署Loki

官网地址：GitHub - grafana/loki: Like Prometheus, but for logs.

1. loki

编辑loki配置文件  loki-config.yaml

参考：https://grafana.com/docs/loki/latest/configuration/examples/

https://grafana.com/docs/loki/latest/installation/docker/

 1 ---
 2 apiVersion: v1
 3 kind: ConfigMap
 4 metadata:
 5   name: loki-config
 6   labels:
 7     name: loki
 8 data:
 9   loki-config.yaml: |-
10     auth_enabled: false
11
12     server:
13       http_listen_port: 3100
14       grpc_listen_port: 9096
15
16     ingester:
17       lifecycler:
18         address: 127.0.0.1
19         ring:
20           kvstore:
21             store: inmemory
22           replication_factor: 1
23         final_sleep: 0s
24       chunk_idle_period: 5m
25       chunk_retain_period: 30s
26
27       chunk_target_size: 1048576  # Loki will attempt to build chunks up to 1.5MB, flushing first if chunk_idle_period or max_chunk_age is reached first
28       max_transfer_retries: 0     # Chunk transfers disabled
29
30     schema_config:
31       configs:
32       - from: 2021-08-18
33         store: boltdb
34         object_store: filesystem
35         schema: v11
36         index:
37           prefix: index_
38           period: 168h
39
40     storage_config:
41       boltdb:
42         directory: /tmp/loki/index
43
44       filesystem:
45         directory: /tmp/loki/chunks
46
47     limits_config:
48       enforce_metric_name: false
49       reject_old_samples: true
50       reject_old_samples_max_age: 168h
51
52       ingestion_rate_mb: 15
53
54     chunk_store_config:
55       max_look_back_period: 0s
56
57     table_manager:
58       retention_deletes_enabled: false
59       retention_period: 0s

kubectl apply -f  loki-config.yaml

创建Service 和StatefulSet, loki,.yaml

---
apiVersion: v1
kind: Service
metadata:
  name: loki
  annotations:
    k8s.kuboard.cn/displayName: loki
    k8s.kuboard.cn/workload: loki
  labels:
    name: loki
spec:
  ports:
    - name: http
      port: 3100
      protocol: TCP
      targetPort: 3100
  selector:
    name: loki

---
apiVersion: apps/v1
kind: StatefulSet
metadata:
  name: loki
spec:
  serviceName: loki
  selector:
    matchLabels:
      name: loki
  template:
    metadata:
      labels:
        name: loki
    spec:
      volumes:
      - name: loki-config
        configMap:
          #defaultMode: 0640
          name: loki-config
      containers:
      - name: loki
        #image: grafana/loki:2.3.0
        image: grafana/loki:master
        args:
        - -config.file=/etc/loki/loki-config.yaml
        ports:
        - containerPort: 3100
          name: loki
          protocol: TCP
        volumeMounts:
        - name: loki-config
          mountPath: /etc/loki/
          readOnly: true

执行命令创建：

kubectl apply -f loki.yaml

2.grafana

根据自己时间情可对存储那块进行更改，不改的话是emptyDir,你懂的。账号密码为admin/admin123.可自行修改

apiVersion: v1
kind: Service
metadata:
  name: grafana
  labels:
    k8s-app: grafana
spec:
  type: NodePort
  ports:
  - name: http
    port: 3000
    targetPort: 3000
  selector:
    k8s-app: grafana
---
apiVersion: apps/v1
kind: Deployment
metadata:
  name: grafana
  labels:
    k8s-app: grafana
spec:
  selector:
    matchLabels:
      k8s-app: grafana
  template:
    metadata:
      labels:
        k8s-app: grafana
    spec:
     # initContainers:             ## 初始化容器，用于修改挂载的存储的文件夹归属组与归属用户
     # - name: init-file
     #   image: busybox:1.28
     #   imagePullPolicy: IfNotPresent
     #   securityContext:
     #     runAsUser: 0
     #   command: ['chown', '-R', "472:0", "/var/lib/grafana"]
     #   volumeMounts:
     #   - name: data
     #     mountPath: /var/lib/grafana
     #     subPath: grafana
      containers:
      - name: grafana             ## Grafana 容器
        #image: grafana/grafana
        image: grafana/grafana:7.4.3
        #securityContext:          ## 容器安全策略，设置运行容器使用的归属组与用户
        #  fsGroup: 0
        #  runAsUser: 472
        ports:
        - name: http
          containerPort: 3000
          protocol: TCP
        env:                      ## 配置环境变量，设置 Grafana 的默认管理员用户名/密码
        - name: GF_SECURITY_ADMIN_USER
          value: "admin"
        - name: GF_SECURITY_ADMIN_PASSWORD
          value: "admin123"
        readinessProbe:           ## 就绪探针
          failureThreshold: 10
          httpGet:
            path: /api/health
            port: 3000
            scheme: HTTP
          initialDelaySeconds: 10
          periodSeconds: 10
          successThreshold: 1
          timeoutSeconds: 30
        livenessProbe:            ## 存活探针
          failureThreshold: 10
          httpGet:
            path: /api/health
            port: 3000
            scheme: HTTP
          initialDelaySeconds: 10
          periodSeconds: 10
          successThreshold: 1
          timeoutSeconds: 1
        volumeMounts:            ## 容器挂载配置
        - name: data
          mountPath: /var/lib/grafana
          subPath: grafana
      volumes:                   ## 共享存储挂载配置
      - name: data
        emptyDir: {}
        #persistentVolumeClaim:
        #  claimName: grafana     ## 指定使用的 PVC

3.promtail

应用结合 promtail,进行日志收集。

这里使用Sidecar模式。一个pod中跑两个容器，一个为业务容器，一个为promtail，两个容器挂载同一个存储目录，promtail即可收集日志。

编辑promtail-config.yaml ，可根据不同业务设置标签。

参考： https://grafana.com/docs/loki/latest/clients/promtail/installation/

 1 ---
 2 apiVersion: v1
 3 kind: ConfigMap
 4 metadata:
 5   name: promtail-config
 6   labels:
 7     k8s-app: promtail
 8 data:
 9   promtail.yaml: |-
10     server:
11       http_listen_port: 9080
12       grpc_listen_port: 0
13
14     positions:
15       filename: ./positions.yaml # This location needs to be writeable by Promtail.
16       #filename: /tmp/positions.yaml # This location needs to be writeable by Promtail.
17
18     client:
19       url: http://loki:3100/loki/api/v1/push
20
21     scrape_configs:
22     - job_name: system
23     #- job_name: busybox
24       static_configs:
25       - targets:
26           - localhost
27         labels:
28           job: varlog    #自定义
29           host: busybox  #自定义
30           __path__: /tmp/*log   收集日志的目录

 1 ---
 2 apiVersion: apps/v1
 3 kind: Deployment
 4 metadata:
 5   name: promtail-deployment
 6 spec:
 7   replicas: 2
 8   selector:
 9     matchLabels:
10       name: promtail
11   template:
12     metadata:
13       labels:
14         name: promtail
15     spec:
16       volumes:
17       - name: log
18         emptyDir: {}
19       - name: promtail-config
20         configMap:
21           name: promtail-config
22
23       containers:
24       - name: promtail
25         image: grafana/promtail:master
26         imagePullPolicy: IfNotPresent
27         args:
28         - -config.file=/etc/promtail/promtail.yaml
29         volumeMounts:
30         - name: log
31           mountPath: /tmp/
32         - name: promtail-config
33           mountPath: /etc/promtail/
34
35       - name: busybox
36         image: centos:7
37         imagePullPolicy: IfNotPresent
38         args:
39         - /bin/sh
40         - -c
41         - "while : ; do echo '--- promtail log test ---' `date` && echo '--- promtail log test ---' `date` >> /tmp/healthy.log && sleep 3 ; done "
42         volumeMounts:
43         - name: log
44           mountPath: /tmp/

二、配置grafana并查看日志

查看grafana的nodeport端口

kubectl get svc

浏览器输入Node IP  + 上边看到的port 打开grafana页面

输入账号密码进行登陆  admin  admin123

配置数据源

找到loki,然后url处写上loki的service name和端口号，即就是 http://locki:3100。 然后点击页面低下 "Save && test " 按钮

查看日志：

选择host 或者job来看不同业务的日志

即可看到日志内容

转载请在文章开头附上原文链接地址： https://www.cnblogs.com/Sunzz/p/15190702.html

至此,Loki+Promtail+Grafana收集日志方案收工。