轻量化收集日志

背景

最近在进行一个项目开发,需要收集日志和埋点数据,核心需求是实现轻量化收集

在常规项目中,埋点或日志数据通常会发送到生产环境的Kafka节点,但Kafka作为Java服务,资源消耗较大

解决方案

  1. 开发人员修改服务,将日志写入本地文件
  2. 运维人员部署Filebeat,将日志发送到Redis
  3. 使用VectorRedis消费数据并入库

这样在生产端只需要运行FilebeatRedis,大大降低了资源消耗

实现细节

详细实现方案请参考这里