当前位置: 首页 > news >正文

kakfa文件清理策略方法和种类

好的,我们来详细说明 Kafka 的文件清理策略方法和种类。

Kafka 作为分布式消息队列,其核心存储结构是日志片段(Log Segments)。随着消息的不断写入,磁盘空间会逐渐被占用。为了管理磁盘空间并防止其耗尽,Kafka 提供了两种主要的日志清理策略:

Kafka 中默认的日志(这个地方是数据的意思,就是Segment)保存时间为 7 天,可以通过调整如下参数修改保存时间。

log.retention.hours,最低优先级小时,默认 7 天。

log.retention.minutes,分钟。 --如果设置了该值,小时的设置不起作用。

log.retention.ms,最高优先级毫秒。 --如果设置了该值,分钟的设置不起作用。

1. 基于时间的清理策略 (log.retention.hours,log.retention.minutes,log.retention.ms)

  • 原理:这是 Kafka 默认的清理策略。它根据消息在日志中保留的时间长度来决定是否删除。Kafka 会定期(默认为每 5 分钟)扫描日志的每个片段(Log Segment)。
  • 删除条件:对于一个日志片段,Kafka 会检查该片段中最后一条消息的时间戳(通常是消息的发布时间戳)。
    • 如果该时间戳距离当前时间已经超过了配置的保留时间(例如,log.retention.hours=168表示保留 7 天),那么该日志片段就会被标记为可删除。
  • 删除粒度:清理是以整个日志片段为单位进行的。Kafka 不会删除片段内部的部分消息。只有当整个片段中所有消息的“最老”时间(即片段最后一条消息的时间戳)都过期时,整
http://www.rkmt.cn/news/97874.html

相关文章:

  • springboot学生心理咨询评估系统(11484)
  • NVIDIA NeMo和NIM是用于开发和部署大模型
  • 红黑树:比AVL更“聪明”的平衡树,拆解那些反直觉的核心难点
  • Let‘s Encrypt免费证书与HTTPS配置完全指南
  • 2025年年终中国检验检测机构推荐:基于权威资质与多领域服务能力的10家高可靠性机构盘点 - 十大品牌推荐
  • Linux性能监控工具全家桶一文掌握系统状态
  • Wan2.1-I2V图生视频模型完整教程:从零开始掌握动态内容生成
  • 由AI驱动的3D机器人感知与地图构建技术栈
  • deepseek进入死循环了
  • Django 标准缓存cache 模块API
  • NVIDIA Llama Nemotro 推理模型构建企业级 AI 智能体
  • BERT模型训练全流程解析:从数据加载到模型保存
  • OpenFeign 声明式客户端的动态代理与 LoadBalancer 负载均衡策略
  • Tiled地图渲染引擎深度解析:从架构设计到性能优化的完整指南
  • OpenCode正则搜索:让代码大海捞针变得轻而易举
  • 打卡信奥刷题(2535)用C++实现信奥 P2041 分裂游戏
  • canvas基础与乾坤
  • NPM 包发布完整实战方案
  • Django 中使用django-redis库与Redis交互API指南
  • 2025年年终品牌证明公司推荐:从涉外调查到ESG审验,涵盖核心资质的5家标杆机构盘点 - 十大品牌推荐
  • 突破性音频AI技术:Step-Audio 2系列重塑智能语音交互新范式
  • Step-Audio 2:重新定义人机语音交互的技术革命
  • 68、《系统调试相关命令与错误代码解析》
  • 15、加密算法实现与应用
  • 目标检测与图像分割的5个核心技巧:从零基础到实战高手
  • 16、密码学与网络服务编程实践
  • Armbian音频配置终极指南:从静音到专业级声音体验
  • 17、网络编程与服务应用实战
  • PixiEditor MVVM架构深度解析:构建可维护的跨平台像素艺术编辑器
  • 3倍效率提升:Heroicons图标检索与使用终极指南