详解kafka配置文件server.properties

server.properties 是 Kafka 的主要配置文件,下面简单介绍其中的相关配置项的含义。必须修改的配置项就是 log.dirs ,其他配置可以根据需求自行修改。

# 每一个Broker在集群中的唯标识。即使Broker的IP地址发生了变化,broker.id只要没变,则不会影响consumers的消息情况
broker.id=0
# 是否允许Topic被删除。如果是false,使用管理员工具删除Topic的时候,Kafka 并不会处理此操作
delete.topic.enable=true

# Kafka服务端是否可以根据请求自动创建Topic,默认是true。如果打开此选项,下面三种请求会触发Topic自动创建:
# ①Producer向某个不存在的Topic写人消息
# ②Consumer从某个不存在的Topic读取消息
# ③Consumer从某个不存在的Topic 读取消息
# 建议将此选项设置为false,并在使用Topic之前手动创建
auto.create.topics.enable=false

##########服务端网络相关的配置#########
# Kafka Server使用的协议、主机名以及端口的格式如下:
# listeners=security_protocol://host_name:port
# 参考示例:
  listeners=PLAINTEXT://your.host.name:9092
  listeners=PLAINTEXT://:9092 # 这是默认配置,使用PLAINTEXT,端口是9092
# 接收请求的线程数
num.network.threads=3
# 执行请求的线程数
num.io.threads=8
# 在介绍下面两个缓冲区设置之前,先来介绍下相关肯景知识:
# 每个TCP socket在内核中都有一个发送缓冲区(SO_SNDBUE)和一个接收缓冲区(SO_ RCVBUF)。接收缓冲区把数据缓存入内
# 核,应用进程一直没有调用read进行读取的话,此数据会一直缓存在相应socket的接收缓冲区内。需要注意,不管进程是否读取
# socket,对端发来的数据都会经由内核接收并且缓存到socket的内核接收缓冲区之中。read所做的工作,就是把内核缓冲区中
# 的数据复制到应用层用户的buffer里面,仅此而已。进程调用send发送的数据的时候,一般情况下,将数据复制进人socket的
# 内核发送缓冲区之中,然后send便会在上层返回。换句话说,send返回之时,数据不一定会发送到对端去,send仅仅是把应用
# buffer的数据复制进socket的内核发送buffer中

# TCP连接的SO_SNDBUP缓冲区大小,默认102400,单位是字节,如果是-1,就使用操作系统的默认值
socket.send.buffer.bytes=102400
# TCP连接的SO_RCVBUE缓冲区大小,默认102400,单位是字节,如果是-1,就使用操作系统的默认值
socket.receive.buffer.bytes=102400
# 请求的最大长度
socket.request.max.bytes=104857600
# 用于存储1og文件的目录,可以将多个目录通过逗号分隔,形成一个目录列表
log.dirs=/tmp/kafka-logs
# 每个Topic默认的partition数量,默认值是1
num.partitions=1
# 用来恢复log文件以及关闭时将log数据刷新到磁盘的线程数量,每个目录对应num.recovery.threads.per.data.dir个线程
num.recovery.threads.per.data.dir=1
# 每隔多少个消息触发次flush操作,将内存中的消息刷新到硬盘上
log.flush.interval.messages=10000
# 每隔多少毫秒触发一次flush操作,将内存中的消息刷新到硬盘上
log.flush.interval.ms=1000
# 上面这两个配置是全局的,可以在Topic中重新设置,并覆盖这两个配置

# 注意:下面有两种配置,一种是基于时间的策略,另一种是基于日志文件大小的策略,两种策略同是配置的话,
# 只要满足其中种策略,则触发Log删除的操作。删除操作总是先删除最旧的日志
# 消息在Kafka中保存的时间,168小时之前的1og, 可以被删除掉
log.retention.hours=168
# 当剩余空间低于log.retention.bytes字节,则开始删除1og
log.retention.bytes=1073741824
# segment日志文件大小的上限值。当超过这个值时,会创建新的segment日志文件,segment文件的相关信息在后面介绍
log.segment.bytes=1073741824
# 每隔300000ms, logcleaner线程将检查一次,看是否符合上述保留策略的消息可以被删除
log.retention.check.interval.ms=300000

# Kafka依赖的ZooKeeper集群地址,可以配置多个ZooKeeper地址,使用选号隔开
zookeeper.connect=localhost:2181

# ZooKeeper连接的超时时间
zookeeper.connection.timeout.ms=6000

点击量:59

发表评论