大数据常用命令-Kafka

发布于:2024-05-12 ⋅ 阅读:(169) ⋅ 点赞:(0)

Kafka

启动集群

  • 先启动 Zookeeper 集群,然后启动 Kafka

  • 依次在各节点上启动 Kafka

    kafka-server-start.sh -daemon $KAFKA_HOME/config/server.properties
    

关闭集群

  • 依次在各节点上关闭 Kafka

    kafka-server-stop.sh
    
  • 待 kafka 关闭完成后,按需关闭 Zookeeper 集群

主题命令行操作

  • 查看操作主题命令参数

    kafka-topics.sh
    
    参数 描述
    –bootstrap-server <String: server toconnect to> 连接的Kafka Broker主机名称和端口号。
    –topic <String: topic> 操作的topic名称。
    –create 创建主题。
    –delete 删除主题。
    –alter 修改主题。
    –list 查看所有主题。
    –describe 查看主题详细描述。
    –partitions <Integer: # of partitions> 设置分区数。
    –replication-factor<Integer: replication factor> 设置分区副本。
    –config <String: name=value> 更新系统默认的配置。
  • 查看当前服务器中的多有 topic

    kafka-topics.sh --bootstrap-server $hostname/$ip:9092 --list
    
  • 创建 topic

    kafka-topics.sh --bootstrap-server $hostname/$ip:9092 --create --partitions $pnum --replication-factor $repnum --topic $topicname
    

    选项说明:

    –topic 定义topic名

    –replication-factor 定义副本数

    –partitions 定义分区数

  • 查看主题的详情

    kafka-topics.sh --bootstrap-server $hostname/$ip:9092 --describe --topic $topicname
    
  • 修改分区数(注意:分区数只能增加,不能减少)

    kafka-topics.sh --bootstrap-server $hostname/$ip:9092 --alter --topic $topicname --partitions $newpnum
    
  • 删除 topic

    kafka-topics.sh --bootstrap-server $hostname/$ip:9092 --delete --topic $topicname
    

生产者命令行操作

  • 查看操作生产者命令参数

    kafka-console-producer.sh
    
    参数 描述
    –bootstrap-server <String: server toconnect to> 连接的Kafka Broker主机名称和端口号。
    –topic <String: topic> 操作的topic名称。
  • 发送消息

    kafka-console-producer.sh --bootstrap-server $hostname/$ip:9092 --topic $topicname
    >
    >
    

消费者命令行操作

  • 查看操作消费者命令参数

    kafka-console-consumer.sh
    
    参数 描述
    –bootstrap-server <String: server toconnect to> 连接的Kafka Broker主机名称和端口号。
    –topic <String: topic> 操作的topic名称。
    –from-beginning 从头开始消费。
    –group <String: consumer group id> 指定消费者组名称。
  • 消费某一主题中的数据

    kafka-console-consumer.sh --bootstrap-server $hostname/$ip:9092 --topic $topicname
    
  • 把主题中所有的数据都读取出来(包括历史数据)

    kafka-console-consumer.sh --bootstrap-server $hostname/$ip:9092 --from-beginning --topic $topicname
    

网站公告

今日签到

点亮在社区的每一天
去签到