Перейти к основному содержимому
Перейти к основному содержимому

system.kafka_consumers

Запросы в ClickHouse Cloud

Данные в этой системной таблице хранятся локально на каждом узле в ClickHouse Cloud. Для получения полного представления о всех данных требуется функция clusterAllReplicas. Смотрите здесь для получения дополнительной информации.

Содержит информацию о потребителях Kafka.
Применимо для Kafka table engine (нативная интеграция ClickHouse)

Столбцы:

  • database (String) - база данных таблицы с Kafka Engine.
  • table (String) - имя таблицы с Kafka Engine.
  • consumer_id (String) - идентификатор потребителя Kafka. Обратите внимание, что у одной таблицы может быть несколько потребителей. Указывается параметром kafka_num_consumers.
  • assignments.topic (Array(String)) - топик Kafka.
  • assignments.partition_id (Array(Int32)) - идентификатор партиции Kafka. Обратите внимание, что только один потребитель может быть назначен на партицию.
  • assignments.current_offset (Array(Int64)) - текущий смещение.
  • exceptions.time, (Array(DateTime)) - метка времени, когда были сгенерированы 10 последних исключений.
  • exceptions.text, (Array(String)) - текст 10 последних исключений.
  • last_poll_time, (DateTime) - метка времени последнего опроса.
  • num_messages_read, (UInt64) - количество сообщений, прочитанных потребителем.
  • last_commit_time, (DateTime) - метка времени последнего коммита.
  • num_commits, (UInt64) - общее количество коммитов для потребителя.
  • last_rebalance_time, (DateTime) - метка времени последней перебалансировки Kafka.
  • num_rebalance_revocations, (UInt64) - количество раз, когда потребителю были отозваны его партиции.
  • num_rebalance_assignments, (UInt64) - количество раз, когда потребитель был назначен в кластер Kafka.
  • is_currently_used, (UInt8) - потребитель используется.
  • last_used, (UInt64) - последний раз, когда этот потребитель использовался, unix-время в микросекундах.
  • rdkafka_stat (String) - внутренняя статистика библиотеки. См. https://github.com/ClickHouse/librdkafka/blob/master/STATISTICS.md . Установите statistics_interval_ms в 0, чтобы отключить, по умолчанию 3000 (раз в три секунды).

Пример:

SELECT *
FROM system.kafka_consumers
FORMAT Vertical
Row 1:
──────
database:                   test
table:                      kafka
consumer_id:                ClickHouse-instance-test-kafka-1caddc7f-f917-4bb1-ac55-e28bd103a4a0
assignments.topic:          ['system_kafka_cons']
assignments.partition_id:   [0]
assignments.current_offset: [18446744073709550615]
exceptions.time:            []
exceptions.text:            []
last_poll_time:             2006-11-09 18:47:47
num_messages_read:          4
last_commit_time:           2006-11-10 04:39:40
num_commits:                1
last_rebalance_time:        1970-01-01 00:00:00
num_rebalance_revocations:  0
num_rebalance_assignments:  1
is_currently_used:          1
rdkafka_stat:               {...}