kafka 연결 오류에 대한 kafka-streams 경고

리 오르 베이버

kafka-streams 앱이 실행 중이고 Kafka가 갑자기 다운되면 앱이 "대기"모드로 들어가고 경고 로그를 보내는 소비자와 생산자 스레드는 연결할 수 없으며 Kafka가 돌아 오면 모든 것이 (이론적으로) 이동해야합니다. 정상으로 돌아갑니다. 이 상황에 대한 경고를 받으려고하는데이를 포착하고 로그 / 메트릭을 보낼 위치를 찾을 수 없습니다. 다음을 시도했습니다.

  1. streams.setUncaughtExceptionHandler 그러나 이것은 여기에 해당되지 않는 예외에서만 발생합니다.
  2. 이 인터페이스를 확장하는 내 클래스로 속성을 확장 ProductionExceptionHandler하고 변경 default.production.exception.handler합니다. 다시 말하지만 setUncaughtExceptionHandler여기에 예외가 발생하지 않으므로 실제로 아무 일도 일어나지 않습니다.

Kafka에는 브로커가 다운되었는지 듣고 확인할 수있는 자체 메트릭이 있습니다. 그러나 Kafka 브로커가 정상이고 내 kafka-streams 앱이 연결할 수없는 상황이있을 수 있습니다 (예 : 잘못된 인증 구성 또는 vpn / vpc 문제).

이러한 문제를 파악하고 기록 /보고하려면 어떻게해야합니까?

최신 정보

kafka를 사용할 수없는 경우 소비자 / 생산자 로그를 참조하십시오.

2020-08-24 21:41:32,055 [my-kafka-streams-app-23a462fe-28c6-415a-a08a-b11d3ffffc2e-StreamThread-1] WARN  o.apache.kafka.clients.NetworkClient - [] [Consumer clientId=my-kafka-streams-app-23a462fe-28c6-415a-a08a-b11d3ffffc2e-StreamThread-1-consumer, groupId=my-kafka-streams-app] Bootstrap broker localhost:9092 (id: -1 rack: null) disconnected
2020-08-24 21:41:32,186 [kafka-admin-client-thread | my-kafka-streams-app-23a462fe-28c6-415a-a08a-b11d3ffffc2e-admin] WARN  o.apache.kafka.clients.NetworkClient - [] [AdminClient clientId=my-kafka-streams-app-23a462fe-28c6-415a-a08a-b11d3ffffc2e-admin] Connection to node -1 (localhost/127.0.0.1:9092) could not be established. Broker may not be available.
2020-08-24 21:41:32,250 [kafka-producer-network-thread | my-kafka-streams-app-23a462fe-28c6-415a-a08a-b11d3ffffc2e-StreamThread-1-producer] WARN  o.apache.kafka.clients.NetworkClient - [] [Producer clientId=my-kafka-streams-app-23a462fe-28c6-415a-a08a-b11d3ffffc2e-StreamThread-1-producer] Connection to node -1 (localhost/127.0.0.1:9092) could not be established. Broker may not be available.
 
Matthias J. Sax

이 경우는 프로그래밍 방식으로 감지하기가 쉽지 않습니다. 문제는 클라이언트가 Kafka Streams에 자신의 상태를 실제로 노출하지 않기 때문에 Kafka Streams는 연결 해제에 대해 실제로 알지 못한다는 것입니다. DISCONNECT상태 추가를 제안하는 KIP가 있지만 구현하기가 쉽지 않습니다 ( https://cwiki.apache.org/confluence/display/KAFKA/KIP-457%3A+Add+DISCONNECTED+status+to+Kafka+ 참조). 스트림 ).

언급 한 예외 핸들러는 예외가 발생하지 않기 때문에이 상황에 도움이되지 않습니다 (적어도 Kafka Streams 코드베이스 내에서는 아님).

시도 할 수있는 것은 소비자 지연 또는 일부 Kafka Streams 메트릭 (예 : 처리 속도)을 모니터링하는 것입니다. 충분한 프록시를 제공 할 수 있습니다. CF https://docs.confluent.io/current/streams/monitoring.html

이 기사는 인터넷에서 수집됩니다. 재 인쇄 할 때 출처를 알려주십시오.

침해가 발생한 경우 연락 주시기 바랍니다[email protected] 삭제

에서 수정
0

몇 마디 만하겠습니다

0리뷰
로그인참여 후 검토

관련 기사

분류에서Dev

kafka 브로커에 연결하려고 할 때 java.nio.BufferUnderflowException

분류에서Dev

Apache Kafka에 대한 설명

분류에서Dev

Kafka에 연결된 Spring Cloud Stream을 사용하여 동일한 주제에 대한 여러 StreamListeners

분류에서Dev

kafka 그룹에서 연결 제거

분류에서Dev

Spring Cloud Stream Kafka Streams Binder 3.x : 여러 출력 바인딩의 경우 두 번째 출력 주제에 대한 출력 없음

분류에서Dev

Kafka Streams 앱 중지

분류에서Dev

Kafka Streams KGroupedTable 복구

분류에서Dev

Kafka Streams에는 처리에 걸리는 시간에 대한 제한 시간이 있습니까?

분류에서Dev

Kafka Streams : 구두점 함수에서 생성 된 메시지에 대한 정확히 한 번 의미 체계

분류에서Dev

Debezium Kafka 커넥터 mongodb : kafka 커넥터를 mongodb에 연결하는 동안 오류가 발생했습니다.

분류에서Dev

Kafka를 사용하여 Azure Eventhub에 대한 pyspark 연결 문자열을 포맷하는 방법

분류에서Dev

FTP : 연결 : 호스트에 대한 경로 없음 오류

분류에서Dev

Kafka Streams 앱에서 Scala Jar 파일이 제대로 작동하지 않음

분류에서Dev

flume을 사용하여 kafka 채널에 데이터를 읽고 쓰기위한 Kafka 소스 대 Avro 소스

분류에서Dev

Kafka Streams kafka 헤더를 얻는 방법

분류에서Dev

Kafka 커넥터-Kafka 주제에 대한 JMSSourceConnector

분류에서Dev

mongo kafka 연결 소스

분류에서Dev

Apache Ignite Kafka 연결 문제

분류에서Dev

NoClassDefFoundError : Storm jar에 대한 kafka / api / OffsetRequest

분류에서Dev

Spring Kafka에 대한 authorizationExceptionRetryInterval 설정

분류에서Dev

kafka-rest에 대한 CURL 요청

분류에서Dev

Permanent Kafka Streams/KSQL retention policy

분류에서Dev

Kafka streams suppress does not return any values

분류에서Dev

Kafka Streams : RocksDb 동적 구성

분류에서Dev

Kafka Streams 내부 주제의 복제 요소를 변경하면 kafka 스트림에 영향을 줍니까? 스트리밍이 오류 상태에 있습니까?

분류에서Dev

스파크 스트리밍 Kafka 통합에 대한 sbt 미해결 종속성

분류에서Dev

Kafka Streams-예측할 수없는 집계 결과

분류에서Dev

9092 (ID : 0 랙 : NULL) (org.apache.kafka.clients.NetworkClient) java.net.UnknownHostException ubuntukafka 노드에 연결 카프카 오류 :

분류에서Dev

소켓 연결을 닫고 다시 연결을 시도, 서버 널 (null), 예기치 않은 오류에 대한 세션이 0x0 경고

Related 관련 기사

  1. 1

    kafka 브로커에 연결하려고 할 때 java.nio.BufferUnderflowException

  2. 2

    Apache Kafka에 대한 설명

  3. 3

    Kafka에 연결된 Spring Cloud Stream을 사용하여 동일한 주제에 대한 여러 StreamListeners

  4. 4

    kafka 그룹에서 연결 제거

  5. 5

    Spring Cloud Stream Kafka Streams Binder 3.x : 여러 출력 바인딩의 경우 두 번째 출력 주제에 대한 출력 없음

  6. 6

    Kafka Streams 앱 중지

  7. 7

    Kafka Streams KGroupedTable 복구

  8. 8

    Kafka Streams에는 처리에 걸리는 시간에 대한 제한 시간이 있습니까?

  9. 9

    Kafka Streams : 구두점 함수에서 생성 된 메시지에 대한 정확히 한 번 의미 체계

  10. 10

    Debezium Kafka 커넥터 mongodb : kafka 커넥터를 mongodb에 연결하는 동안 오류가 발생했습니다.

  11. 11

    Kafka를 사용하여 Azure Eventhub에 대한 pyspark 연결 문자열을 포맷하는 방법

  12. 12

    FTP : 연결 : 호스트에 대한 경로 없음 오류

  13. 13

    Kafka Streams 앱에서 Scala Jar 파일이 제대로 작동하지 않음

  14. 14

    flume을 사용하여 kafka 채널에 데이터를 읽고 쓰기위한 Kafka 소스 대 Avro 소스

  15. 15

    Kafka Streams kafka 헤더를 얻는 방법

  16. 16

    Kafka 커넥터-Kafka 주제에 대한 JMSSourceConnector

  17. 17

    mongo kafka 연결 소스

  18. 18

    Apache Ignite Kafka 연결 문제

  19. 19

    NoClassDefFoundError : Storm jar에 대한 kafka / api / OffsetRequest

  20. 20

    Spring Kafka에 대한 authorizationExceptionRetryInterval 설정

  21. 21

    kafka-rest에 대한 CURL 요청

  22. 22

    Permanent Kafka Streams/KSQL retention policy

  23. 23

    Kafka streams suppress does not return any values

  24. 24

    Kafka Streams : RocksDb 동적 구성

  25. 25

    Kafka Streams 내부 주제의 복제 요소를 변경하면 kafka 스트림에 영향을 줍니까? 스트리밍이 오류 상태에 있습니까?

  26. 26

    스파크 스트리밍 Kafka 통합에 대한 sbt 미해결 종속성

  27. 27

    Kafka Streams-예측할 수없는 집계 결과

  28. 28

    9092 (ID : 0 랙 : NULL) (org.apache.kafka.clients.NetworkClient) java.net.UnknownHostException ubuntukafka 노드에 연결 카프카 오류 :

  29. 29

    소켓 연결을 닫고 다시 연결을 시도, 서버 널 (null), 예기치 않은 오류에 대한 세션이 0x0 경고

뜨겁다태그

보관