Kafka Connect-오프셋 및 플러시를 커밋하지 못했습니다.

AnonymousAlias

Kafka 커넥터가 일시 중지되었고 다시 시작할 때 로그에 이러한 오류가 발생했습니다.

[2020-02-19 19:36:00,219] ERROR WorkerSourceTask{id=wem-postgres-source-0} Failed to commit offsets (org.apache.kafka.connect.runtime.SourceTaskOffsetCommitter)
************
************
[2020-02-19 19:36:00,216] ERROR WorkerSourceTask{id=wem-postgres-source-0} Failed to flush, timed out while waiting for producer to flush outstanding 2389 messages (org.apache.kafka.connect.runtime.WorkerSourceTask)

미해결 메시지 수가 변경되어이 오류가 여러 번 발생했습니다. 그런 다음 멈 췄고 다시 보지 못했습니다.

여기에서 조치를 취해야합니까? 아니면 Connect가 오프셋을 재 시도하고 커밋했으며 이것이 오류가 중지 된 이유입니까?

감사

조르고 스 Myrianthous

이 오류는 버퍼링 된 메시지가 많고 시간 초과에 도달하기 전에 플러시 할 수 없음을 나타냅니다. 이 문제를 해결하려면

  • offset.flush.timeout.msKafka Connect 작업자 구성에서 구성 매개 변수를 늘리거나
  • 또는 producer.buffer.memoryKafka Connect 작업자 구성을 줄여서 버퍼링되는 데이터의 양을 줄일 수 있습니다 . 이것은 상당히 큰 메시지가있을 때 최상의 옵션이됩니다.

이 기사는 인터넷에서 수집됩니다. 재 인쇄 할 때 출처를 알려주십시오.

침해가 발생한 경우 연락 주시기 바랍니다[email protected] 삭제

에서 수정
0

몇 마디 만하겠습니다

0리뷰
로그인참여 후 검토

관련 기사

분류에서Dev

Kafka 스트림은 오프셋 의미를 커밋합니다.

분류에서Dev

--max-messages를 사용할 때 Kafka 콘솔 소비자가 잘못된 오프셋을 커밋합니다.

분류에서Dev

Kafka Connect SinkTask를 확장하고 주어진 오프셋에서 소비 시작

분류에서Dev

KStreams-org.apache.kafka.common.errors.TimeoutException : 오프셋을 성공적으로 커밋하기 전에 60000ms의 시간 초과가 만료되었습니다.

분류에서Dev

Kafka Connect : 독립 실행 형 모드에서 "Connect.offsets"를 읽고 마지막으로 처리 된 오프셋을 가져옵니다.

분류에서Dev

더 작은 오프셋 커밋을 방지하기위한 Kafka 소비자 오프셋 커밋 확인

분류에서Dev

Kafka 연결 소비자 참조 오프셋 및 메시지에 저장

분류에서Dev

Kafka Connect Standalone : ConnectException : 커넥터를 구현하는 클래스와 ElasticsearchSinkConnector와 일치하는 이름을 찾지 못했습니다.

분류에서Dev

StreamBridge를 사용하여 kafka 메시지가 처리되는 파티션 및 오프셋 번호 가져 오기

분류에서Dev

Kafka 소비자가 오프셋 커밋 후 모든 메시지를 읽을 수 없음 (오류 = OFFSET_OUT_OF_RANGE

분류에서Dev

kafka + 시작 오프셋이 이전 마지막 오프셋보다 훨씬 더 높을 수있는 방법

분류에서Dev

kafka는 소비 된 오프셋과 커밋 된 오프셋을 구별합니까?

분류에서Dev

이전 마커 및 마커 정보를 제거하지 못했습니다.

분류에서Dev

오프셋 0의 파티션 0에서 메시지를 찾을 수 없습니다. Kafka kafdrop

분류에서Dev

Gitkraken은 분기 및 커밋을 표시하지 않습니다.

분류에서Dev

오프셋을 로컬로 저장하기 위해 Spring Kafka에서 오프셋 커밋을 비활성화하는 방법은 무엇입니까?

분류에서Dev

Manjaro Linux 오류 : 루트 및 커널 파일 시스템 다시 마운트를 시작하지 못했습니다.

분류에서Dev

Rdkafka는 메시지 처리 후 오프셋을 자동 커밋합니까?

분류에서Dev

Kafka REST 프록시를 사용하여 Avro 메시지를 게시하면 "JSON을 Avro로 변환하지 못했습니다."가 발생합니다.

분류에서Dev

SciPy 0.12.0 및 Numpy 1.6.1-numpy.core.multiarray를 가져 오지 못했습니다.

분류에서Dev

gpg는 데이터에 서명하지 못했습니다. 커밋 개체를 쓰지 못했습니다.

분류에서Dev

Nginx "고성능 웹 서버 및 리버스 프록시 서버를 시작하지 못했습니다."

분류에서Dev

Spring kafka-kafka 소비자를 구성하지 못했습니다.

분류에서Dev

Kafka connect docker image-Connector를 구현하는 클래스와 ElasticsearchSinkConnector와 일치하는 이름을 찾지 못했습니다.

분류에서Dev

Azure DataLakeServiceClient Python-추가하는 방법, 오프셋 및 플러시 길이를 설정하는 방법?

분류에서Dev

Manjaro가 루트 및 커널 파일 시스템 다시 마운트를 시작하지 못했습니다.

분류에서Dev

Django-오프셋 순진 및 오프셋 인식 날짜 시간을 비교할 수 없거나 결과가 나타나지 않습니다.

분류에서Dev

Kafka에서 두 오프셋 사이에서 kafka 소비자를 재생하는 방법은 무엇입니까?

분류에서Dev

이 오류를 해결하는 방법 : (경고 : 잘못된 문자열 오프셋) 및 (주의 : 초기화되지 않은 문자열 오프셋 : 0)

Related 관련 기사

  1. 1

    Kafka 스트림은 오프셋 의미를 커밋합니다.

  2. 2

    --max-messages를 사용할 때 Kafka 콘솔 소비자가 잘못된 오프셋을 커밋합니다.

  3. 3

    Kafka Connect SinkTask를 확장하고 주어진 오프셋에서 소비 시작

  4. 4

    KStreams-org.apache.kafka.common.errors.TimeoutException : 오프셋을 성공적으로 커밋하기 전에 60000ms의 시간 초과가 만료되었습니다.

  5. 5

    Kafka Connect : 독립 실행 형 모드에서 "Connect.offsets"를 읽고 마지막으로 처리 된 오프셋을 가져옵니다.

  6. 6

    더 작은 오프셋 커밋을 방지하기위한 Kafka 소비자 오프셋 커밋 확인

  7. 7

    Kafka 연결 소비자 참조 오프셋 및 메시지에 저장

  8. 8

    Kafka Connect Standalone : ConnectException : 커넥터를 구현하는 클래스와 ElasticsearchSinkConnector와 일치하는 이름을 찾지 못했습니다.

  9. 9

    StreamBridge를 사용하여 kafka 메시지가 처리되는 파티션 및 오프셋 번호 가져 오기

  10. 10

    Kafka 소비자가 오프셋 커밋 후 모든 메시지를 읽을 수 없음 (오류 = OFFSET_OUT_OF_RANGE

  11. 11

    kafka + 시작 오프셋이 이전 마지막 오프셋보다 훨씬 더 높을 수있는 방법

  12. 12

    kafka는 소비 된 오프셋과 커밋 된 오프셋을 구별합니까?

  13. 13

    이전 마커 및 마커 정보를 제거하지 못했습니다.

  14. 14

    오프셋 0의 파티션 0에서 메시지를 찾을 수 없습니다. Kafka kafdrop

  15. 15

    Gitkraken은 분기 및 커밋을 표시하지 않습니다.

  16. 16

    오프셋을 로컬로 저장하기 위해 Spring Kafka에서 오프셋 커밋을 비활성화하는 방법은 무엇입니까?

  17. 17

    Manjaro Linux 오류 : 루트 및 커널 파일 시스템 다시 마운트를 시작하지 못했습니다.

  18. 18

    Rdkafka는 메시지 처리 후 오프셋을 자동 커밋합니까?

  19. 19

    Kafka REST 프록시를 사용하여 Avro 메시지를 게시하면 "JSON을 Avro로 변환하지 못했습니다."가 발생합니다.

  20. 20

    SciPy 0.12.0 및 Numpy 1.6.1-numpy.core.multiarray를 가져 오지 못했습니다.

  21. 21

    gpg는 데이터에 서명하지 못했습니다. 커밋 개체를 쓰지 못했습니다.

  22. 22

    Nginx "고성능 웹 서버 및 리버스 프록시 서버를 시작하지 못했습니다."

  23. 23

    Spring kafka-kafka 소비자를 구성하지 못했습니다.

  24. 24

    Kafka connect docker image-Connector를 구현하는 클래스와 ElasticsearchSinkConnector와 일치하는 이름을 찾지 못했습니다.

  25. 25

    Azure DataLakeServiceClient Python-추가하는 방법, 오프셋 및 플러시 길이를 설정하는 방법?

  26. 26

    Manjaro가 루트 및 커널 파일 시스템 다시 마운트를 시작하지 못했습니다.

  27. 27

    Django-오프셋 순진 및 오프셋 인식 날짜 시간을 비교할 수 없거나 결과가 나타나지 않습니다.

  28. 28

    Kafka에서 두 오프셋 사이에서 kafka 소비자를 재생하는 방법은 무엇입니까?

  29. 29

    이 오류를 해결하는 방법 : (경고 : 잘못된 문자열 오프셋) 및 (주의 : 초기화되지 않은 문자열 오프셋 : 0)

뜨겁다태그

보관