Kafka:コンシューマーAPIとStreams API

SRネイサン:

私は最近カフカを学び始め、これらの質問に終わりました。

  1. コンシューマーとストリームの違いは何ですか?私にとって、ツール/アプリケーションがカフカからのメッセージを消費する場合、カフカの世界の消費者です。

  2. これはKafkaからのメッセージを消費または生成するため、Streamはどのように異なりますか?また、コンシューマーAPIを使用して独自のコンシューマーアプリケーションを作成し、必要に応じて処理したり、コンシューマーアプリケーションからSparkに送信したりする必要があるのはなぜですか。

私はこれについてグーグルをやったが、これに対する良い答えは得られなかった。この質問が些細すぎる場合は申し訳ありません。

マイケルG.ノール:

2018年4月9日の更新:最近では、KafkaのイベントストリーミングデータベースであるksqlDBを使用して、Kafkaでデータを処理することもできます。ksqlDBはKafkaのStreams APIの上に構築されており、「ストリーム」と「テーブル」のファーストクラスのサポートが付属しています。

コンシューマーAPIとストリームAPIの違いは何ですか?

KafkaのStreams API(https://kafka.apache.org/documentation/streams/)は、Kafkaのプロデューサーおよびコンシューマークライアントの上に構築されています。Kafkaコンシューマークライアントよりもはるかに強力で、より表現力があります。Kafka Streams APIの機能の一部を以下に示します。

  • 1回限りの処理セマンティクスをサポート(Kafkaバージョン0.11+)
  • ストリーミング結合集約ウィンドウ処理など、フォールトトレラントなステートフル(もちろんステートレス)処理をサポートしますつまり、アプリケーションの処理状態の管理をすぐに使用できるようにします。
  • イベント時間処理、および処理時間取り込み時間に基づく処理サポート
  • ストリームとテーブルの両方に対するファーストクラスのサポートがあり、ストリーム処理がデータベースと出会う場所です。実際には、ほとんどのストリーム処理アプリケーションは、それぞれのユースケースを実装するためにストリームとテーブルの両方を必要とするため、ストリーム処理テクノロジーに2つの抽象化のいずれか(たとえば、テーブルのサポートがない)がない場合、スタックするか、この機能を手動で実装する必要があります(幸運を祈ります...)
  • インタラクティブクエリ(「クエリ可能な状態」とも呼ばれます)をサポートして、最新の処理結果を他のアプリケーションやサービスに公開します
  • より表現ですが付属しています(1)関数型プログラミングスタイルのDSLのような操作でmapfilterreduceだけでなく、(2)が不可欠スタイルプロセッサのAPIなどが複合イベント処理(CEP)を行うため、および(3)あなたも組み合わせることができますDSLとプロセッサAPI。

下位レベルのKafkaコンシューマーとの違いを理解するのにも役立つはずの、Kafka Streams APIのより詳細な概要については、http://docs.confluent.io/current/streams/introduction.html参照してください。クライアント。ありますカフカのストリームAPI用ドッカーベースのチュートリアル私はについてブログ今週初めには。

では、Kafka Streams APIは、Kafkaからのメッセージを生成したり、Kafkaへのメッセージを生成したりするので、どう違うのですか?

はい、Kafka Streams APIは、データを読み取るだけでなく、Kafkaにデータを書き込むこともできます。

また、コンシューマーAPIを使用して独自のコンシューマーアプリケーションを作成し、必要に応じて処理したり、コンシューマーアプリケーションからSparkに送信したりする必要があるのはなぜですか。

はい、独自のコンシューマーアプリケーションを作成することもできます(前述のように、Kafka Streams APIはKafkaコンシューマークライアント(およびプロデューサークライアント)自体を使用します)。ただし、Streams APIが提供するすべての固有の機能を手動で実装する必要があります。 。「無料」で入手できるすべてのものについては、上記のリストを参照してください。したがって、ユーザーがより強力なKafka Streams APIではなく、低レベルのコンシューマークライアントを選択するのは、かなりまれな状況です。

この記事はインターネットから収集されたものであり、転載の際にはソースを示してください。

侵害の場合は、連絡してください[email protected]

編集
0

コメントを追加

0

関連記事

分類Dev

Kafkaコンシューマー-Java(0.9 API)

分類Dev

Kafkaコンシューマー-Java(0.9 API)

分類Dev

Kafkaプロデューサーとコンシューマーの構成(Java API)を元に戻すには?

分類Dev

KafkaプロデューサーコンシューマーAPIの問題

分類Dev

kafka 0.10.1に使用するコンシューマーAPIはどれですか?

分類Dev

Apache Kafka StreamsAPIまたはプロデューサー/コンシューマーAPI

分類Dev

Kafka:コンシューマーAPI:グループで実行すると、回帰テストが失敗します(順次)

分類Dev

apache kafkaコンシューマーのSpringBoot Rest APIアプリからサービスメソッドを呼び出すことはできますか?

分類Dev

Kafka-PythonコンシューマーAPIで分離レベルを指定する方法はありますか?

分類Dev

Kafka 0.8 の高レベルのコンシューマー API ライフサイクル

分類Dev

コンシューマーAPIでのcreateDrainingControlの使用法は?

分類Dev

Spring提供のKafka APIを使用して消費グループに複数のコンシューマーを作成する方法

分類Dev

Client API forJavaを使用してDC / OSでKafkaからのメッセージを消費しているときに、コンシューマーがハングするのはなぜですか?

分類Dev

Client API forJavaを使用してDC / OSでKafkaからのメッセージを消費しているときに、コンシューマーがハングするのはなぜですか?

分類Dev

kafka new api 0.10は、トピックごとのストリームおよびコンシューマーオブジェクトのリストを提供しません

分類Dev

Kafka:コンシューマーAPI:kafka-consumer-apiを使用してオフセットから手動で読み取りおよび確認応答に失敗する

分類Dev

コンシューマー/プロデューサーAPIを使用したKafkaのSpringCloud Streamは、transaction-id-prefixを使用したセマンティクスが期待どおりに機能しない場合

分類Dev

REST APIのコンシューマー用のクライアント証明書が必要ですか?

分類Dev

すでに開いているdjangoチャネルコンシューマーへのAPIリクエスト

分類Dev

コンポジションAPIとプレーンJavaScript

分類Dev

コインマーケットキャップAPIと組み合わせてWordPressショートコードAPIでフィルタリングする方法

分類Dev

Kafka Streams API:セッションウィンドウの例外

分類Dev

Drive APIを使用してGoogleドキュメントをPDFファイルとしてフェッチし、そのBLOBをAPIコンシューマーに送信するにはどうすればよいですか?

分類Dev

ストリームAPIとコレクションAPIの選択

分類Dev

ジャージーのOAuth1APIのコンシューマーキーパラメーターはどこにありますか?

分類Dev

ポーリング前にネイティブapacheKafkaコンシューマーAPIを使用してメッセージをフィルタリングする

分類Dev

FacebookのAPIとAppStoreのユーザー生成コンテンツポリシー

分類Dev

同じコントローラーからのビューとAPIの管理

分類Dev

google smsレトリーバーAPIのハッシュ文字列の生成-「xxd」は、内部コマンドまたは外部コマンドとして認識されません

Related 関連記事

  1. 1

    Kafkaコンシューマー-Java(0.9 API)

  2. 2

    Kafkaコンシューマー-Java(0.9 API)

  3. 3

    Kafkaプロデューサーとコンシューマーの構成(Java API)を元に戻すには?

  4. 4

    KafkaプロデューサーコンシューマーAPIの問題

  5. 5

    kafka 0.10.1に使用するコンシューマーAPIはどれですか?

  6. 6

    Apache Kafka StreamsAPIまたはプロデューサー/コンシューマーAPI

  7. 7

    Kafka:コンシューマーAPI:グループで実行すると、回帰テストが失敗します(順次)

  8. 8

    apache kafkaコンシューマーのSpringBoot Rest APIアプリからサービスメソッドを呼び出すことはできますか?

  9. 9

    Kafka-PythonコンシューマーAPIで分離レベルを指定する方法はありますか?

  10. 10

    Kafka 0.8 の高レベルのコンシューマー API ライフサイクル

  11. 11

    コンシューマーAPIでのcreateDrainingControlの使用法は?

  12. 12

    Spring提供のKafka APIを使用して消費グループに複数のコンシューマーを作成する方法

  13. 13

    Client API forJavaを使用してDC / OSでKafkaからのメッセージを消費しているときに、コンシューマーがハングするのはなぜですか?

  14. 14

    Client API forJavaを使用してDC / OSでKafkaからのメッセージを消費しているときに、コンシューマーがハングするのはなぜですか?

  15. 15

    kafka new api 0.10は、トピックごとのストリームおよびコンシューマーオブジェクトのリストを提供しません

  16. 16

    Kafka:コンシューマーAPI:kafka-consumer-apiを使用してオフセットから手動で読み取りおよび確認応答に失敗する

  17. 17

    コンシューマー/プロデューサーAPIを使用したKafkaのSpringCloud Streamは、transaction-id-prefixを使用したセマンティクスが期待どおりに機能しない場合

  18. 18

    REST APIのコンシューマー用のクライアント証明書が必要ですか?

  19. 19

    すでに開いているdjangoチャネルコンシューマーへのAPIリクエスト

  20. 20

    コンポジションAPIとプレーンJavaScript

  21. 21

    コインマーケットキャップAPIと組み合わせてWordPressショートコードAPIでフィルタリングする方法

  22. 22

    Kafka Streams API:セッションウィンドウの例外

  23. 23

    Drive APIを使用してGoogleドキュメントをPDFファイルとしてフェッチし、そのBLOBをAPIコンシューマーに送信するにはどうすればよいですか?

  24. 24

    ストリームAPIとコレクションAPIの選択

  25. 25

    ジャージーのOAuth1APIのコンシューマーキーパラメーターはどこにありますか?

  26. 26

    ポーリング前にネイティブapacheKafkaコンシューマーAPIを使用してメッセージをフィルタリングする

  27. 27

    FacebookのAPIとAppStoreのユーザー生成コンテンツポリシー

  28. 28

    同じコントローラーからのビューとAPIの管理

  29. 29

    google smsレトリーバーAPIのハッシュ文字列の生成-「xxd」は、内部コマンドまたは外部コマンドとして認識されません

ホットタグ

アーカイブ