Kafkaトピックに特定のレコードを照会する

user554481

特定のレコードについてKafkaトピックをクエリするエレガントな方法はありますか?私が構築しているRESTAPIはIDを取得し、KafkaトピックでそのIDに関連付けられたレコードを検索する必要があります。1つのアプローチは、カスタムコンシューマーを介してトピック内のすべてのレコードをチェックし、一致するものを探すことですが、大量のレコードを読み取るオーバーヘッドを回避したいと思います。Kafkaには高速の組み込みフィルタリング機能がありますか?

クリス・ガーケン

Kafkaでレコードを検索する(単純化しすぎる)唯一の高速な方法は、パーティションとオフセットを使用することです。新しいプロデューサークラスは、futuresを介して、メッセージが書き込まれたパーティションとオフセットを返すことができます。これらの2つの値を使用して、メッセージを非常にすばやく取得できます。

したがって、パーティションとオフセットからIDを作成すると、高速クエリを実装できます。そうでなければ、それほど多くはありません。これは、オブジェクトのIDがデータモデルの一部ではなく、Kafkaが認識できるコードによって生成されることを意味します。

多分それはあなたのために働くかもしれません、多分それはそうではありません。

この記事はインターネットから収集されたものであり、転載の際にはソースを示してください。

侵害の場合は、連絡してください[email protected]

編集
0

コメントを追加

0

関連記事

分類Dev

kafkaトピックから単一のレコードを削除する

分類Dev

kafkaストリームがkafkaトピックからレコードをフェッチするためにpoll()を呼び出す回数

分類Dev

アプリのスクリプトコードがスプレッドシートのコピーを特定のディレクトリに加えてGoogleドライブのルートディレクトリに作成するのはなぜですか?

分類Dev

Laravel:特定のレコードのピボットデータを取得する方法

分類Dev

PubSubのプロジェクトのトピック/特定のトピックに関するpubsub.topics.list許可を照会する方法

分類Dev

バッチモードでsparkを使用してkafkaトピックからすべてのレコードをロードする方法

分類Dev

kafkaストリームでウィンドウが閉じられたときにトピックに関するレコードを送信する方法

分類Dev

MXレコードのドメインのリストを照会してから、IPアドレスの回答を照会するスクリプト?

分類Dev

Kafka Streams DSL再試行ロジック(レコードをトピックに書き戻す)

分類Dev

Ectoで挿入する前にレコードを照会する(ARコールバックと同様)

分類Dev

関連するフォームとスクリプトをコピーせずに、Google Scriptを使用してスプレッドシートをGDriveの特定のフォルダにコピーするにはどうすればよいですか?

分類Dev

特定のkafkaトピックに書いているプロデューサーをリストする方法

分類Dev

VBA-特定の列をブックからシートにコピーする

分類Dev

特定のトピックからKafkaコンシューマーグループを削除するにはどうすればよいですか?

分類Dev

Kafkaの消費者に記録があるトピックを特定する

分類Dev

トピックのすべてのレコードを単一のファイルに保存する方法。

分類Dev

Kafkaの特定のトピックのTTLを変更する方法

分類Dev

Spark Streamingで最初からKafkaトピックのレコードを読み取る方法は?

分類Dev

KStreams:どのようにして、レコードの(発信)のトピックを得るのですか?

分類Dev

アセット フォルダーのサブディレクトリを外部ストレージの特定のフォルダーにコピーする

分類Dev

Kafka .NET-その特定のトピックの既存のすべてのレコードを取得してから、新しいレコードをリッスンし続けます

分類Dev

特定のディレクトリを別のディレクトリにコピーする

分類Dev

孫の条件がどこにあるか親のレコードを照会する

分類Dev

照会されたレコードセットをAccessのテーブルに追加します

分類Dev

Laravelのピボットテーブルにレコードを追加する方法

分類Dev

列を別のスプレッドシートにコピーする

分類Dev

スレッドに必要なオブジェクトのコピーを作成する必要がありますか?

分類Dev

Gsheets Appsスクリプト:Googleドライブの特定のフォルダにスプレッドシートのコピーを作成します

分類Dev

あるシートから別のスプレッドシートにデータをコピーすると、特定の列が除外されます

Related 関連記事

  1. 1

    kafkaトピックから単一のレコードを削除する

  2. 2

    kafkaストリームがkafkaトピックからレコードをフェッチするためにpoll()を呼び出す回数

  3. 3

    アプリのスクリプトコードがスプレッドシートのコピーを特定のディレクトリに加えてGoogleドライブのルートディレクトリに作成するのはなぜですか?

  4. 4

    Laravel:特定のレコードのピボットデータを取得する方法

  5. 5

    PubSubのプロジェクトのトピック/特定のトピックに関するpubsub.topics.list許可を照会する方法

  6. 6

    バッチモードでsparkを使用してkafkaトピックからすべてのレコードをロードする方法

  7. 7

    kafkaストリームでウィンドウが閉じられたときにトピックに関するレコードを送信する方法

  8. 8

    MXレコードのドメインのリストを照会してから、IPアドレスの回答を照会するスクリプト?

  9. 9

    Kafka Streams DSL再試行ロジック(レコードをトピックに書き戻す)

  10. 10

    Ectoで挿入する前にレコードを照会する(ARコールバックと同様)

  11. 11

    関連するフォームとスクリプトをコピーせずに、Google Scriptを使用してスプレッドシートをGDriveの特定のフォルダにコピーするにはどうすればよいですか?

  12. 12

    特定のkafkaトピックに書いているプロデューサーをリストする方法

  13. 13

    VBA-特定の列をブックからシートにコピーする

  14. 14

    特定のトピックからKafkaコンシューマーグループを削除するにはどうすればよいですか?

  15. 15

    Kafkaの消費者に記録があるトピックを特定する

  16. 16

    トピックのすべてのレコードを単一のファイルに保存する方法。

  17. 17

    Kafkaの特定のトピックのTTLを変更する方法

  18. 18

    Spark Streamingで最初からKafkaトピックのレコードを読み取る方法は?

  19. 19

    KStreams:どのようにして、レコードの(発信)のトピックを得るのですか?

  20. 20

    アセット フォルダーのサブディレクトリを外部ストレージの特定のフォルダーにコピーする

  21. 21

    Kafka .NET-その特定のトピックの既存のすべてのレコードを取得してから、新しいレコードをリッスンし続けます

  22. 22

    特定のディレクトリを別のディレクトリにコピーする

  23. 23

    孫の条件がどこにあるか親のレコードを照会する

  24. 24

    照会されたレコードセットをAccessのテーブルに追加します

  25. 25

    Laravelのピボットテーブルにレコードを追加する方法

  26. 26

    列を別のスプレッドシートにコピーする

  27. 27

    スレッドに必要なオブジェクトのコピーを作成する必要がありますか?

  28. 28

    Gsheets Appsスクリプト:Googleドライブの特定のフォルダにスプレッドシートのコピーを作成します

  29. 29

    あるシートから別のスプレッドシートにデータをコピーすると、特定の列が除外されます

ホットタグ

アーカイブ