fluentdからelasticsearchにrawフィールドを追加します

barnesm999

アプリケーションノードにFluentDが​​インストールされ、ログファイルを追跡する集中ログシステムをセットアップしました。アプリケーションノードのFluetndDは、処理されたログをコレクターノードのFluentDに転送します。次に、このコレクターノード上のFluentDは、ElasticSearchクラスターを含むさまざまな出力に転送します。次に、Kibanaを実行してESから読み取ります。(私が信じるかなり一般的な設定。)

Kibanaの一部のデータを特定のデータフィールドで視覚化しようとすると、Kibanaは物事を正しくグループ化しません。たとえば、電子メールアドレスは複数の値(名前、ドメインなど)と見なされます。いくつかの調査を行った後、問題は、フィールドを.raw値としても複製するように構成する必要があることであると理解しています。(分析済みと非分析済み)

問題は、FluentDでこのデータをElasticsearchに追加して.rawフィールドを含める方法がわからないことです。おそらくこれはLogstashがデフォルトで行うことですか?

私はfluent-plugin-elasticsearchを使用していますhttps//github.com/uken/fluent-plugin-elasticsearch

ファイル

Elasticsearchによるフィールドのトークン化を停止するには、インデックスマッピングを更新して、フィールドをnot_analyzedとして指定できます既存のインデックスの既存のマッピングを変更することはできないため、この変更が有効になるようにするには、インデックスを削除(または新しいインデックスを作成)する必要があります。以下を含むマッピングを配置することをお勧めします。

{
  "email": {
    "type":     "string",
    "index":    "not_analyzed"
  }
}

この記事はインターネットから収集されたものであり、転載の際にはソースを示してください。

侵害の場合は、連絡してください[email protected]

編集
0

コメントを追加

0

関連記事

分類Dev

ElasticSearch、フィールドに値を追加しますが、最初にフィールドが存在するかどうかを確認し、存在しない場合はフィールドを作成してから追加します

分類Dev

ElasticSearch:.rawフィールドをクエリできますか?

分類Dev

LogstashからElasticsearchに、既存のデータを上書きする代わりに、フィールドに新しいデータを追加しますか?

分類Dev

Elasticsearch-構造からフィールドを削除します

分類Dev

ブールデータ型のPythonを使用してElasticSearchにフィールドを追加しますか?

分類Dev

Elasticsearch出力でLogstashを使用する場合、.rawフィールドはどこから取得されますか?

分類Dev

Pythonを使用したElasticSearchに@timestampフィールドを追加します

分類Dev

ManyToManyからadmin.pyにフィールドを追加します

分類Dev

Djangoは辞書の値からフィールドを動的に追加します

分類Dev

RDDから他のRDDにフィールドを追加します

分類Dev

フォームから追加されたフィールドで、manytomanyフィールドに追加します

分類Dev

Hibernateは、監査テーブルにフィールドを追加する方法を明らかにします

分類Dev

データベースの CSV ファイルからフィールドに値を追加します

分類Dev

sql: 電子メールフィールドに何かを追加/追加します

分類Dev

作成したら、配列から埋め込みにフィールドデータを追加します

分類Dev

別のテーブルから追加フィールドを選択します

分類Dev

Djangoはフォームからフィールドを非表示にし、フィールドを自動的に追加します

分類Dev

テキストフィールドからtableViewに新しいセルを追加します

分類Dev

Elasticsearchでフィールドタイプを「日付」から「文字列」に更新しています

分類Dev

テキストフィールドからUITableViewに全体を追加して、自動的に入力します

分類Dev

ReactJS-各要素に入力フィールドを追加し、そこから値を取得します

分類Dev

前のフィールドからNamedTupleにフィールドを追加する

分類Dev

Elasticsearch:既存のドキュメントに新しいフィールドを追加します

分類Dev

TeamCityフィードにnupkgファイルを手動で追加しますか?

分類Dev

作業ディレクトリからコードにファイルを追加します

分類Dev

Jqueryボタン値から入力フィールドに文字列を追加します

分類Dev

Elasticsearchはフィールドを配列にします

分類Dev

jsonファイルから2つのフィールドを1つのリストに追加し、両方をフロートに変換し、フィールドの1つを負のフィールドに変換します

分類Dev

GWTのcontenteditableフィールドからのテキストにLineBreakを含むRAWテキストを取得しますか?

Related 関連記事

  1. 1

    ElasticSearch、フィールドに値を追加しますが、最初にフィールドが存在するかどうかを確認し、存在しない場合はフィールドを作成してから追加します

  2. 2

    ElasticSearch:.rawフィールドをクエリできますか?

  3. 3

    LogstashからElasticsearchに、既存のデータを上書きする代わりに、フィールドに新しいデータを追加しますか?

  4. 4

    Elasticsearch-構造からフィールドを削除します

  5. 5

    ブールデータ型のPythonを使用してElasticSearchにフィールドを追加しますか?

  6. 6

    Elasticsearch出力でLogstashを使用する場合、.rawフィールドはどこから取得されますか?

  7. 7

    Pythonを使用したElasticSearchに@timestampフィールドを追加します

  8. 8

    ManyToManyからadmin.pyにフィールドを追加します

  9. 9

    Djangoは辞書の値からフィールドを動的に追加します

  10. 10

    RDDから他のRDDにフィールドを追加します

  11. 11

    フォームから追加されたフィールドで、manytomanyフィールドに追加します

  12. 12

    Hibernateは、監査テーブルにフィールドを追加する方法を明らかにします

  13. 13

    データベースの CSV ファイルからフィールドに値を追加します

  14. 14

    sql: 電子メールフィールドに何かを追加/追加します

  15. 15

    作成したら、配列から埋め込みにフィールドデータを追加します

  16. 16

    別のテーブルから追加フィールドを選択します

  17. 17

    Djangoはフォームからフィールドを非表示にし、フィールドを自動的に追加します

  18. 18

    テキストフィールドからtableViewに新しいセルを追加します

  19. 19

    Elasticsearchでフィールドタイプを「日付」から「文字列」に更新しています

  20. 20

    テキストフィールドからUITableViewに全体を追加して、自動的に入力します

  21. 21

    ReactJS-各要素に入力フィールドを追加し、そこから値を取得します

  22. 22

    前のフィールドからNamedTupleにフィールドを追加する

  23. 23

    Elasticsearch:既存のドキュメントに新しいフィールドを追加します

  24. 24

    TeamCityフィードにnupkgファイルを手動で追加しますか?

  25. 25

    作業ディレクトリからコードにファイルを追加します

  26. 26

    Jqueryボタン値から入力フィールドに文字列を追加します

  27. 27

    Elasticsearchはフィールドを配列にします

  28. 28

    jsonファイルから2つのフィールドを1つのリストに追加し、両方をフロートに変換し、フィールドの1つを負のフィールドに変換します

  29. 29

    GWTのcontenteditableフィールドからのテキストにLineBreakを含むRAWテキストを取得しますか?

ホットタグ

アーカイブ