Logstashはフィールドを追加できませんか?

ケネディカン

logstashを使用してDB復元ログを読み取っています。これがサンプルレコードのいくつかの行です。

07/08/2016  6:33:22.50: START restore database                      
SQL2540W  Restore is successful, however a warning "2539" was encountered 
during Database Restore while processing in No Interrupt mode.
07/08/2016  6:33:28.93: END restore database                        
SQL4406W  The DB2 Administration Server was started successfully.
07/08/2016  6:35:35.29: END restart server                          
connect reset
DB20000I  The SQL command completed successfully.
07/08/2016  6:35:38.48: END p:\s6\source\system\CMD\res_uw.cmd      

これが私のconfファイルのフィルター部分です。

if ([message] =~ /Backup successful/){
    grok{
        match => {"message" => ['%{GREEDYDATA:Message}'] }
    }
    mutate {
        add_tag => "send_to_es"
        add_field => {"Timestamp" => "%{GREEDYDATA:DATETIME}"}
    }
}
if ([message] =~ /warning "2539"/){
    grok{
        match => {"message" => ['%{GREEDYDATA:Message}'] }
    }
    mutate {
        add_tag => "send_to_es"
        add_field => {"Timestamp" => "%{GREEDYDATA:DATETIME}"}
    }
}
if ([message] =~ /(END p:|END P:)/){
    grok{
        match => {"message" => ['%{GREEDYDATA:DATETIME}:%{SPACE}END%{SPACE}%{GREEDYDATA:Mis}'] }
        remove_field => "%{GREEDYDATA:Mis}"
    }
    mutate {
        add_tag => "send_to_es"
    }
}   

レコードの最後の行から抽出したデータ「DATETIME」をメッセージに追加し、同時に他のメッセージに追加してインデックスを作成したいと思います。ただし、フィールドを正常に追加できませんでした。出力は次のようになります

      "message": "SQL2540W  Restore is successful, however a warning \"2539\" was encountered \r\r",
      "@version": "1",
      "@timestamp": "2016-07-12T02:28:52.337Z",
      "path": "C:/CIGNA/hkiapp67_db_restore/res_uw.log",
      "host": "SIMSPad",
      "type": "txt",
      "Message": "SQL2540W  Restore is successful, however a warning \"2539\" was encountered \r\r",
      "Timestamp": "%{GREEDYDATA:DATETIME}",
      "tags": [
        "send_to_es"
      ]

どうすればこれを解決できますか?

baudsp

Logstashは、回線を受信したとき、他の回線についての知識を持っていません。複数行のコーデック/フィルターを使用して、必要なすべての行を日付のある行に再グループ化する必要があります。次に、grokフィルターを使用して日付を抽出し、ドキュメントに追加します。

複数行コーデック/フィルターの構成は次のようになります。

multiline {
  pattern => "%{DATE}"
  negate => "true"
  what => "next"
}

これにより、パターンDATEで始まらないすべての行が次の行に結合されます。

この記事はインターネットから収集されたものであり、転載の際にはソースを示してください。

侵害の場合は、連絡してください[email protected]

編集
0

コメントを追加

0

関連記事

分類Dev

grepフィルターを追加するとLogstashを開始できません

分類Dev

Logstash + nginx: フィールドは追加されません

分類Dev

Avro Schema Evolution:フィールドを追加または削除できません

分類Dev

event_set(logstash ruby)は私にフィールドを与えませんか?

分類Dev

Logstashjsonフィルターの解析済みフィールドをlogstash内で読み取ることはできません

分類Dev

Django:管理フィールドは編集できませんか?

分類Dev

Firestoreからフィールドを削除できません

分類Dev

dbからフィールドを更新できません

分類Dev

anglejsは入力フィールドを更新できません

分類Dev

複数のHTML入力フィールドに画像を追加または削除できません

分類Dev

RoleBindingのroleRefに名前空間フィールドを追加できません

分類Dev

RoleBindingのroleRefに名前空間フィールドを追加できません

分類Dev

serializer.data djangorestにフィールドを追加できません

分類Dev

MongoDBのサブフィールドに式を追加できません

分類Dev

Logstashのgrokを使用して、JSONデータと非JSONデータが混在するログ行からフィールドを抽出できません

分類Dev

動的に生成された入力フィールドにjQuery検証を追加できませんか?

分類Dev

FirestoreのFirebaseExtension Translate Textでは、複数の入力フィールドと出力フィールドを追加することはできません

分類Dev

MySQLではDISTINCT ONフィールドは使用できません。同等のものを使用しますか?

分類Dev

「解決できないか、フィールドではありません」

分類Dev

解決できないか、フィールドではありません

分類Dev

整合性制約違反のためにフィールドを追加できない:1452子行を追加または更新できません

分類Dev

Allauthは追加のフィールドを保存しません

分類Dev

システムを解決できなかったか、フィールドではありません

分類Dev

私自身のlogstashフィルターは入力フィールド値を正しく抽出しません

分類Dev

エラー:activity_mainを解決できないか、フィールドではありません

分類Dev

フォームの送信時に追加のフォームフィールドを取得できません

分類Dev

ログパスから解析されたフィールドがlogstashに追加されていません

分類Dev

Mysqldumpは表示フィールドを実行できませんでした

分類Dev

InfluxDBはフィールドキーを選択できません

Related 関連記事

  1. 1

    grepフィルターを追加するとLogstashを開始できません

  2. 2

    Logstash + nginx: フィールドは追加されません

  3. 3

    Avro Schema Evolution:フィールドを追加または削除できません

  4. 4

    event_set(logstash ruby)は私にフィールドを与えませんか?

  5. 5

    Logstashjsonフィルターの解析済みフィールドをlogstash内で読み取ることはできません

  6. 6

    Django:管理フィールドは編集できませんか?

  7. 7

    Firestoreからフィールドを削除できません

  8. 8

    dbからフィールドを更新できません

  9. 9

    anglejsは入力フィールドを更新できません

  10. 10

    複数のHTML入力フィールドに画像を追加または削除できません

  11. 11

    RoleBindingのroleRefに名前空間フィールドを追加できません

  12. 12

    RoleBindingのroleRefに名前空間フィールドを追加できません

  13. 13

    serializer.data djangorestにフィールドを追加できません

  14. 14

    MongoDBのサブフィールドに式を追加できません

  15. 15

    Logstashのgrokを使用して、JSONデータと非JSONデータが混在するログ行からフィールドを抽出できません

  16. 16

    動的に生成された入力フィールドにjQuery検証を追加できませんか?

  17. 17

    FirestoreのFirebaseExtension Translate Textでは、複数の入力フィールドと出力フィールドを追加することはできません

  18. 18

    MySQLではDISTINCT ONフィールドは使用できません。同等のものを使用しますか?

  19. 19

    「解決できないか、フィールドではありません」

  20. 20

    解決できないか、フィールドではありません

  21. 21

    整合性制約違反のためにフィールドを追加できない:1452子行を追加または更新できません

  22. 22

    Allauthは追加のフィールドを保存しません

  23. 23

    システムを解決できなかったか、フィールドではありません

  24. 24

    私自身のlogstashフィルターは入力フィールド値を正しく抽出しません

  25. 25

    エラー:activity_mainを解決できないか、フィールドではありません

  26. 26

    フォームの送信時に追加のフォームフィールドを取得できません

  27. 27

    ログパスから解析されたフィールドがlogstashに追加されていません

  28. 28

    Mysqldumpは表示フィールドを実行できませんでした

  29. 29

    InfluxDBはフィールドキーを選択できません

ホットタグ

アーカイブ