SparkがS3ファイルの読み取りに使用しているAWS認証情報を確認するにはどうすればよいですか?

swdev

以前は正常に実行されていたOozieジョブを実行しています。そして今、S3ファイルにアクセスするときにパーミッション拒否エラーが発生しました。使用している資格情報とそれらを修正する場所を特定しようとしています。

私が知る限り、資格情報はいくつかの場所から来ているようで、優先順位がわかりません(たとえば、〜/ .aws / creditals、環境変数、hadoop構成、IAMロールなど)。

使用されているアクティブな資格情報を確認する方法はありますか?アクティブなAWSアカウントキーIDをsparkログに出力することは可能ですか?

スティーベル
  1. AWSログインの詳細は、セキュリティ上の理由から実際にはログに記録されません。
  2. Spark submitは、デスクトップからAWS_ env変数を取得し、fs.s3a値を設定して、そこにあるものをオーバーライドします。

s3aコネクタでは、順序は次のとおりです。

  1. URIの秘密(悪い、避ける、最近のリリースから削除)
  2. fs.s3aプロパティ
  3. env vars
  4. EC2VMに提供されたIAMクレデンシャル

認証プロバイダーのリストを構成して、順序を変更したり、削除したりすることができます

この記事はインターネットから収集されたものであり、転載の際にはソースを示してください。

侵害の場合は、連絡してください[email protected]

編集
0

コメントを追加

0

関連記事

分類Dev

PythonでTOMLファイルからGoogleAPI認証情報を読み取るにはどうすればよいですか?

分類Dev

JSONファイルなしでHerokuでGoogleのデフォルトの認証情報を使用するにはどうすればよいですか?

分類Dev

Python 3.6でファイルの行に情報があるかどうかを確認するにはどうすればよいですか?

分類Dev

/ proc / * / *ファイルの読み取り権限を確認するにはどうすればよいですか?

分類Dev

AWS CLI構成と認証情報ファイルの行をコメントアウトするにはどうすればよいですか?

分類Dev

AWS CLI構成と認証情報ファイルの行をコメントアウトするにはどうすればよいですか?

分類Dev

AWS CLI構成と認証情報ファイルの行をコメントアウトするにはどうすればよいですか?

分類Dev

.dataファイルからJavaへの読み取り-配列の配列に情報を格納するにはどうすればよいですか?

分類Dev

extendsscriptを使用してプロパティ値が読み取り専用かどうかを確認するにはどうすればよいですか?

分類Dev

データベースにあるものを読み取り、特定の文字列がそこにあるかどうかを確認するにはどうすればよいですか?私はsqlite3でPythonを使用しています

分類Dev

このテキストファイルの情報を読み取って配列に分割するにはどうすればよいですか?

分類Dev

oozieを使用して、ファイルがHDFSの場所に存在するかどうかを確認するにはどうすればよいですか?

分類Dev

AWSで認証情報を取得するにはどうすればよいですか?AWS CognitoSDKまたはAWSSDKを使用する必要がありますか?

分類Dev

PythonでBotoを使用してS3バケットへのファイルのアップロードが完了したかどうかを確認するにはどうすればよいですか?

分類Dev

aws cliを使用してS3からEC2にファイルをコピーすると、「致命的なエラー:認証情報が見つかりません」というメッセージが表示されます

分類Dev

ファイルに整数のみが含まれているかどうかを確認するにはどうすればよいですか?

分類Dev

構成ファイルが読み取られたことを確認するにはどうすればよいですか?

分類Dev

構成ファイルが読み取られたことを確認するにはどうすればよいですか?

分類Dev

sap.ui.unified.FileUploaderで読み取ったファイルの情報を使用するにはどうすればよいですか?

分類Dev

Windowsレジストリファイルを読み取って値を確認するにはどうすればよいですか?[Python]

分類Dev

現在開いているExcelファイルが読み取り専用モードで開いていることを確認するにはどうすればよいですか?

分類Dev

現在開いているExcelファイルが読み取り専用モードで開いていることを確認するにはどうすればよいですか?

分類Dev

ファイルの内容を読み取るargparseを使用してPython3ファイルを作成するにはどうすればよいですか?

分類Dev

JenkinsでAWS認証情報を使用してElasticBeanstalkにデプロイするにはどうすればよいですか?

分類Dev

すべてのファイルを読み取り、読み取る前にファイル名を出力するにはどうすればよいですか?

分類Dev

Windows 10で、ファイルを開いたり読み取ったりするすべての試みを確認するにはどうすればよいですか?

分類Dev

Python:ヘッダー行を持つ2つのCSVファイルに、行と列の順序を無視して同じ情報が含まれていることを確認するにはどうすればよいですか?

分類Dev

Elastic BeanstalkにデプロイされてS3と通信するNode.jsアプリのAWS認証情報を設定するにはどうすればよいですか?

分類Dev

Bashのfileコマンドを使用してファイルが実行可能かどうかを確認するにはどうすればよいですか?

Related 関連記事

  1. 1

    PythonでTOMLファイルからGoogleAPI認証情報を読み取るにはどうすればよいですか?

  2. 2

    JSONファイルなしでHerokuでGoogleのデフォルトの認証情報を使用するにはどうすればよいですか?

  3. 3

    Python 3.6でファイルの行に情報があるかどうかを確認するにはどうすればよいですか?

  4. 4

    / proc / * / *ファイルの読み取り権限を確認するにはどうすればよいですか?

  5. 5

    AWS CLI構成と認証情報ファイルの行をコメントアウトするにはどうすればよいですか?

  6. 6

    AWS CLI構成と認証情報ファイルの行をコメントアウトするにはどうすればよいですか?

  7. 7

    AWS CLI構成と認証情報ファイルの行をコメントアウトするにはどうすればよいですか?

  8. 8

    .dataファイルからJavaへの読み取り-配列の配列に情報を格納するにはどうすればよいですか?

  9. 9

    extendsscriptを使用してプロパティ値が読み取り専用かどうかを確認するにはどうすればよいですか?

  10. 10

    データベースにあるものを読み取り、特定の文字列がそこにあるかどうかを確認するにはどうすればよいですか?私はsqlite3でPythonを使用しています

  11. 11

    このテキストファイルの情報を読み取って配列に分割するにはどうすればよいですか?

  12. 12

    oozieを使用して、ファイルがHDFSの場所に存在するかどうかを確認するにはどうすればよいですか?

  13. 13

    AWSで認証情報を取得するにはどうすればよいですか?AWS CognitoSDKまたはAWSSDKを使用する必要がありますか?

  14. 14

    PythonでBotoを使用してS3バケットへのファイルのアップロードが完了したかどうかを確認するにはどうすればよいですか?

  15. 15

    aws cliを使用してS3からEC2にファイルをコピーすると、「致命的なエラー:認証情報が見つかりません」というメッセージが表示されます

  16. 16

    ファイルに整数のみが含まれているかどうかを確認するにはどうすればよいですか?

  17. 17

    構成ファイルが読み取られたことを確認するにはどうすればよいですか?

  18. 18

    構成ファイルが読み取られたことを確認するにはどうすればよいですか?

  19. 19

    sap.ui.unified.FileUploaderで読み取ったファイルの情報を使用するにはどうすればよいですか?

  20. 20

    Windowsレジストリファイルを読み取って値を確認するにはどうすればよいですか?[Python]

  21. 21

    現在開いているExcelファイルが読み取り専用モードで開いていることを確認するにはどうすればよいですか?

  22. 22

    現在開いているExcelファイルが読み取り専用モードで開いていることを確認するにはどうすればよいですか?

  23. 23

    ファイルの内容を読み取るargparseを使用してPython3ファイルを作成するにはどうすればよいですか?

  24. 24

    JenkinsでAWS認証情報を使用してElasticBeanstalkにデプロイするにはどうすればよいですか?

  25. 25

    すべてのファイルを読み取り、読み取る前にファイル名を出力するにはどうすればよいですか?

  26. 26

    Windows 10で、ファイルを開いたり読み取ったりするすべての試みを確認するにはどうすればよいですか?

  27. 27

    Python:ヘッダー行を持つ2つのCSVファイルに、行と列の順序を無視して同じ情報が含まれていることを確認するにはどうすればよいですか?

  28. 28

    Elastic BeanstalkにデプロイされてS3と通信するNode.jsアプリのAWS認証情報を設定するにはどうすればよいですか?

  29. 29

    Bashのfileコマンドを使用してファイルが実行可能かどうかを確認するにはどうすればよいですか?

ホットタグ

アーカイブ