URLから直接S3バケットにファイルをアップロードする

dvdmn

ビデオファイルストレージをAWSS3に移動する必要があります。古い場所はcdnであるため、各ファイルのURLしかありません(1000以上のファイル、> 1TBの合計ファイルサイズ)。ストレージサーバーで直接アップロードツールを実行することはできません。

私はすでにファイルをダウンロードし、ファイルをS3バケットにアップロードし、DBレコードを新しいHTTP URLで更新し、永久にかかることを除いて完全に機能するツールを作成しました。

ファイルのダウンロードには時間がかかり(各ファイルがギガバイトに近いことを考慮すると)、アップロードには時間がかかります。

ビデオファイルをcdnからS3に直接アップロードして、処理時間を半分に短縮することはできますか?ファイルのチャンクを読み取り、次のチャンクを読み取りながらS3に配置するようなものです。

現在、System.Net.WebClientを使用してファイルをダウンロードし、AWSSDKを使用してアップロードしています。

PS:インターネットの速度に問題はありません。1GBitのネットワーク接続を備えたサーバーでアプリを実行しています。

kino1

これはこの質問私が答えました、ここに要点があります:

obj = Aws::S3::Object.new(bucket_name: 'target-bucket', key: 'target-key')
obj.upload_stream do |write_stream|
  IO.copy_stream(URI.open('http://example.com/file.ext'), write_stream))
end

この記事はインターネットから収集されたものであり、転載の際にはソースを示してください。

侵害の場合は、連絡してください[email protected]

編集
0

コメントを追加

0

関連記事

分類Dev

リダイレクトせずにファイルをs3バケットに直接アップロードすることは可能ですか?

分類Dev

ログファイルをS3バケットにアップロードしますか?

分類Dev

s3バケットにアップロードしたファイルの元のURL名を取得する方法はありますか?

分類Dev

ビデオファイルをS3バケットにアップロードする(React js)

分類Dev

AWS S3バケットにファイルをアップロードする方法は?

分類Dev

アマゾンs3バケットからファイルをダウンロードするJavascript?

分類Dev

サーバーからS3にファイルを自動的にアップロードする方法

分類Dev

サーバー側アプリケーションから生成された署名付きURLを使用して、AndroidからS3サーバーにファイル(ビデオファイル)をアップロードする

分類Dev

RailsサーバーからS3にファイルをアップロードする

分類Dev

角度またはJavaScriptで事前に署名されたURLを使用してS3バケットにファイルをアップロードする方法

分類Dev

PHPlaravelファイルをAWSS3バケットに直接アップロードする

分類Dev

S3バケットからアップロードされたすべての画像ファイル拡張子を変更する方法

分類Dev

AWSCLIを使用せずにs3プライベートバケットからファイルをダウンロードする方法

分類Dev

ファイルに書き込んでからアップロードせずに、csvファイルのようにメモリ値の辞書データをs3バケットに直接書き込む方法

分類Dev

Boto3を使用してプレフィックス付きのS3バケットにファイルをアップロードする

分類Dev

RDSMysqlストアドプロシージャからS3バケットファイルを読み書きする方法

分類Dev

S3直接バケットアップロード:成功したがファイルがない

分類Dev

ReactフロントエンドからSpringバックエンドでファイルをS3バケットにアップロードする方法は?

分類Dev

アップロード時にファイル名にタイムスタンプを追加するS3バケットスクリプト

分類Dev

ギャラリーからs3バケットへの画像のアップロード-ファイルオブジェクトを作成しますか?

分類Dev

コントローラーで生成されたPDFファイルをS3バケットにアップロードする方法

分類Dev

zipファイルを `s3`バケットにアップロードしてからラムダにデプロイするように` Terraform`を設定する方法

分類Dev

ファイルをs3バケットにアップロードする際のboto3の問題に直面しています

分類Dev

ファイルの変更日に基づいてs3バケットからファイルをダウンロードする方法は?

分類Dev

特定の日にアップロードされたS3バケットからすべてのファイルをダウンロードするにはどうすればよいですか?

分類Dev

S3バケット+フォルダーからファイルをダウンロードします

分類Dev

S3にアップロードするバッチファイル

分類Dev

Java Apache HttpClientを使用してファイルをパブリックAWS S3バケットにアップロードする方法

分類Dev

Java Apache HttpClientを使用してファイルをパブリックAWS S3バケットにアップロードする方法

Related 関連記事

  1. 1

    リダイレクトせずにファイルをs3バケットに直接アップロードすることは可能ですか?

  2. 2

    ログファイルをS3バケットにアップロードしますか?

  3. 3

    s3バケットにアップロードしたファイルの元のURL名を取得する方法はありますか?

  4. 4

    ビデオファイルをS3バケットにアップロードする(React js)

  5. 5

    AWS S3バケットにファイルをアップロードする方法は?

  6. 6

    アマゾンs3バケットからファイルをダウンロードするJavascript?

  7. 7

    サーバーからS3にファイルを自動的にアップロードする方法

  8. 8

    サーバー側アプリケーションから生成された署名付きURLを使用して、AndroidからS3サーバーにファイル(ビデオファイル)をアップロードする

  9. 9

    RailsサーバーからS3にファイルをアップロードする

  10. 10

    角度またはJavaScriptで事前に署名されたURLを使用してS3バケットにファイルをアップロードする方法

  11. 11

    PHPlaravelファイルをAWSS3バケットに直接アップロードする

  12. 12

    S3バケットからアップロードされたすべての画像ファイル拡張子を変更する方法

  13. 13

    AWSCLIを使用せずにs3プライベートバケットからファイルをダウンロードする方法

  14. 14

    ファイルに書き込んでからアップロードせずに、csvファイルのようにメモリ値の辞書データをs3バケットに直接書き込む方法

  15. 15

    Boto3を使用してプレフィックス付きのS3バケットにファイルをアップロードする

  16. 16

    RDSMysqlストアドプロシージャからS3バケットファイルを読み書きする方法

  17. 17

    S3直接バケットアップロード:成功したがファイルがない

  18. 18

    ReactフロントエンドからSpringバックエンドでファイルをS3バケットにアップロードする方法は?

  19. 19

    アップロード時にファイル名にタイムスタンプを追加するS3バケットスクリプト

  20. 20

    ギャラリーからs3バケットへの画像のアップロード-ファイルオブジェクトを作成しますか?

  21. 21

    コントローラーで生成されたPDFファイルをS3バケットにアップロードする方法

  22. 22

    zipファイルを `s3`バケットにアップロードしてからラムダにデプロイするように` Terraform`を設定する方法

  23. 23

    ファイルをs3バケットにアップロードする際のboto3の問題に直面しています

  24. 24

    ファイルの変更日に基づいてs3バケットからファイルをダウンロードする方法は?

  25. 25

    特定の日にアップロードされたS3バケットからすべてのファイルをダウンロードするにはどうすればよいですか?

  26. 26

    S3バケット+フォルダーからファイルをダウンロードします

  27. 27

    S3にアップロードするバッチファイル

  28. 28

    Java Apache HttpClientを使用してファイルをパブリックAWS S3バケットにアップロードする方法

  29. 29

    Java Apache HttpClientを使用してファイルをパブリックAWS S3バケットにアップロードする方法

ホットタグ

アーカイブ