csvからの入力でxargsを使用してcurlコマンドを並行して実行します

スコットネルソン

シーケンス番号と画像のURLを含むいくつかの列を持つcsvファイルがあります。ファイルは450行以上です。

1,text1,text2,http://image_a.jpg
2,text1,text2,http://image_b.jpg
3,text1,text2,http://image_c.jpg
.
.
.

目標は、ファイル名がシーケンスであるURLで画像をダウンロードすることです。私は次のスクリプトでこれを成功裏に達成しました

while IFS=, read col1 col2 col3 col4
do
   curl ${col4} > ${col1}.jpg
done < myfile.csv

ここで、を使用してcurlコマンドを並行して実行したいと思いますxargs -P&プロセスの数を制限したいので、バックグラウンドで使用するだけでは不十分です。)を使用-I-R例を確認しましたが、xargsコマンドのcsvファイルの行から複数​​のフィールドを使用する方法を理解できません。

私はgnuparallelとwgetがより良いオプションかもしれないことを理解していますが、それらは私のUNIX環境では利用できません。

ありがとう。

ジェフ・シャラー

curlコマンドを作成してからxargsに渡す必要があるように思われます

awk -F, '{print "curl '\''" $4 "'\'' > '\''" $1".jpg'\''"}' < input.csv | xargs -P2 -I {} sh -c '{}'

シェルの特殊文字が含まれている場合に備えて、URLとシーケンス番号/ファイル名を一重引用符で囲んでいるため、コマンドは少し見苦しく見えます(例&)。

この記事はインターネットから収集されたものであり、転載の際にはソースを示してください。

侵害の場合は、連絡してください[email protected]

編集
0

コメントを追加

0

関連記事

分類Dev

Xargs:3つの別々のxargsコマンドを並行して実行する

分類Dev

xargsによって並行して実行されるコマンドの出力の順序を保持します

分類Dev

並行して実行されている複数のSSHコマンドからの出力を出力します

分類Dev

sscanf()を使用して特定の入力を取得し、ifステートメントでコマンドを実行しますか?

分類Dev

xargsを使用して何千ものコマンドを並列に実行する方法は?

分類Dev

GNUparallelを使用してcurlコマンドを並列に実行する方法

分類Dev

xargsコマンドでdockerexecを使用して `bash`を実行する

分類Dev

xargsを使用して複数のコマンドを実行する

分類Dev

xargsを使用して複数のコマンドを実行する

分類Dev

コマンドを並行して実行し、特定の出力を待ちます

分類Dev

配管はコマンドを並行して実行しますか?

分類Dev

pysparkでコマンドを並行して実行する

分類Dev

xargsを使用して、コマンドリストを作成して実行します

分類Dev

iPythonを使用してbashコマンドを並行して実行する

分類Dev

入力としてファイルまたはstdinのいずれかを使用してコマンドを実行するための最良の方法

分類Dev

最初のコマンドを最後まで実行し、後続のコマンドを並行して実行します

分類Dev

あるコマンドの出力を使用してコマンドを実行し、それらを次のコマンドへの入力として使用します

分類Dev

SHからコマンドを実行しています

分類Dev

1行のcURLコマンドで、パラメーターを指定してpythonを実行します

分類Dev

`find`と` xargs`を使用してシェルスクリプトで複数のコマンドを実行する

分類Dev

Python SDKを使用して、AzureのLinuxVMでコマンドを実行します

分類Dev

2つのコマンドを並行して実行し、最初に終了する方法はありますか?

分類Dev

コマンドを実行し、その結果を使用して別のコマンドを実行します

分類Dev

コマンドを実行し、その結果を使用して別のコマンドを実行します

分類Dev

新しい行を挿入し、Excelのコマンド/コードを使用してセルからその行にデータをコピーします

分類Dev

コマンドラインからcURLを実行しようとしています(xampp / windows環境)

分類Dev

&&を使用して2つのコマンドを実行する場合、sudoを1回または2回入力する必要がありますか?

分類Dev

Linuxのポートで着信要求をリッスンしてから、コマンドを実行します

分類Dev

Python Paramikoを使用して、異なるSSHサーバーで複数のコマンドを並行して実行します

Related 関連記事

  1. 1

    Xargs:3つの別々のxargsコマンドを並行して実行する

  2. 2

    xargsによって並行して実行されるコマンドの出力の順序を保持します

  3. 3

    並行して実行されている複数のSSHコマンドからの出力を出力します

  4. 4

    sscanf()を使用して特定の入力を取得し、ifステートメントでコマンドを実行しますか?

  5. 5

    xargsを使用して何千ものコマンドを並列に実行する方法は?

  6. 6

    GNUparallelを使用してcurlコマンドを並列に実行する方法

  7. 7

    xargsコマンドでdockerexecを使用して `bash`を実行する

  8. 8

    xargsを使用して複数のコマンドを実行する

  9. 9

    xargsを使用して複数のコマンドを実行する

  10. 10

    コマンドを並行して実行し、特定の出力を待ちます

  11. 11

    配管はコマンドを並行して実行しますか?

  12. 12

    pysparkでコマンドを並行して実行する

  13. 13

    xargsを使用して、コマンドリストを作成して実行します

  14. 14

    iPythonを使用してbashコマンドを並行して実行する

  15. 15

    入力としてファイルまたはstdinのいずれかを使用してコマンドを実行するための最良の方法

  16. 16

    最初のコマンドを最後まで実行し、後続のコマンドを並行して実行します

  17. 17

    あるコマンドの出力を使用してコマンドを実行し、それらを次のコマンドへの入力として使用します

  18. 18

    SHからコマンドを実行しています

  19. 19

    1行のcURLコマンドで、パラメーターを指定してpythonを実行します

  20. 20

    `find`と` xargs`を使用してシェルスクリプトで複数のコマンドを実行する

  21. 21

    Python SDKを使用して、AzureのLinuxVMでコマンドを実行します

  22. 22

    2つのコマンドを並行して実行し、最初に終了する方法はありますか?

  23. 23

    コマンドを実行し、その結果を使用して別のコマンドを実行します

  24. 24

    コマンドを実行し、その結果を使用して別のコマンドを実行します

  25. 25

    新しい行を挿入し、Excelのコマンド/コードを使用してセルからその行にデータをコピーします

  26. 26

    コマンドラインからcURLを実行しようとしています(xampp / windows環境)

  27. 27

    &&を使用して2つのコマンドを実行する場合、sudoを1回または2回入力する必要がありますか?

  28. 28

    Linuxのポートで着信要求をリッスンしてから、コマンドを実行します

  29. 29

    Python Paramikoを使用して、異なるSSHサーバーで複数のコマンドを並行して実行します

ホットタグ

アーカイブ