如何使用boto3下载该文件夹中的所有内容

kwsong0314

我想下载s3文件夹(2021-02-15)中存在的所有csv文件。我尝试了以下操作,但失败了。我该怎么做?

import boto3

s3 = boto3.resource('s3')
bucket = s3.Bucket('bucket')
key = 'product/myproject/2021-02-15/'
objs = list(bucket.objects.filter(Prefix=key))
for obj in objs:
    client = boto3.client('s3')
    client.download_file(bucket, obj, obj)

valueError: Filename must be a string

马切洛·罗曼尼(Marcello Romani)

Marcin的答案是正确的,但是在不同路径下具有相同名称的文件将被覆盖。您可以通过在本地复制S3存储桶的文件夹结构来避免这种情况。

import boto3
import os
from pathlib import Path

s3 = boto3.resource('s3')

bucket = s3.Bucket('bucket')

key = 'product/myproject/2021-02-15/'
objs = list(bucket.objects.filter(Prefix=key))

for obj in objs:
    # print(obj.key)

    # remove the file name from the object key
    obj_path = os.path.dirname(obj.key)

    # create nested directory structure
    Path(obj_path).mkdir(parents=True, exist_ok=True)

    # save file with full path locally
    bucket.download_file(obj.key, obj.key)

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

如何获取该文件夹中的所有文件

来自分类Dev

是否可以不通过boto3下载而获取S3文件的内容?

来自分类Dev

如何使用python和boto3将Amazon S3文件下载到文件夹中的本地机器上?

来自分类Dev

使用boto3将文件上传到S3中的特定文件夹

来自分类Dev

S3使用boto3删除文件夹中的文件

来自分类Dev

自动复制除该文件夹外的文件夹中的所有文件

来自分类Dev

使用Boto3和Python如何公开文件夹

来自分类Dev

无法从aws s3下载图像,尽管Node js中的所有内容都正确

来自分类Dev

使用 python boto 仅下载 S3 存储桶中的特定文件夹

来自分类Dev

如何使用 lambda、boto3 和 python 2.7 检查 s3 的顶级文件夹中是否存在特定文件

来自分类Dev

AWS s3在特定文件夹中下载所有文件-使用PHP SDK

来自分类Dev

如何删除目录中没有特定文件夹及其内容的所有内容

来自分类Dev

将文件夹的名称添加到该文件夹中的所有`.bin`文件中

来自分类Dev

使用VB允许用户选择一个文件夹,该文件夹将所有文件加载到电子表格中

来自分类Dev

使用Dropbox API下载指定文件夹中的所有图像,而不下载子文件夹中的所有图像

来自分类Dev

我可以使用fread下载文件夹中的所有文件吗?

来自分类Dev

如何使用sox连续播放文件夹中的所有mp3

来自分类Dev

如何使用批处理文件删除2个特定文件夹中的所有内容?

来自分类Dev

如何遍历所有Assets文件夹和子文件夹并获得该文件夹中所有预制件的列表?

来自分类Dev

Boto3:从S3下载文件

来自分类Dev

如何使用boto3从DynamoDB检索所有项目?

来自分类Dev

Ansible:如何从特定角色的“文件”文件夹中复制所有内容

来自分类Dev

如何确保从子文件夹中删除除 *.bin 文件之外的所有内容?

来自分类Dev

如何读取urllib3下载的.net文件?

来自分类Dev

如何使用PowerShell从文件夹和所有子文件夹中删除所有访问规则?

来自分类Dev

如何使用PowerShell从文件夹和所有子文件夹中删除所有访问规则?

来自分类Dev

如何使用批处理脚本重命名在该文件夹中具有一定数量文件的多个文件夹?

来自分类Dev

删除子文件夹中的所有内容

来自分类Dev

使用bash从S3下载私有文件

Related 相关文章

  1. 1

    如何获取该文件夹中的所有文件

  2. 2

    是否可以不通过boto3下载而获取S3文件的内容?

  3. 3

    如何使用python和boto3将Amazon S3文件下载到文件夹中的本地机器上?

  4. 4

    使用boto3将文件上传到S3中的特定文件夹

  5. 5

    S3使用boto3删除文件夹中的文件

  6. 6

    自动复制除该文件夹外的文件夹中的所有文件

  7. 7

    使用Boto3和Python如何公开文件夹

  8. 8

    无法从aws s3下载图像,尽管Node js中的所有内容都正确

  9. 9

    使用 python boto 仅下载 S3 存储桶中的特定文件夹

  10. 10

    如何使用 lambda、boto3 和 python 2.7 检查 s3 的顶级文件夹中是否存在特定文件

  11. 11

    AWS s3在特定文件夹中下载所有文件-使用PHP SDK

  12. 12

    如何删除目录中没有特定文件夹及其内容的所有内容

  13. 13

    将文件夹的名称添加到该文件夹中的所有`.bin`文件中

  14. 14

    使用VB允许用户选择一个文件夹,该文件夹将所有文件加载到电子表格中

  15. 15

    使用Dropbox API下载指定文件夹中的所有图像,而不下载子文件夹中的所有图像

  16. 16

    我可以使用fread下载文件夹中的所有文件吗?

  17. 17

    如何使用sox连续播放文件夹中的所有mp3

  18. 18

    如何使用批处理文件删除2个特定文件夹中的所有内容?

  19. 19

    如何遍历所有Assets文件夹和子文件夹并获得该文件夹中所有预制件的列表?

  20. 20

    Boto3:从S3下载文件

  21. 21

    如何使用boto3从DynamoDB检索所有项目?

  22. 22

    Ansible:如何从特定角色的“文件”文件夹中复制所有内容

  23. 23

    如何确保从子文件夹中删除除 *.bin 文件之外的所有内容?

  24. 24

    如何读取urllib3下载的.net文件?

  25. 25

    如何使用PowerShell从文件夹和所有子文件夹中删除所有访问规则?

  26. 26

    如何使用PowerShell从文件夹和所有子文件夹中删除所有访问规则?

  27. 27

    如何使用批处理脚本重命名在该文件夹中具有一定数量文件的多个文件夹?

  28. 28

    删除子文件夹中的所有内容

  29. 29

    使用bash从S3下载私有文件

热门标签

归档