我有一个文件要下载(从json中提取下载路径,例如:)http://testsite/abc.zip
。
我需要执行帮助,所有5个线程都应将abc.zip
文件下载到输出目录,并且下载必须是异步或并发的。
当前使用以下代码,它确实可以下载文件5次,但可以一次下载一个(同步)。
我想要的是下载是同时进行的。
def dldr(file=file_url, outputdir=out1):
local_fn = str(uuid.uuid4())
if not os.path.exists(outputdir):
os.makedirs(outputdir)
s = datetime.now()
urllib.urlretrieve(file, outputdir + os.sep + local_fn)
e = datetime.now()
time_diff = e - s
logger(out1, local_fn, time_diff)
for i in range(1, 6):
t = threading.Thread(target=dldr())
t.start()
我将线程模块用于下载线程:
也可以请求,但是您可以自己将其更改为urllib。
import threading
import requests
def download(link, filelocation):
r = requests.get(link, stream=True)
with open(filelocation, 'wb') as f:
for chunk in r.iter_content(1024):
if chunk:
f.write(chunk)
def createNewDownloadThread(link, filelocation):
download_thread = threading.Thread(target=download, args=(link,filelocation))
download_thread.start()
for i in range(0,5):
file = "C:\\test" + str(i) + ".png"
print file
createNewDownloadThread("http://stackoverflow.com/users/flair/2374517.png", file)
本文收集自互联网,转载请注明来源。
如有侵权,请联系[email protected] 删除。
我来说两句