python中的多处理/多线程下载文件

杰克·黄

我有一个csv文件,其中包含我希望从Yahoo Finance中提取的符号列表。(其中约3000个)

df = pandas.read_csv('ticker_file.csv')
start = datetime.datetime(2010, 1, 1)
end = datetime.datetime.today()

for each_code in df['Symbol']:  # got it from pandas website "Remote Data Access"
    get_prices = web.DataReader(each_code, 'yahoo', start, end)
    get_prices.to_csv(each_code + '.csv')

将其拉出symbol并保存到大约需要2.5-3秒csv

我想知道,是否有可能/更快地使用多处理/超线程来加快此过程?

pyInTheSky

您可以非常轻松地使用多进程工作池。看一下https://docs.python.org/2/library/multiprocessing.html和给出的第一个示例(使用5个工人的池)。它看起来像这样:

def f(each_code):
    start = datetime.datetime(2010, 1, 1)
    end = datetime.datetime.today()
    get_prices = web.DataReader(each_code, 'yahoo', start, end)
    get_prices.to_csv(each_code + '.csv')

p = Pool(20)
p.map(f, df['Symbol'])

无法确定是否会加快速度。只要网站不抱怨,它就可能会这样做。

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

python中的多处理/多线程下载文件

来自分类Dev

在python中使用多线程下载文件

来自分类Dev

Python多处理与多线程结合

来自分类Dev

Python多线程与多处理与顺序执行

来自分类Dev

BASH中的多处理/多线程

来自分类Dev

C 中的多线程与多处理

来自分类Dev

如何使用Python 2.7通过HTTP使用多线程下载文件(异步下载)

来自分类Dev

使用多线程在Java中下载文件

来自分类Dev

使用多线程在Java中下载文件

来自分类Dev

Python中具有多线程/多处理功能的矩阵求和

来自分类Dev

Python多线程和多处理可加速循环

来自分类Dev

使用多处理或多线程来提高Python的抓取速度

来自分类Dev

在Python中将多线程转换为多处理

来自分类Dev

如何实现请求的多线程或多处理

来自分类Dev

多线程/多处理加快抓取

来自分类Dev

多线程是多处理的扩展吗?

来自分类Dev

守护进程行为多处理多线程

来自分类Dev

多线程Python中的信号处理

来自分类Dev

一般文件操作使用多线程还是多处理?

来自分类Dev

KIVY(Python)线程无法通过在iOS中调用Objective C方法下载文件

来自分类Dev

用于在Python中下载NCBI文件的多线程

来自分类Dev

在Python中同时下载文件

来自分类Dev

Python多处理/线程清理

来自分类Dev

Python多处理线程池

来自分类Dev

Python Google Sheets APIv4:同时进行多处理和多线程

来自分类Dev

如何使用多线程/多处理并行高效地运行python脚本?

来自分类Dev

在 Python 中进行多线程/多处理时如何避免重复结果?

来自分类Dev

多线程应用程序如何在多处理器系统中工作

来自分类Dev

如何有效地利用多处理和多线程将并行使用python的1000个视频文件转换为音频

Related 相关文章

热门标签

归档