运行脚本时使用多处理

瑞安

我正在运行一个脚本,它接受一个 url 并在本地下载文件,然后将文件名作为参数传递给函数。问题是这样做需要很多时间。所以我尝试使用线程池,但这并没有给出任何改进。我做错了吗,这是它的样子。

pool = ThreadPool(processes=8)
ocr_result = pool.apply_async(download_file, (url,))
file_name = ocr_result.get()
async_result = pool.apply_async(return_label, (file_name,))
prediction, prediction_list  = async_result.get() 

任何建议都会非常有帮助。提前致谢。

knh190

正如评论中所建议的,有一个使用aiohttpand的示例asyncio

def main():
    # limit concurrency
    loop = asyncio.get_event_loop()
    connector = aiohttp.TCPConnector(limit=100)

    # login if required
    async with aiohttp.ClientSession(loop=loop, connector=connector) as sess:
        async with sess.post(
                LOGIN_URL, data=payload) as resp:

            # ensure login success
            assert resp.status == 200
            for url in download_links:
                await download(url, sess)

您的下载功能如下所示:

async def download(url, sess):
    async with sess.get(url) as resp:
        if resp.status == 200:
            # post process

最后使用主循环:

loop = asyncio.get_event_loop()
loop.run_until_complete(main())

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

关闭时批处理运行脚本

来自分类Dev

使用nohup运行脚本时出错

来自分类Dev

使用setsid运行脚本时在perl中处理ctrl + c

来自分类Dev

使用setsid运行脚本时在perl中处理ctrl + c

来自分类Dev

运行脚本时出错

来自分类Dev

使用`sh`运行脚本时找不到错误

来自分类Dev

使用`sh`运行脚本时找不到错误

来自分类Dev

使用VBA运行脚本时出现awk错误

来自分类Dev

使用System()运行脚本时出现细分错误

来自分类Dev

使用输入启动时自动运行脚本?

来自分类Dev

使用 IPython 运行脚本时解析参数

来自分类Dev

运行脚本时脚本替换的问题

来自分类Dev

使用Bash运行脚本

来自分类Dev

使用条件从Powershell脚本运行脚本

来自分类Dev

使用变量从脚本运行脚本

来自分类Dev

运行脚本时出现Python KeyError

来自分类Dev

确定运行脚本时传递的参数

来自分类Dev

运行脚本时出现ModuleNotFoundError错误

来自分类Dev

启动时无法运行脚本

来自分类Dev

登录Windows时自动运行脚本

来自分类Dev

打开OpenBox时如何运行脚本?

来自分类Dev

运行脚本时出现Python KeyError

来自分类Dev

运行脚本时出现RuntimeError?

来自分类Dev

运行脚本时出现问题

来自分类Dev

如何使用多线程/多处理并行高效地运行python脚本?

来自分类Dev

使用'#!/ bin / sh'运行脚本时,该脚本不起作用

来自分类Dev

使用 Testng xml 运行脚本时获取 NullPointerException 但脚本在使用“以编程方式运行 Testng”时运行正常

来自分类Dev

在运行时传递参数时使用getopt(s)运行脚本的特定部分

来自分类Dev

使用xCode Server Bot运行脚本