python - Python使用调度库下载文件
问题描述
我有一个称为 oaids 的 id 列表,我希望从周一到周五从午夜到下午 6 点下载它们,但只能在一天中的特定时间段内下载。因为它是一个列表,所以如果它已经下载,我希望它不要重新开始。
下面我虽然但我不确定,你有什么建议吗?
import schedule
from schedule import repeat
from more_itertools import chunked
def main():
oaids = ['id1', 'id2', 'others..']
for chunked_oaids in chunked(oaids, os.cpu_count()):
schedule.every() \
.monday \
.to(5).days \
.at('00:00:00') \
.to(15).hours \
.do(do_download_job, oaids=chunked_oaids)
def do_download_job(oaids):
with ProcessPoolExecutor(os.cpu_count()) as ex:
results = [ex.submit(download_and_upload, oaid, target_az_container, az_subfolder) for oaid in oaids]
解决方案
推荐阅读
- python - 如何重置从我的 ipywidget 命令按钮生成的输出,以便仅显示更新的 DataFrame?
- python - tkinter 框架在添加小部件时调整大小,为什么我的标签总是在中心位置?
- java - 用户打开应用程序时如何显示主页?
- powershell - Powershell如何包含用户名和进程名等?
- eve - 您如何将身份验证添加到 eve_swagger 提供的路由中?
- python - 如何在 python 中为松弛 API 消息获取单个输出中的所有字典值
- php - Chrome串口通信
- python - 是否可以在 1 毫秒内向 Flask 发出休息请求?
- javascript - 单击按钮时将单选按钮值存储在数据库中
- scala - 如何将案例类数据列表转换为字符串数据列表?