时间戳

首页 > 解决方案 > Python中的多处理或线程化for循环

python - Python中的多处理或线程化for循环

问题描述

我目前正在做一个需要帮助的项目。我正在研究一些大型图表，尽管多年来我需要获取它们的一些属性。我正在考虑使用 Python 中的多处理或线程包。我有一个 for 循环，每年都会进行并生成一个 csv。我不确定如何并行化这个，你能帮我吗？这是我的代码：

for year in tqdm(years):
    
    temp_df = df[df.label <= year]
    processed_df = id_df.copy()
    G = nx.DiGraph()
    G.add_edges_from(temp_df.iloc[:,:2].values.tolist())
    
    # Degree Centrality
    DegreeCentrality = degree_centrality(G)
    DegreeCentrality_df = pd.DataFrame(DegreeCentrality.items(), columns=['id', 'DegreeCentrality'])
    processed_df = pd.merge(processed_df, DegreeCentrality_df, how='left', on='id').fillna(0)
    
    del DegreeCentrality
    del DegreeCentrality_df
    gc.collect()
    
    # In Degree Centrality
    InDegreeCentrality = in_degree_centrality(G)
    InDegreeCentrality_df = pd.DataFrame(InDegreeCentrality.items(), columns=['id', 'InDegreeCentrality'])
    processed_df = pd.merge(processed_df, InDegreeCentrality_df, how='left', on='id').fillna(0)
    
    del InDegreeCentrality
    del InDegreeCentrality_df
    gc.collect()

   processed_df.to_csv('properties_{}'.format(year), index=False)

我的猜测是我应该将 for 循环中的所有内容都作为一个函数，并为不同的线程调用它。任何帮助将不胜感激，谢谢！

标签： pythonmultithreadingmultiprocessing

解决方案

您可以将 for 循环中的所有代码添加到函数中，并使用 python 中的多处理库调用它。在这里查看：https ://docs.python.org/3/library/multiprocessing.html

推荐阅读