时间戳

首页 > 解决方案 > 联合平均和 TensorFlow

tensorflow - 联合平均和 TensorFlow

问题描述

我是联邦学习的新手，刚开始了解 TensorFlow Federated TFF 框架。我心中有一些问题，如果有人能澄清它们，我将不胜感激：

  1. 联邦平均算法是 TFF 中唯一支持的聚合算法吗？以及它与联邦随机梯度下降有何不同？
  2. 剂量联合平均要求每个客户都接受神经网络培训？或者可以使用任何机器学习算法对本地数据进行训练？
  3. 我有大数据，我打算将我的数据划分为更小的数据集，并将每个部分模拟为一个客户？这在 TFF 中有效吗？它是否考虑横向或纵向联邦学习？

提前致谢

标签： tensorflowtensorflow-federatedfederated-learning

解决方案

图像分类的联邦学习教程将是学习 TFF 的良好开端：https ://www.tensorflow.org/federated/tutorials/federated_learning_for_image_classification “准备输入数据”部分与您的第三个问题有关。关于垂直与水平：我知道最近的出版物中定义了许多类型的联邦学习。就我个人而言，我将您所描述的称为跨孤岛联邦学习，请参阅本文第 2.2 节了解更多信息：https ://arxiv.org/abs/1912.04977

要回答您的其他问题：

请参阅上面的教程，了解如何在服务器端和客户端设置 SGD 学习率的同时创建具有联合平均的 iterative_process。您还可以实现自定义的联邦学习算法：https ://www.tensorflow.org/federated/tutorials/building_your_own_federated_learning_algorithm （本教程还可能回答您关于自定义本地训练的第二个问题？）

推荐阅读