FedOVA: A Simple and Efficient Federated Learning Framework for Non-IID Data

我们的起点是利用梯度和曲率信息来寻找'更好'的梯度下降方向，从而显著加快收敛速度。在此基础上，为了解决非独立同分布问题，我们提出了一个简单但优雅的训练方案，即FedOVA（联邦单对全），通过将多分类任务分解为多个二分类任务，可以有效地处理FEEL中的非独立同分布数据。具体而言，我们的洞见是通过引入One-vs-All[17]训练方案，将联邦多类分类任务在客户端上分解为多个二分类任务。特别是，本文的主要贡献如下所述。