联邦学习：密码学 + 机器学习 + 分布式实现隐私计算，破解医学界数据孤岛的长期难题-编程知识

联邦学习：密码学 + 机器学习 + 分布式

提出背景：数据不出本地，又能合力干大事
联邦学习的问题
联邦学习架构

分布式机器学习：解决大数据量处理的问题
横向联邦学习：解决跨多个数据源学习的问题
纵向联邦学习：解决数据分散在多个参与者但部分特征重叠的问题
联邦 + 迁移学习：结合联邦学习和迁移学习，不同任务间共享知识，同时保持数据隐私
医疗 + 联邦学习：跨多个医疗机构共享模型学习，同时保护患者隐私
大模型 + 联邦学习

提出背景：数据不出本地，又能合力干大事

这联邦学习呢，就是让不同的地方一起弄一个学习的模型，但重要的是，大家的数据都是自己家的，不用给别人。

这样一来，人家的秘密就不会到处乱跑（数据不出本地），又能合力干大事。

＜没有联邦学习的情况＞

在没有联邦学习的情况下，医院面临的一个主要问题是数据隔离。

每个医院只能依赖自己收集的数据来训练疾病诊断（如糖尿病）模型。

这意味着模型的有效性和准确性受限于各自医院的数据量和多样性。

对于罕见病例或特殊种群，数据量可能不足以准确训练模型。

此外，由于患者隐私和数据保护的关切，医院之间共享详细的患者数据存在法律和道德障碍。

在这里插入图片描述

＜引入联邦学习后的情况＞

在这种模式下，不同医院可以合作训练一个共享的疾病诊断（如糖尿病）模型。

每个医院使用自己的患者数据本地训练模型，然后将模型的更新（而不是敏感的患者数据）分享给其他医院。

初始模型共享：首先，所有参与的医院都从一个初始模型开始。这个初始模型可以是一个基础的、未经过大量训练的模型。
本地训练：然后，每个医院使用自己的患者数据在本地独立训练这个模型。由于每个医院的患者构成可能不同，这意味着每个医院训练出的模型会稍有不同，反映了它们各自独特的患者数据特征。
模型更新共享：训练完成后，每个医院不是共享其患者数据，而是只共享其模型训练的更新。这些更新可以是模型权重的调整或其他形式的技术细节。
集成学习：最后，这些来自不同医院的模型更新被集成到初始模型中。这样，模型就能从每个医院的数据中学习，而不需要直接访问这些数据。

通过这种方式，联邦学习允许每个医院贡献它们的专业知识和数据见解，同时保护患者数据的隐私。

优势在于：

增强模型的准确性和泛化能力：由于模型是基于更广泛和多样化的数据集训练的，因此联邦学习模型性能比只使用本地数据训练的好，性能趋近于（低于）使用全部数据训练的模型
保护患者隐私：患者数据不离开原医院，降低了隐私泄露的风险。而且模型参数是加密的，无法反推其他参与方的原始数据
跨医院合作：即使面临法律和伦理限制，医院仍能通过共享模型更新而非数据本身来实现合作。

因此，联邦学习解决了数据孤岛问题，提高了诊断模型的准确性和可靠性，同时保障了患者数据的隐私安全。

当需要多个参与方共同完成一件事，每个参与方都有其他方不具备的数据，同时也不能共享，就能使用联邦学习。

联邦学习的问题

联邦学习的问题，源于数据的特性和分布。

一、非独立同分布（Non-IID）的数据

不同的机构或个人，持有的数据往往在统计特性上有所不同。

这意味着数据可能不是独立的（一个病人得了糖尿病，还有高血压）或者具有不同的分布（山区的医院多心脏病，而海边的医院多糖尿病）。

这种差异可能导致模型在某些数据属主上表现良好，而在其他数据属主上表现不佳。

例子：

假设一个联邦学习系统用于不同地区医院的病例数据分析。
每个医院的病例分布可能因地理位置、患者人群和医院专长等因素而有所不同。
某个地区可能有更高的糖尿病发病率，而另一个地区可能有更多心脏疾病案例。
这些差异会影响学习模型的整体性能。

二、数据不平衡

一些机构可能拥有大量的数据，而其他机构只有少量数据。

在聚合模型参数时，数据量较大的属主可能对模型的训练结果有更大的影响，这可能会导致模型偏向于这些数据多机构的特点，忽视其他数据少机构。

三、通信、计算的效率

同态加密会导致高的计算量。

混淆电路会导致高的通信量。

四、信任问题

信任问题：
- 在联邦学习中，不同的数据属主（例如医院）和集中式服务器之间存在信任问题。因为参与者或服务器中的任何一方都有可能不完全可靠，甚至可能有攻击者。
潜在的攻击者：
- 参与者或服务器中的某些人可能是恶意攻击者，他们可能试图窃取私人信息或干扰训练算法。
交换模型参数而非原始数据：
- 联邦学习通过交换模型参数（如局部梯度），而不是原始数据，来保护每个数据属主的隐私。这意味着参与者不会共享他们的原始数据，只分享用于模型训练的信息（如权重更新、梯度等）。
梯度泄露风险：
- 即使是这些模型参数，如果被恶意分析，也可能泄露原始数据的敏感信息。例如，通过对交换的梯度进行分析，攻击者可能推断出一些原始数据特征。