D2MIF:一种用于联邦学习的人工智能的恶意模型检测机制

物联网人工智能（AIoT）作为人工智能（AI）和物联网（IoT）的融合，已成为实现工业4.0智能化的新趋势，而数据隐私和安全是其成功实施的关键 . 为加强数据隐私保护，AIoT引入联邦学习，让参与者在不共享隐私数据的情况下，共同训练AI模型。 然而，在联邦学习中，恶意参与者可能会通过发起投毒攻击来提供恶意模型，这将危及全局模型的收敛性和准确性。

为了解决这个问题，我们提出了一种基于隔离森林（iforest）的恶意模型检测机制，名为 D2MIF，用于联邦学习授权的 AIoT。 在 D2MIF 中，构建了一个 iforest 来计算相应参与者上传的每个模型的恶意分数，然后，如果模型的恶意分数高于阈值，则会过滤该模型，该阈值使用强化学习 (RL) 进行动态调整。 验证实验是在两个公共数据集 Mnist 和 Fashion_Mnist 上进行的。 实验结果表明，所提出的 D2MIF 可以有效地检测恶意模型，并显着提高联合学习授权的 AIoT 中的全局模型准确性。