フェデレーテッドラーニングにおける不信頼サーバーへの防御のためのパラメータ断片化とグループシャッフリングの組み合わせ

共有モデルを守ることが重要な理由

私たちのスマートフォン、病院、銀行はますます人工知能によって支えられています。多くの組織が共同で共有モデルを訓練したいと望むことが多い一方で、法律や常識は生データを一カ所に集めてはいけないと制約します。フェデレーテッドラーニングはこの対立を解決するために考案されました：各参加者が自分のデバイスで学習し、モデルの更新のみを共有します。しかし本論文は、中央サーバーが好奇心旺盛または不誠実な場合、そうした更新情報でさえ個人情報を漏えいさせうることを示し、さらにデータと個人の識別をより安全に保つ新しい方法を提示します。

引用: Guo, H., Chen, W., Li, J. et al. Combining parameter fragmentation and group shuffling to defend against the untrustworthy server in federated learning. Sci Rep 16, 5097 (2026). https://doi.org/10.1038/s41598-026-35420-w

キーワード: フェデレーテッドラーニング, データプライバシー, 差分プライバシー, モデル反転攻撃, セキュア集約