Federated learning

Federated learning is een manier om één AI-model te trainen op data die op veel verschillende plekken blijft staan. Elke telefoon, winkel of elk ziekenhuis traint het model op de eigen data en stuurt alleen terug wat het model heeft geleerd, nooit de data zelf. Zo kunnen organisaties die hun klant- of patiëntgegevens niet mogen samenvoegen toch samen een model bouwen.

Hoe werkt het?

De naam en de basismethode komen van McMahan e.a. van Google (2016). In hun algoritme Federated Averaging (FedAvg) verloopt een trainingsronde zo:

1. De server stuurt het huidige model naar een willekeurige steekproef van de deelnemers (clients).
2. Elke client traint het model een paar rondes op de eigen data.
3. Elke client stuurt het bijgewerkte model terug, niet de data.
4. De server middelt de modellen, waarbij clients met meer data zwaarder meetellen, en begint aan de volgende ronde.

Omdat elke client per ronde meer werk doet, had FedAvg in hun experimenten 10 tot 100 keer minder communicatierondes nodig dan gewone gedistribueerde training met stochastic gradient descent. Google beschreef de versie voor telefoons in april 2017: de telefoon downloadt het model, verbetert het met data op de telefoon en stuurt een kleine, versleutelde update, die wordt gemiddeld met de updates van andere gebruikers. De training draait alleen als de telefoon niet in gebruik is, aan de lader hangt en op gratis wifi zit.

Waar wordt het gebruikt?

Het overzichtsartikel van Kairouz e.a. (2019) onderscheidt twee situaties:

• Cross-device: een heel groot aantal telefoons of andere apparaten, tot miljarden toe. Het artikel noemt het Gboard-toetsenbord van Google en het gebruik door Apple in iOS 13 voor het QuickType-toetsenbord en de stemherkenning voor "Hey Siri".
• Cross-silo: een paar organisaties, zoals ziekenhuizen of banken, meestal 2 tot 100.

Een cross-silo-studie: Sheller e.a. (2020) trainden een model voor hersentumoren op scans van 10 instellingen, die net als in de praktijk gescheiden bleven. Het federatieve model haalde 99% van de kwaliteit van een model dat op alle data op één plek was getraind.

Waar gaat het mis?

• Updates kunnen data prijsgeven. Zhu e.a. (2019) reconstrueerden uit gedeelde gradiënten trainingsafbeeldingen pixel voor pixel en teksten token voor token. Daarom is extra bescherming gebruikelijk: secure aggregation, waarbij de server volgens Google alleen het gemiddelde van honderden of duizenden updates kan ontsleutelen, en differential privacy, dat de updates begrenst en er ruis aan toevoegt, zoals Kairouz e.a. beschrijven.
• De data is ongelijk verdeeld. Elke client heeft een eigen mix van data; McMahan e.a. noemen zulke ongelijk verdeelde, niet-IID data een bepalend kenmerk van deze aanpak.
• Apparaten komen en gaan. Volgens Google hebben telefoons trage verbindingen met veel vertraging en zijn ze maar af en toe beschikbaar voor training.

Kairouz e.a. concluderen dat federated learning veel van de systemische privacyrisico's van centrale training kan beperken. Het is daarmee een manier om risico te verkleinen, en het maakt een project niet vanzelf in orde met de privacywet.

Voorbeeld

Stel: een groep van 30 tandartspraktijken wil een model dat opvallende röntgenfoto's markeert, maar de praktijken mogen hun patiëntdossiers niet samenvoegen. Met federated learning traint elke praktijk het gedeelde model 's nachts op de eigen röntgenfoto's en stuurt alleen het bijgewerkte model terug, en een coördinator middelt de resultaten. De patiëntdossiers verlaten de praktijken nooit. De groep moet nog wel afspreken wie de coördinator beheert en of de updates worden beschermd met secure aggregation of differential privacy.