Verantwoorde AI

Verantwoorde AI (responsible AI) betekent dat je AI zo bouwt en gebruikt dat ze eerlijk, veilig en open is tegenover mensen, en dat iemand ervoor instaat als het misgaat. Voor een bedrijf komt het neer op vragen: behandelt de tool alle klanten gelijk, weten mensen dat ze met AI te maken hebben, zijn persoonsgegevens beschermd, en controleert een mens belangrijke beslissingen? In de EU is een deel hiervan wet.

Welke principes horen erbij?

Eén vaste lijst bestaat niet, maar de belangrijkste overlappen. De AI-principes van de OESO (mei 2019, bijgewerkt in mei 2024), de eerste intergouvernementele standaard voor AI, noemen vijf waarden: inclusieve groei en welzijn; mensenrechten en democratische waarden, waaronder eerlijkheid en privacy; transparantie en uitlegbaarheid; robuustheid, beveiliging en veiligheid; en verantwoording. In april 2019 publiceerde een onafhankelijke expertgroep, aangesteld door de Europese Commissie, zeven vereisten voor betrouwbare AI, van menselijk toezicht tot welzijn van samenleving en milieu. Microsoft werkt met zes principes: eerlijkheid, betrouwbaarheid en veiligheid, privacy en beveiliging, inclusiviteit, transparantie en verantwoording.

Hoe worden principes praktijk?

De Responsible AI Standard van Microsoft (juni 2022) deelt elk principe op in doelen en eisen voor de teams, zoals effectbeoordelingen, databeheer en menselijk toezicht onder verantwoording. Het toepassen ervan veranderde producten:

• Microsoft beperkte de toegang tot zijn gezichtsherkenningsdienst tot beheerde klanten en partners, en schrapte functies die emoties, geslacht of leeftijd uit een gezicht zouden aflezen. Voor emoties wees het op het gebrek aan wetenschappelijke consensus over wat emoties zijn.
• Nadat een studie in maart 2020 had gevonden dat spraak-naar-tekst in de hele techsector bij sommige zwarte sprekers bijna twee keer zoveel fouten maakte als bij witte sprekers, haalde Microsoft een sociolinguïst erbij en verzamelde het gevarieerdere spraakdata.

Andere gangbare hulpmiddelen hebben een eigen artikel: model cards, red teaming, tests op bias en controles met een mens in de lus (human-in-the-loop).

Wat eist de wet?

In de EU werd een deel hiervan wet met de AI-verordening. Die herinnert in haar overwegingen aan de zeven vereisten uit 2019. Sinds 2 februari 2025 verbiedt ze onder meer emotieherkenning op het werk en in het onderwijs, behalve om medische of veiligheidsredenen. Sinds 2 augustus 2026 moet een chatbot duidelijk maken dat mensen met AI te maken hebben, tenzij dat vanzelf spreekt. Strenge plichten voor toepassingen met een hoog risico, zoals het selecteren van sollicitanten, gelden vanaf 2 december 2027, een datum die de AI-omnibus van juli 2026 vastlegde.

Waar schiet het tekort?

Principes zijn vrijwillig en kunnen veranderen. In februari 2025 herschreef Google de AI-principes die het in 2018 had gepubliceerd, en de nieuwe versie bevat niet langer de belofte om geen AI te ontwikkelen voor wapens of voor surveillance die internationaal aanvaarde normen schendt, meldde CNBC. Principes kunnen ook met elkaar botsen. Kleinberg e.a. bewezen in 2016 dat drie gangbare eerlijkheidsvoorwaarden voor risicoscores niet tegelijk kunnen gelden, behalve in speciale gevallen.

Voorbeeld

Stel: een uitzendbureau laat een AI-tool cv's voorsorteren. Verantwoord werken betekent dan: het bureau vergelijkt per groep, zoals mannen en vrouwen of leeftijdsgroepen, wie doorgaat; het vertelt sollicitanten dat er AI meekijkt; het bewaart cv-gegevens niet langer dan nodig; en een recruiter beoordeelt elke afwijzing. Cv-screening valt onder de AI-verordening in de categorie hoog risico, dus vanaf 2 december 2027 moet het bureau ook de gebruiksaanwijzing van de tool volgen en een bekwaam persoon toezicht laten houden.