Waakhond: laat organisaties algoritmes verantwoorden

Organisaties die “serieus persoonsgegevens verwerken” moeten voor, tijdens en na het gebruik van algoritmes en kunstmatige intelligentie (AI) verantwoording over dit gebruik afleggen, als dit grote impact op burgers kan hebben. Daarvoor pleit de Autoriteit Persoonsgegevens (AP), die toezicht houdt op de verwerking van persoonsgegevens. De zogeheten sets van instructies die een computer volgt hebben nog te veel risico’s, concludeert de toezichthouder in een nieuw rapport. Dan gaat het bijvoorbeeld om het risico op discriminatie, kansenongelijkheid, misleiding en gebrek aan transparantie en uitleg over algoritmes.

Volgens de waakhond werken inmiddels bijna alle organisaties met algoritmes: van banken en ziekenhuizen tot bouwbedrijven. “Veel klanten betekent veel data van klanten in je bestanden”, zegt AP-voorzitter Aleid Wolfsen. De toeslagenaffaire is het bekendste voorbeeld van een algoritme dat burgers benadeelde. Bij de Belastingdienst kwamen mensen met een dubbele nationaliteit eerder uit het systeem rollen. Onlangs gingen DUO en het UWV ook de fout in met algoritmes.

Duidelijke regels vanuit de overheid voor algoritmes en AI zijn “nu cruciaal”, staat in het rapport. Er ontbreken nog te vaak instrumenten om alle risicovolle algoritmes te monitoren en te beheersen. Zolang deze ontbreken moeten organisaties in Nederland ook terughoudend zijn met nieuwe toepassingen van algoritmes, zoals slimme chatbots.

Het demissionaire kabinet moet “voortgang maken en versnellen met inspanningen voor beleid”, vindt de AP. Wolfsen is niet bang dat de Tweede Kamer algoritmes en kunstmatige intelligentie controversieel verklaart. “Juist in een demissionaire periode mag de bescherming van burgers niet stilliggen.”

In het bestaande register voor algoritmes die overheidsinstellingen gebruiken moeten over een jaar alle hoogrisico-algoritmes staan, zegt Wolfsen. Invullen is nu nog niet verplicht, maar de AP ziet daar ruimte voor nu een Kamermeerderheid ook voor verplichting pleit. De NOS meldde eerder dat het register nauwelijks werd ingevuld en informatie ontbrak.

Organisaties en bedrijven kunnen zelf al aan de slag, zegt Wolfsen. “Inventariseer wat je aan algoritmes gebruikt. Welke hebben een hoog risico en zijn de uitkomsten terecht? Als je dat niet doet kunnen er serieuze rampen gebeuren”, verwijst hij naar de toeslagenaffaire. Bedrijven moeten ook zorgen dat in “de hoogste leiding”, ook in besturen, mensen zitten die snappen hoe algoritmes werken.