Nederlandse algoritmetoezichthouder gaat in januari 2023 van start

De Nederlandse algoritmetoezichthouder wordt vanaf begin volgend jaar actief. De Autoriteit Persoonsgegevens gaat die taak grotendeels zelf invullen. De toezichthouder moet de risico’s van algoritmes in kaart brengen en samenwerkingen met andere toezichthouders opzetten.

Alexandra van Huffelen van Digitalisering kondigt de officiële komst van de algoritmetoezichthouder aan in een brief aan de Tweede Kamer. Daarin beschrijft ze de taken die de nieuwe toezichthouder precies gaat krijgen. De brief volgt een dag nadat Van Huffelen het algoritmeregister presenteerde. De nieuwe toezichthouder gaat onder andere naar het register kijken als leidraad, maar is daar niet aan gebonden.

De algoritmetoezichthouder komt onder de Autoriteit Persoonsgegevens te vallen. Dat was al bekend, want dat voornemen stond al opgenomen in het regeerakkoord. Opvallend is dat de huidige toezichthouder veel ruimte krijgt om het algoritmetoezicht in te vullen. Daarmee lijkt Van Huffelen tegemoet te komen aan de wens van de AP zelf. Voorzitter Aleid Wolfsen heeft meerdere keren tegen Tweakers gezegd dat hij het niet nodig vond een nieuwe toezichthouder op te zetten, omdat de AP nu al toezicht houdt op algoritmes als daar persoonsgegevens in worden verwerkt. Dat is in vrijwel alle gevallen het geval, als het gaat om algoritmes zoals de overheid die voor het register en de toezichthouder definieert. De nieuwe toezichthouder wordt in de praktijk dan ook een nieuwe afdeling binnen de AP, waar de toezichthouder zelf de invulling nog aan gaat geven.

De Autoriteit Persoonsgegevens gaat vanaf begin 2023 van start met dat proces. Van Huffelen beschrijft drie taken die de AP voor dit toezicht op moet pakken:

• Het signaleren en analyseren van sectoroverstijgende en overkoepelende risico’s en effecten van algoritmen en het delen van kennis daarover;
• Het optimaliseren van (bestaande) samenwerkingen met colleges, markttoezichthouders en rijksinspecties, en het in kaart brengen van overkoepelend toezicht op het gebied van algoritmen en AI;
• Het komen tot gezamenlijke normuitleg en het scheppen van overzicht in wettelijke en andere kaders.

Risico’s in kaart brengen

In het eerste geval moet de waakhond kijken waar er in de maatschappij mogelijk algoritmes worden ingezet en vooral welke risico’s die hebben. Dat moet de waakhond dan gaan delen met andere toezichthouders, maar ook met burgers, bedrijven of wetenschappelijke instituten. “Hierdoor krijgen toezichthouders mogelijke (nieuwe) inzichten in significante ontwikkelen en risico’s”, schrijft Van Huffelen. Dat onderzoek moet openbaar worden gemaakt.

De AP moet ook gaan bepalen wat een algoritme precies isDe vraag over wanneer een algoritme precies risico’s met zich meebrengt, is momenteel nog moeilijk te beantwoorden. Staatssecretaris van Huffelen vertelde op woensdag nog aan Tweakers dat er nog invulling wordt gegeven aan dat vraagstuk. In het algoritmeregister dat toen werd gepresenteerd, werd nog gesproken over algoritmes die ‘een impact op burgers kunnen hebben’. Dat zijn bijvoorbeeld algoritmes waarmee (deels) geautomatiseerde besluiten over burgers worden genomen. Het wordt deels de taak van de nieuwe toezichthouder om die definitie concreter te maken.

Samenwerkingen

Het tweede onderdeel is dat de AP ‘bestaande samenwerkingen moet optimaliseren’. Daarbij gaat het over het toezicht dat nu al op algoritmes wordt gehouden. Dat doen verschillende toezichthouders voor hun eigen sectoren. Zo kijkt de Autoriteit Financiële Markten naar algoritmes bij verzekeraars of banken, en controleert het Commissariaat van de Media algoritmes die in die sector worden gebruikt. Ook is het aan de Autoriteit Persoonsgegevens zelf om algoritmes te controleren over al die sectoren. Van Huffelen wil dat er meer eenduidigheid komt in die samenwerkingen.

Dat betekent niet dat de AP of de nieuwe toezichthouder alle toezicht naar zichzelf gaat trekken. Dat zou ook teveel werk zijn. De AP moet ‘bestaande samenwerkingen optimaliseren’. Wat dat in de praktijk gaat inhouden, moet de AP nog uitwerken.

Normuitleg

Ook voor de AVG moet de AP voor normuitleg zorgenTot slot moet de nieuwe toezichthouder een ‘gezamenlijke normuitleg’ formuleren. Dat doet de AP nu bijvoorbeeld ook al met de AVG. Daarin staan begrippen zoals ‘gerechtvaardigd belang’, maar geen exacte omschrijving van wat dat betekent. De AP moet nu ook voor algoritmes gaan uitleggen wat bepaalde termen betekenen en wat die inhouden voor bedrijven of overheden die algoritmes inzetten en wat burgers daaraan kunnen hebben.

In het komende jaar gaan zowel de Autoriteit Persoonsgegevens als het ministerie van Binnenlandse Zaken verder uitwerken wat de algoritmetoezichthouder precies gaat doen. De AP krijgt de komende jaren meer geld voor de toezichthouder. In 2024 komt daarvoor twee miljoen euro vrij, in 2025 drie miljoen euro. Vanaf 2026 wordt er structureel jaarlijks 3,6 miljoen euro vrijgemaakt voor de activiteiten. Ter vergelijking, de AP krijgt in 2023 een budget van 28 miljoen euro.

Een toezichthouder op algoritmes was een van de belangrijkste digitaliseringsstandpunten uit het regeerakkoord van kabinet Rutte IV. Verschillende partijen, van links tot rechts, pleitten voor zo’n aparte toezichthouder. Dat gebeurde nadat het eerdere kabinet Rutte III was gevallen over de toeslagenaffaire, waarin discriminerende algoritmes centraal stonden. Eerder ontstond ook al ophef over algoritmes zoals het Systeem Risico Indicatie of SyRI. Staatssecretaris van Huffelen wilde de algoritmewaakhond voor de zomer al in het leven roepen, maar dat liep uiteindelijk vertraging op.

Een algoritmetoezichthouder is daarnaast een verplichting vanuit Europa. De Europese Unie nam onlangs de AI Act aan. Daarin staat dat iedere lidstaat verplicht een toezichthouder in het leven moet roepen die kijkt naar ‘zelfsturende kunstmatige intelligentie’. De Nederlandse toezichthouder zal in de praktijk ook andere algoritmes blijven controleren.