Pilot ‘Assessment voor verantwoorde AI’: Wat is dat eigenlijk?

AI, wat is het en wat kan het? Voor veel mensen is dit nog onduidelijk. Wat wel helder is, is dat onze samenleving steeds meer draait op algoritmen en data-uitwisseling. Een ontwikkeling waar je als overheid op in moet spelen. Maar niet zomaar. Om in de toekomst gebruik te kunnen maken van de technologie verkennen  we de kansen en risico’s.

Als overheid willen we de kansen van AI benutten, maar de technologie roept nog veel belangrijke vragen op. Hoe betrouwbaar zijn algoritmen? Kan een algoritme discrimineren? En hoe transparant is het gebruik van AI? In de drie maanden durende pilot  ‘Assessment voor verantwoorde AI’ zoeken we naar antwoord op de vragen:

  • Hoe stuur je als overheid op de ontwikkeling en het gebruik van verantwoorde AI?
  • Welke kaders, wet- en regelgeving zijn belangrijk, en hoe toetsen we die in de ontwikkeling en het gebruik van AI?
  • Hoe analyseer, beoordeel en verbeter je AI-toepassingen? En zijn de toepassingen in overeenstemming met publieke waarden en mensenrechten?

Inhoud pilot

In de pilot beoordelen we een algoritme van de provincie Fryslân. Deze analyseren we aan de hand van de Z-inspection methode van Roberto Zicari; een self-assessment waarbij deelnemers met elkaar in gesprek gaan over kritische vraagstukken zoals: het doel van het algoritme, het ontwikkelproces, ethische dilemma’s en belangenverstrengeling. De Z-inspection methode is een werkwijze om AI-toepassingen duurzaam, aantoonbaar en transparant te analyseren, beoordelen en verbeteren. Zo kunnen organisaties op gestructureerde wijze verantwoorde AI-toepassingen ontwikkelen en gebruiken.

Verder is het van groot belang dat de kennis en ervaringen uit de pilot worden gedeeld. Allereerst om het digitale bewustzijn en de dialoog over AI binnen de overheid te stimuleren. En daarna om de technologie met vertrouwen in te kunnen zetten voor de vragen van morgen.

Initiatiefnemers

De pilot is een initiatief van de provincie Fryslân, AI-autoriteit Prof. Dr. Zicari en het Rijks ICT Gilde. Zij onderzoeken samen de betrouwbaarheid van AI-toepassingen en het verantwoord gebruik daarvan. Gemeente Leeuwarden, Rijksuniversiteit Groningen/Campus Fryslân en beleidsadviseurs van het ministerie van Binnenlandse Zaken en Koninkrijksrelaties kijken mee.

Meer weten?

Voor meer informatie over de pilot ‘Assessment voor vertrouwenswaardige AI’ of vragen hierover kun je terecht bij RIG@rijksoverheid.nl.