Kick-off krachtig samenwerkingsverband voor verantwoorde AI

Gisteren was de kick-off van de pilot ‘Assessment voor verantwoorde AI'. De provincie Fryslân, AI-autoriteit Prof. Dr. Zicari en het UBR Rijks ICT Gilde onderzoeken samen de betrouwbaarheid van AI-toepassingen en het verantwoord gebruik daarvan. Gemeente Leeuwarden, Rijksuniversiteit Groningen/Campus Fryslân en beleidsadviseurs van het ministerie van Binnenlandse Zaken kijken mee.

Artificial Intelligence, Kunstmatige Intelligentie of AI komt in steeds meer aspecten van ons leven voor. Het zit in allerlei apparaten die we in ons werk en privéleven gebruiken. De technologie, gebaseerd op data- en algoritmen, kan van pas komen bij het oplossen van maatschappelijke vraagstukken over bijvoorbeeld energie, duurzaamheid of zelfs armoede.

Als overheid willen we de kansen van AI benutten, maar de technologie roept nog veel belangrijke vragen op. Hoe betrouwbaar zijn algoritmen? Kan een algoritme discrimineren? En hoe transparant is het gebruik van AI? In de drie maanden durende pilot ‘Assessment voor verantwoorde AI’ zoeken we naar antwoord op de vragen:

  • Hoe stuur je als overheid op de ontwikkeling en het gebruik van verantwoorde AI?
  • Welke kaders, wet- en regelgeving zijn belangrijk, en hoe toetsen we die in de ontwikkeling en het gebruik van AI?
  • Hoe analyseer, beoordeel en verbeter je AI-toepassingen? En zijn de toepassingen in overeenstemming met publieke waarden en mensenrechten?

In de pilot beoordelen we een algoritme van de provincie Fryslân. Deze analyseren we aan de hand van de Z-inspection methode van Roberto Zicari; een self-assessment waarbij deelnemers met elkaar in gesprek gaan over kritische vraagstukken zoals: het doel van het algoritme, het ontwikkelproces, ethische dilemma’s en belangenverstrengeling. De Z-inspection methode is een werkwijze om AI-toepassingen duurzaam, aantoonbaar en transparant te analyseren, beoordelen en verbeteren. Zo kunnen organisaties op gestructureerde wijze verantwoorde AI-toepassingen ontwikkelen en gebruiken.

Verder is het van groot belang dat de kennis en ervaringen uit de pilot worden gedeeld. Allereerst om het digitale bewustzijn en de dialoog over AI binnen de overheid te stimuleren. En daarna om de technologie met vertrouwen in te kunnen zetten voor de vragen van morgen.

Meer weten?

Voor meer informatie over de pilot ‘Assessment voor verantwoorde AI’ kun je terecht op de website van het Rijks ICT Gilde. Heb je vragen? Mail naar RIG@rijksoverheid.nl.