Beeld: Shutterstock
De gemeente Amsterdam heeft besloten om geen pilot te starten met de AI-toepassing Microsoft Copilot vanwege privacyrisico’s. Uit een recente privacytoets blijkt dat het programma op dit moment niet voldoet aan de gestelde wet- en regelgeving. De Vereniging van Nederlandse Gemeenten (VNG) adviseert gemeenten om zorgvuldig de voordelen en risico’s van dergelijke AI-tools af te wegen.
Wat is Microsoft Copilot?
Microsoft Copilot is een generatieve AI-toepassing die onder andere ingezet kan worden voor het notuleren van vergaderingen, het schrijven van documenten en het doorzoeken van e-mails en chats. Het systeem werkt op basis van interactie via prompts,’ waarbij de gebruiker vragen stelt en Copilot antwoorden genereert. Aangezien hierbij gevoelige gegevens verwerkt worden, is naleving van privacywetgeving essentieel.
Risico’s van Copilot
Om AI-technologieën als Copilot verantwoord te kunnen gebruiken, zijn er verschillende toetsingsinstrumenten ontwikkeld, waaronder een Data Protection Impact Assessment (DPIA). Het Strategisch Leveranciersmanagement Microsoft (SLM Rijk) heeft een recente privacytoets uitgevoerd en daarbij enkele belangrijke risico’s geïdentificeerd. De voornaamste zorg is het gebrek aan transparantie over hoe de tool data verwerkt en opslaat.
De afweging rondom generatieve AI
Verschillende gemeenten experimenteren al met generatieve AI, maar willen dit op een betrouwbare en doelgerichte manier kunnen doen. Dit vraagt om duidelijke richtlijnen en naleving van in ieder geval de Europese wetgeving. Gemeenten moeten zelf bepalen of de geïdentificeerde risico’s acceptabel zijn of dat aanvullende maatregelen nodig zijn om deze te beheersen. De Informatiebeveiligingsdienst (IBD) heeft een aanvullende notitie opgesteld waarin de gevolgen voor gemeentelijke organisaties verder worden toegelicht.
Digitale innovatie met oog voor inwoners
De VNG benadrukt dat gemeenten de kansen van digitale technologie moeten benutten. Denk aan datagedreven beleid, digital twins, procesautomatisering en generatieve AI-toepassingen zoals Copilot. Tegelijkertijd is het cruciaal om dit niet alleen vanuit een IT- of bedrijfsvoeringsperspectief te doen, maar met de bescherming en belangen van inwoners als uitgangspunt.
Standpunt van gemeente Amsterdam
‘De uitkomsten van de DPIA bevestigen onze zorgen over Microsoft Copilot. De geïdentificeerde risico’s maken dat deze technologie op dit moment niet veilig en juridisch verantwoord binnen onze organisatie kan worden toegepast. Daarom hebben we besloten om niet te starten met de geplande pilot en de implementatie uit te stellen. We sluiten ons aan bij het standpunt van SLM Rijk dat Microsoft eerst concrete stappen moet zetten om deze risico’s weg te nemen.’
AI en gemeentelijk beleid
Het vraagstuk rond Copilot laat zien dat generatieve AI grote kansen biedt, maar ook vraagt om zorgvuldige besluitvorming en regelgeving. Wil je hier meer over weten? Tijdens de masterclass AI leer je hoe gemeenten op een verantwoorde manier AI kunnen inzetten en welke ethische en juridische afwegingen daarbij een rol spelen.
