De kracht van AI in bestuurlijke besluitvorming: mogelijkheden en uitdagingen

Wat bedoelen we tegenwoordig met AI?

Als we het tegenwoordig over AI hebben, wordt vaak specifiek verwezen naar generatieve AI. Generatieve AI is een subcategorie van AI die in staat is om nieuwe inhoud te creëren, zoals tekst, beelden en zelfs video’s. Dit gebeurt op basis van eerdere input: de AI leert van data en kan vervolgens nieuwe, vergelijkbare output produceren. Denk bijvoorbeeld aan ChatGPT, dat op basis van een groot aantal tekstvoorbeelden nieuwe teksten genereert. Generatieve AI heeft de laatste jaren enorme vooruitgang geboekt en staat momenteel in de schijnwerpers.

Hoewel AI veel breder is dan generatieve AI, wordt deze specifieke vorm steeds vaker gebruikt in toepassingen die wij dagelijks zien. Binnen de bestuurlijke context kan dit een krachtig hulpmiddel zijn, maar het brengt ook uitdagingen met zich mee, zoals het risico op fouten en biases.

‍

Kansen voor bestuurlijke besluitvorming

Binnen de wereld van bestuurlijke besluitvorming biedt AI kansen om processen te versnellen en efficiënter te maken. Een goed voorbeeld hiervan is de automatische ondertiteling die NotuBiz al aanbiedt bij de webcasting van vergaderingen en videotulen. Door gebruik te maken van spraakherkenning, die draait op taalmodellen, kunnen we automatisch gesproken teksten omzetten naar ondertiteling en transcripten. Dit proces maakt het voor raadsleden en burgers gemakkelijker om snel en nauwkeurig de inhoud van vergaderingen terug te lezen of te doorzoeken. Deze spraaktechnologie, die we samen met SpraakLab hebben ontwikkeld, is ook een vorm van generatieve AI.

Daarnaast zijn er nog tal van andere toepassingen van AI denkbaar. Denk bijvoorbeeld aan het automatisch samenvatten van raadsstukken, zoeken in audio/videofragmenten of het verwerken van grote hoeveelheden documenten om belangrijke informatie eruit te filteren. Dit kan bestuurders en raadsleden helpen om sneller te werken en beter onderbouwde beslissingen te nemen.

‍

Uitdagingen en risico’s van AI

Hoewel AI veelbelovend is, zijn er ook valkuilen. Zo is generatieve AI niet altijd even accuraat en wordt er soms zelfs misinformatie gegeven. Denk aan Google’s Search AI die in Betá versie als antwoord gaf dat mensen “minimaal één steen per dag moeten eten” of ChatGPT die soms beweert dat het woord “strawberry” maar twee keer de letter "r" bevat, terwijl dat er duidelijk drie zijn. Hoewel deze fouten onschuldig lijken, kunnen ze grote gevolgen hebben als AI wordt ingezet in besluitvormingsprocessen. Als hierin misinformatie wordt gegeven of het gebruikte model maakt een foute interpretatie, kunnen er bijvoorbeeld besluiten worden genomen op basis van onjuiste data of worden burgers verkeerd voorgelicht. Hoe herkent AI bijvoorbeeld of een bijdrage in de commissievergadering nog in een meningsvormend stadium is en in een raadsvergadering besluitvormend van aard kan zijn?

Een belangrijk risico bij het gebruik van AI in bestuurlijke systemen is ook zogenaamde bias (bewust of onbewust vooringenomenheid). AI-modellen worden getraind op basis van bestaande data. Een AI-model kan alleen output genereren op basis van de input die het heeft gekregen om te leren, en zoals het gezegde luidt: “garbage in is garbage out”. Dit betekent niet alleen dat slechte input leidt tot slechte output, maar ook dat het model meer van een bepaalde input als output teruggeeft, naarmate dat meer aanwezig is. Als er bijvoorbeeld meer data beschikbaar is van bepaalde politieke partijen, bestaat de kans dat de AI bij het samenvatten van raadsstukken meer gewicht geeft aan die partijen, wat kan leiden tot een gekleurde samenvatting. Dit is vooral gevaarlijk in een politieke context, waar neutraliteit en objectiviteit essentieel zijn.

Daarnaast speelt informatiebeveiliging een cruciale rol. Met de komst van de AI Act, de nieuwe Europese wetgeving rond AI, komt er meer regulatie en controle, maar het blijft een uitdaging om te controleren of nieuwe AI-oplossingen te allen tijde voldoen aan de strenge eisen die vanuit de overheid worden gesteld. Ook is het lastig te voorkomen dat medewerkers toch gebruik maken van publieke AI-tools zoals ChatGPT voor het verwerken van vertrouwelijke informatie. AI-tools worden steeds meer gemeengoed, ook terwijl de voorwaarden en risico’s nog niet geheel duidelijk zijn of kunnen worden ingeschat. Dit herinnert ons aan de tijd waarin iedereen onbeveiligde cloudoplossingen zoals Dropbox gebruikte, vaak zonder besef van de gebruikersvoorwaarden en bijkomende risico’s van privacy en eigenaarschap.

‍

Waar is NotuBiz mee bezig voor AI?

Bij NotuBiz nemen we de veiligheid van de data van onze klanten zeer serieus. Daarom werken we nauw samen met SpraakLab. Samen ontwikkelen we op maat gemaakte taalmodellen die we zelf kunnen controleren en trainen, bijvoorbeeld voor onze politieke ondertiteling. Dit zorgt ervoor dat we volledige controle hebben over de data die wordt gebruikt en de beveiliging daarvan.

‍

Zoekmachine en AI

Naast de ondertiteling voor live vergaderingen en videotulen, zijn we bezig met de ontwikkeling van een op AI gebaseerde zoekmachine. Deze tool zal het mogelijk maken om sneller en nauwkeuriger door informatie heen te zoeken, waardoor men efficiënter kan werken. Binnen de zoekmachine kan niet alleen semantisch* worden gezocht, maar het bevat ook een generatief component waarmee gebruikers op basis van een zoekvraag een antwoord of samenvatting kunnen laten generen aan de hand van de beschikbare data.

‍

Semantisch zoeken is een techniek voor het zoeken naar gegevens die zich richt op het begrijpen van de contextuele betekenis en bedoeling achter de zoekopdracht van een gebruiker, in plaats van alleen het matchen van trefwoorden. Zo kunnen gebruikers meer vraaggericht zoekopdrachten uitvoeren en krijgen zij relevantere zoekresultaten terug.

‍

Ontwikkelen in co-creatie

Samen met klanten hebben we in 2024 gewerkt aan een Proof of Concept, welke momenteel met gebruikers verder wordt verfijnd. Zo weten we zeker dat de tool aansluit op de daadwerkelijke behoeften. Dit is een belangrijk aspect van ons AI-project, waarbij we de input van klanten en gebruikers direct verwerken in het ontwikkelingsproces. Naar verwachting kunnen overige klanten in de loop van Q1 2025 ook aan de slag met deze op AI gebaseerde zoekmachine. In een vervolg artikel lees je binnenkort meer over het co-creatietraject en de functionaliteiten!

Door onze eigen AI-modellen te ontwikkelen, kunnen we niet alleen de veiligheid waarborgen, maar ook inspelen op de specifieke behoeften van onze klanten. Ons doel is om uiteindelijk volledig autonome en veilige AI-modellen te ontwikkelen die specifiek zijn toegespitst op bestuurlijke besluitvorming.

‍

Onze visie op AI

AI is onmiskenbaar een technologie die ons leven en werk drastisch kan veranderen, ook binnen de bestuurlijke besluitvorming. De mogelijkheden zijn groots: van snellere en meer accurate besluitvorming tot efficiëntere verwerking van informatie. Ook bij NotuBiz zien we de enorme potentie van AI en generatieve technologieën om bestuursprocessen te verbeteren. We ontwikkelen dan ook graag innovatieve en nuttige oplossingen voor onze klanten, zodat zij efficiënter kunnen werken. Tegelijkertijd zijn we ons bewust van de risico’s die AI met zich meebrengt, vooral in de politieke context waarin foutmarges en biases grote gevolgen kunnen hebben.

Daarom pakken we de ontwikkeling van AI zorgvuldig aan. Het is essentieel om de juiste afwegingen te maken en de risico’s niet te onderschatten. Simpele AI-oplossingen werken vaak goed, maar naarmate de vraagstukken complexer worden, neemt de kans op fouten toe. Dit kan riskant zijn, zeker als AI wordt ingezet om complexe politieke beslissingen te ondersteunen. In onze gesprekken met klanten, waaronder veel griffies, merken we dat ook zij deze risico’s inzien. Samen met hen en SpraakLab werken we aan betrouwbare en veilige oplossingen die AI effectief inzetten, zonder dat we concessies doen aan kwaliteit, informatieveiligheid of betrouwbaarheid.

We kijken met enthousiasme naar de mogelijkheden die AI in de toekomst zal bieden. Tegelijk houden we de ontwikkelingen nauwlettend in de gaten en blijven we kritisch om zo goed mogelijk voorbereid te zijn op de uitdagingen die AI met zich meebrengt. De inzet van AI biedt enorm veel kansen, maar alleen als we deze bewust en zorgvuldig gebruiken.

‍

Wil je meedenken?

Ben jij betrokken bij bestuurlijke processen en heb je ideeën over hoe AI dit kan verbeteren? We nodigen je van harte uit om mee te denken in onze co-creatiesessies. Stuur een e-mail naar Savannah Heijtmeijer, onze Product Manager, via sheijtmeijer@notubiz.nl. Samen kunnen we AI nog beter maken voor de wereld van bestuurlijke besluitvorming!