AI en de Maatschappij

De ontwikkelingen rondom AI zorgen ook voor nieuwe kansen en uitdagingen voor de publieke sector.

Het leven wordt steeds digitaler.

Daardoor wordt de digitale voetafdruk die je achterlaat ook steeds groter. Niet alleen bij bedrijven, ook bij de overheid.

Wat kan wel en wat kan niet?

Drie experts schijnen hun licht op de inzet van AI door de overheid.

In Nederland worden overheidsbeslissingen steeds vaker geautomatiseerd.

De geautomatiseerde beslissingen die worden genomen bij gemeenten zijn hier een goed voorbeeld van.

Het is bijvoorbeeld handig voor het uitrekenen van huur-, zorg- en kinderopvangtoeslag.

Daarbij spelen verschillende factoren een rol, zoals je inkomen, je eigen vermogen en je gezinssamenstelling. En ... waarschijnlijk moet je nu denken aan de toeslagen-affaire?

Vaak is het hele proces geautomatiseerd en komt er zelfs geen mens meer aan te pas.

En dat is ook direct de zwakke schakel. Bij de toeslagen-affaire werd beleid uitgevoerd dat niet deugde. Alle menselijkheid was eruit gehaald.

Besluiten over toeslagen, uitkeringen, of andere zaken met grote persoonlijke gevolgen.

Daarvoor gelden strenge eisen, menselijk toezicht, documentatie, en de mogelijkheid voor mensen om uit te leggen waaróm een systeem tot een bepaalde beslissing kwam.

Digitale systemen en verantwoordelijkheid.

Een gemeente of Belastingdienst die zo'n systeem inzet, is wat de wet een "gebruiksverantwoordelijke" noemt. Diezelfde rol die jij hebt als je op je werk een AI-tool gebruikt... alleen dan met veel grotere gevolgen als het misgaat.

Iemand die hier onderzoek naar doet is Marlies van Eck.

Zij weet alles over het gebruik van technologie door de overheid.

Om te voorkomen dat systemen fouten maken of (onbedoeld) discrimineren, zijn er meerdere zaken van belang.

Het is essentieel dat data representatief zijn én voor de juiste doeleinden wordt gebruikt.
Wees altijd op je hoede en blijf kritisch. Dat geldt voor mensen die direct werken met AI-systemen, maar ook voor jou.
Het is belangrijk dat systemen transparant blijven en je inzicht kunnen geven hoe ze tot een beslissing zijn gekomen.
Herken je dit? Het zijn dezelfde principes als het FACT-principe uit hoofdstuk 2 (Fairness en Transparency in de praktijk, met soms grote persoonlijke gevolgen)

Dan nu naar de zorg. Ook daar wordt veel gebruik gemaakt van AI.

(Klik op de plusjes voor voorbeelden)

Ook zijn patiënten enthousiast over AI-chatbots.

Ze hebben een 'dokter' in hun telefoon aan wie ze van alles kunnen vragen. De antwoorden lijken ook meestal valide en behulpzaam.

Toch kijken zorgprofessionals daar anders naar.

Aan het woord is Jessica van Workum. Zij is AI-specialist en werkt in het Elisabeth-TweeSteden Ziekenhuis.

Daarom heeft Jessica iets slims bedacht.

Samen met de leverancier van het electronisch patiëntendossier hebben ze een toepassing gebouwd die wél gebruik maakt van een taalmodel, maar die tóch veilig en betrouwbaar is. In feite ondersteunt deze tool de zorgverleners bij de administratieve last van vragen beantwoorden.

Luister naar Jessica om precies te weten hoe dit zit.

(Bekijk de video).

Als je dit interessant vindt...

Wist je dat er een speciale cursus bestaat overAI voor de Zorg ? Van dezelfde makers als deze cursus en in samenwerking met Health~Holland.

En daarmee ben je aangekomen bij het einde van deze track.

De belangrijkste punten op een rij.

Niet al je data is je eigendom, maar je hebt er wel zeggenschap over.
Geautomatiseerde overheidsbesluiten met grote gevolgen gelden als hoog risico, met strenge eisen aan toezicht en transparantie.
Een organisatie die zo'n systeem gebruikt, is net als jouw werkgever "gebruiksverantwoordelijke".
In de zorg helpt AI bij diagnose én administratieve lasten, maar altijd naast een echte zorgverlener.
Medische AI-toepassingen moeten aan strenge eisen voldoen, zoals een CE-markering.

Track 7 afgerond!

NEXT UP: Wat staat er in de wet?

Je wordt automatisch doorgeschakeld, of klik op bovenstaande knop.