#9 : Een kritisch perspectief

Een kritisch perspectief

Een kritische blik op veiligheid en het ontwerp van AI

Een kritische blik op AI.

We hebben in de vorige tracks mooie voorbeelden gezien van wat AI technologie kan betekenen in de logistieke en maritieme wereld. In deze track gaan we in op de ”ja maar”-vragen.

Dus helaas...

Dus nee, je kunt niet ervoor zorgen dat het AI systeem altijd perfect werkt. Je kunt er natuurlijk wel voor zorgen dat het systeem geen ongewenste antwoorden geeft, of antwoorden die ver afwijken van normale oplossingen.




En hoe kijkt Liesbeth hiernaar?

Onder de motorkap.

Bij ouderwetse auto’s kun je de motorkap openen, en per onderdeel bekijken waarom de motor een storing heeft. Bij nieuwe auto’s is dat al heel veel lastiger vanwege de vele elektronica. Bij AI systemen gaat dat nog een stap verder, en is het vrijwel onmogelijk om terug te redeneren waarom het systeem een bepaalde keuze maakte.




Wanneer functioneert een AI systeem goed?

Of een AI systeem goed functioneert gaat niet altijd over storingen of foute beslissingen. Het systeem kan perfect werken zoals het ontworpen is, maar toch niet goed functioneren. 

Omdat AI systemen zelflerend en zelfsturend zijn kan het gebeuren  dat ze andere keuzes maken dan de ontwerpers gedacht hadden. Het kan dus bijvoorbeeld lijken of een AI systeem een groep mensen discrimineert, of bepaalde bedrijven voortrekt.




Zorgen over betrouwbare AI

AI expert Tim de Klijn legt uit hoe je ervoor kan zorgen dat een AI systeem betere antwoorden geeft. Hij vertelt ook hoe de mens daar weer een belangrijke rol in vervult.

Uitlegbaarheid

Er wordt hard gewerkt aan ‘Explainable AI’ technieken, zodat het steeds beter mogelijk wordt om te zien hoe een AI systeem tot antwoorden komt. Dat is belangrijk voor vertrouwen in de kwaliteit van AI systemen.




Aansprakelijkheid.

Daarbij speelt ook aansprakelijkheid bij schade een rol. Want wie is er verantwoordelijk als een AI systeem een fout maakt? Is dat de ontwerper, de gebruiker, of misschien het systeem zelf? Dit zijn enorm lastige vragen waar geen simpele antwoorden voor zijn. Tot op Europees niveau wordt er gewerkt aan regelgeving rondom het gebruik van AI systemen, maar het gaat nog lang duren voordat we daar goede afspraken over gemaakt hebben




En natuurlijk ... safety first!

Het gaat niet alleen maar over het zorgen dat AI systemen de juiste dingen doen. Dat gaat ook over het voorkomen dat kwaadwillende mensen AI systemen kunnen ontregelen. Roy vertelt over cybersecurity.

Samen ontdekken wat het beste werkt

Je ziet dat het ontwerpen van AI systemen best ingewikkeld is. Je moet ervoor zorgen dat het system goed werkt in bekende situaties, maar ook in situaties die je niet van tevoren bedacht hebt. We moeten rekening houden met regels en wetten, maar ook voorkomen dat AI systemen onbedoeld bedrijven voortrekken, of niet meer te besturen zijn. Allemaal lastige effecten die niet altijd op de tekentafel al duidelijk zijn, en  pas zichtbaar worden in het gebruik.




Kort samengevat:




Track 9 afgerond!

NEXT UP: En nu aan de slag!


Je wordt automatisch doorgeschakeld, of klik op bovenstaande knop.