Algoritmes zijn geen natuurwetten die in beton gegoten zijn

Organisaties moeten datagedreven worden om te kunnen overleven in deze tijd. Maar de opkomst van kunstmatige intelligentie, zoals ChatGPT, brengt zowel kansen als uitdagingen met zich mee. Waar moeten toezichthouders op letten wanneer AI in hun organisatie wordt geïntegreerd? Tijdens de Goed Bestuur Jaarlezing zal Marc van Meel, adviserend AI-ethicus verbonden aan KPMG, uitleggen waarom de ethische inzet van kunstmatige intelligentie geen luxe maar een randvoorwaarde is voor succes in het digitale tijdperk.

Door: Claudia Pietryga 

GPT-4 heeft in maart flink wat stof doen opwaaien…

“Onlangs hebben Elon Musk en meer dan duizend andere experts een open brief ondertekend waarin wordt opgeroepen om de ontwikkeling van AI, waaronder ChatGPT, zes maanden stop te zetten. Hoewel zij een terecht punt maken, is de voorgestelde pauze een schijnoplossing. Niet de technologie gaat te snel, maar de samenleving, het bedrijfsleven en de politiek hebben collectief zitten slapen.”

Dit soort programma’s kunnen onder meer (foto)realistische afbeeldingen en stemmen produceren. Wat is het gevaar hiervan?

“Dat de grenzen tussen wat authentiek en nep is en wat creativiteit onderscheidt van plagiaat in rap tempo vervagen. Daarnaast transformeert AI de banenmarkt doordat het de efficiëntie verhoogt. Men zal niet zo snel vervangen worden door AI zelf, maar wel door iemand die AI toepast in zijn of haar werk. Kunstmatige intelligentie brengt grote maatschappelijke en culturele veranderingen teweeg en de langetermijngevolgen zijn lastig te overzien en moeilijk terug te draaien. Datagedreven besluitvorming leidt bovendien niet altijd tot eerlijke en inclusieve normen, zoals we in het verleden hebben gezien.”

Wat moet de overheid hieraan doen?

“Ik ben al jaren van mening dat technologie niet neutraal is en ben verheugd dat deze gedachte nu in het collectief gedachtegoed geland is. Zo hield onze staatssecretaris Digitalisering, Alexandra van Huffelen, in 2022 bij de G20 een betoog waarin zij pleitte voor het centraal stellen van menselijke waarden bij digitalisering en algoritmische besluitvorming. Dit is een stap in de goede richting. Digitalisering wordt steeds meer een politiek volwassen onderwerp, maar we zijn er nog lang niet. De omvang van de ontwikkelingen en uitdagingen op het gebied van digitalisering vragen om een langetermijnvisie- en strategie. Zowel op nationaal als op organisatieniveau.”

Van Huffelen pleitte voor het meer centraal zetten van de mens bij AI. Kan dat eigenlijk wel?

“Ja dat kan zeker. Niet alle technologische innovaties hebben automatisch maatschappelijke vooruitgang tot gevolg, daarom is het belangrijk dat we dit soort afwegingen zorgvuldig maken. Technologie en de mens versterken elkaar en hebben elkaar ook nodig. Technologie heeft de potentie om betere en eerlijke beslissingen te maken dan mensen, omdat mensen inherent niet compleet objectief (biased) zijn. Aan de andere kant is data een abstractie van de werkelijkheid en daarmee een regressie. In tegenstelling tot mensen, is AI daarmee minder goed in het opmerken van uitzonderingsituaties en intuïtie is slecht vast te leggen in data. Het grote probleem van AI is dat áls er iets misgaat, het vaak in real-time en op grote schaal misgaat. Er staat dus veel meer op het spel.”

Is een classificatie op basis van eigenschappen altijd moreel verkeerd?

“Dit hangt af van de situatie. Bij het aanraden van films via een streamingdienst is het gebruik van persoonlijke eigenschappen bijvoorbeeld geen heikel onderwerp. Het is vaak juist wenselijk dat Netflix of YouTube aan een zesjarige dochter andere filmpjes aanraadt dan aan een jongvolwassen student. Ook in de medische context is het meenemen van dergelijke eigenschappen cruciaal om de gewenste resultaten te behalen. Maar het wordt problematisch in andere domeinen, zoals wanneer geslacht, ras of afkomst worden meegewogen bij sollicitatieprocedures of beoordelingen van fraudekans. In elke situatie moet dit zorgvuldig worden afgewogen.”

Stel je bent toezichthouder, wat is dan belangrijk om te weten over AI?

“Als commissaris hoef je niet alle details te weten, maar het is wel belangrijk om op de hoogte te zijn van de trends. Het is namelijk niet de vraag óf AI geïntegreerd zal worden in de organisatie, maar wanneer. Medewerkers maken namelijk al massaal gebruik van ChatGPT, zonder dat de organisatie hier zicht op heeft en over verantwoorde inzet heeft nagedacht. Daarnaast is het van belang om te beseffen dat algoritmes geen natuurwetten zijn die in beton zijn gegoten. AI is geen orakel en produceert geen objectieve waarheden. Om die reden moet de mens een belangrijke rol blijven spelen in het besluitvormingsproces door de resultaten van AI van de juiste context te voorzien. Ook zijn de risico’s van AI niet zo nieuw als we denken.”

Waarom zijn die risico’s niet zo nieuw als we denken?

“Er bestaat een lange en rijke geschiedenis van voorbeelden die de impact van technologie op de samenleving illustreren en de risico’s die daaruit voortvloeien. Zo zijn we momenteel druk bezig met de ontwikkeling en gevolgen van zelfrijdende auto’s, maar soortgelijke discussies speelden al toen paard-en-wagen plots de weg moest delen met de auto. En wat betreft automatisering: wist je dat er vroeger liftbedienden waren?”

Je had het over dat AI geen natuurwet is, zou je in de toekomst AI zo kunnen ontwikkelen dat het misschien wél een natuurwet wordt? 

“Op de lange termijn zijn de mogelijkheden van AI eindeloos, maar de ontwikkeling hiervan vraagt nog veel tijd en inspanning. Momenteel excelleert AI in één specifieke taak en kan deze taak mogelijk zelfs beter uitvoeren dan een mens, bijvoorbeeld het detecteren van kankercellen op röntgenfoto’s. ChatGPT wordt beschouwd als de eerste succesvolle multi-purpose AI, hoewel het in essentie ‘slechts’ een revolutie in overtuigend converseren is. We zien dat AI zich steeds meer uitbreidt van datagedreven velden, zoals economie, epidemiologie en biologie, naar andere wetenschappelijke disciplines en domeinen zoals marketing. De voorspellende kracht en bruikbaarheid van AI is te sterk om te negeren en zal een bepalende rol spelen in toekomstig wetenschappelijk onderzoek en andere technologische doorbraken.”

Ir. Marc van Meel is AI-ethicus en managing consultant bij KPMG. Samen met het Trusted Analytics team helpt hij organisaties met het implementeren van governance, compliance en ethische verantwoorde inzet van Data en AI. Marc heeft een achtergrond in Data Science en is een veelgevraagd spreker over de ontwikkelingen in AI en de impact op de samenleving.

Op 11 mei 2023 vindt de Goed Bestuur Jaarlezing plaats in Montfoort. Onder meer Marc van Meel zal dieper ingaan op AI, waar toezichthouders aan moeten denken op het gebied van ethiek en wat dit betekent in de dagelijkse praktijk.