De man die een keynote niet kon vergeten
Het begon met irritatie. Aaron Mirck zat in de zaal bij een keynote van een spreker die beweerde dat technologie net als een hamer is: je kunt er een fotolijstje mee ophangen, maar ook iemand de schedel mee inslaan. En dat ligt niet aan de hamer.
"Toen dacht ik: nee. Als je dit in het openbaar durft te zeggen, dan wil ik niet weten wat je achter gesloten deuren zegt."
Die irritatie werd een boek. Mirck, auteur en spreker, schreef een werk over de vijf grootste misvattingen over AI die ondernemers volgens hem met zich meedragen. Voor dat boek interviewde hij zowel sceptici als AI-ondernemers. De conclusies die hij trekt zijn zelden geruststellend.
En nee, hij schreef het boek niet met AI. "Je zal verbaasd zijn hoe vaak ik die vraag krijg," zegt hij droog. Hij gebruikte het wel voor feedback op teksten, maar had uiteindelijk meer aan een menselijke redacteur. "Daar heb ik meer aan gehad dan AI."
Misvatting één: data en AI zijn neutraal
De eerste misvatting die Mirck bespreekt is misschien wel de meest wijdverbreide: de gedachte dat AI objectief is omdat cijfers niet liegen. Hij heeft er een term voor: automation bias. Het is de neiging om te veel te leunen op het oordeel van een computer of algoritme.
Hij illustreert het met een alledaags voorbeeld. "Vorige week liep ik de deur uit, toen regende het. Ik dacht: dat kan niet, het alarm zegt dat het droog is." Iedereen herkent dat moment. Maar in een zakelijke context heeft het grotere gevolgen.
Mirck sprak voor zijn boek een ondernemer die gevraagd werd door een recruitmentbureau om een algoritme te bouwen waarmee sneller kandidaten gevonden konden worden. De ondernemer weigerde. Zijn argument: je moet waken voor vooroordelen in data.
"Als je aan Midjourney vraagt om een afbeelding van een CEO, is de kans meer dan 90% dat het een man is. Vraag je om een afbeelding van een docent, is de kans 90% dat het een juf is en geen meester. Die populaire AI-tools weerspiegelen de vooroordelen die er op het internet zijn."
Nog subtieler wordt het als organisaties denken dat ze bias kunnen omzeilen door er simpelweg niet op te filteren. Een bedrijf dat historisch veel witte mannen heeft aangenomen en dat gegeven uit de data verwijdert, komt er mogelijk toch achterin terecht. "Dan heb je misschien veel Delftenaars aangenomen, wat vaker witte mannen zijn. Of mensen uit een bepaalde postcode. En dan komt het er toch in tot uiting."
De mens in de loop
De vraag die Mirck stelt is niet alleen of AI neutraal kan zijn, maar ook of elk probleem überhaupt met AI opgelost moet worden. Hij vindt van niet.
"We moeten niet betere oplossingen hebben, maar betere problemen." Als een organisatie moeite heeft nieuwe mensen te vinden, ligt het probleem misschien niet aan de top van de recruitmentfunnel. "Misschien sluit je vacaturetekst helemaal niet aan op de realiteit op de werkvloer."
De oplossing voor een algoritme dat niet deugt, is volgens Mirck eenvoudig maar consequent: een mens in de loop houden. Hij verwijst naar de toeslagenaffaire. "We hebben gezien wat er gebeurt als je een algoritme zijn werk laat doen en geen mens in de loop hebt." Hetzelfde gold voor de IND, de Belastingdienst en de gemeente Rotterdam. "We komen er steeds achter dat het misschien toch niet handig is als we de controle uitleveren aan een computersysteem."
Of menselijke controle ooit overbodig wordt, laat hij in het midden. "Dat bepalen wij of we dat nodig vinden en of we dat doen."
De onzichtbare bijwerkingen
De tweede misvatting die Mirck behandelt: AI kent geen bijwerkingen. Ook dat klopt niet. Hij gebruikt een vergelijking die verder gaat dan technologie. Neem de strippenkaart versus de OV-chipkaart. De strippenkaart is anoniem en overdraagbaar. De OV-chipkaart is persoonsgebonden. Geen ramp, maar het illustreert iets fundamentelers. "Er liggen altijd bepaalde waarden onder een technologisch product."
Een concreet bedrijfsvoorbeeld: de AI-assistent die vergaderingen transcribeert, samenvat en actiepunten genereert. Op papier efficiënt. In de praktijk potentieel destructief voor de openheid in een team.
"Wat gebeurt er? Die informatie wordt opgeslagen. Er zijn mensen die denken: ik vind het niet tof als alles wordt bewaard. Want wat als ik later hierop word afgerekend? Misschien durven mensen minder vrij te denken en te spreken. En dat kan zorgen voor minder goede vergaderingen, minder kennisuitwisseling."
De AI-collega die meekijkt heet misschien nauwelijks op. Maar die is er wel bij, onthoudt elk woord, interpreteert het, haalt er sentiment uit. De vraag is of de winst in efficiëntie opweegt tegen het verlies aan psychologische veiligheid.
De prijs die elders betaald wordt
Mirck gaat verder dan de organisatorische bijwerkingen. Hij wijst op de maatschappelijke kosten van AI, die hij grotendeels afwezig vindt in het publieke debat. "Het gaat alleen maar over de economische winst."
Achter de gratis toegang tot grote taalmodellen gaat een keten schuil die zelden belicht wordt. Duizenden mensen werken dagelijks in de AI-industrie onder erbarmelijke omstandigheden, in landen als Kenia en de Filipijnen. Zij beoordelen en labelen content, waaronder materiaal dat niemand zou willen zien, voor een paar dollar per uur.
"Omdat het werkt, net zoals je bij de Primark voor een tientje een shirtje kan kopen, kunnen wij hier gratis ChatGPT gebruiken. Want die kosten liggen ergens anders in de keten."
Hij vergelijkt het met de discussie rond eerlijke chocola. "We willen slaafvrije chocola. Maar tegelijkertijd zijn er duizenden mensen die in erbarmelijke omstandigheden werken in de AI-industrie." De maatschappelijke kosten, zegt hij, komen totaal niet aan het licht.
Ethiek is geen luxe
Mirck is zich bewust dat het woord 'ethiek' bij veel ondernemers weinig enthousiasme wekt. "Als ik ethiek en filosofie noem, zeggen ze: gast, ik zit gewoon in de handel en wil producten verkopen."
Maar hij houdt vol. De afgelopen tien, twintig jaar hebben laten zien wat de impact van technologie op de samenleving kan zijn. Nepnieuws bij verkiezingen. Project X in Haren. De toeslagenaffaire. Algoritmes bij de gemeente Rotterdam. Dat zijn geen abstracte gevaren, maar concrete voorbeelden van wat er misgaat als de controle volledig wordt uitbesteed.
Zijn positie is helder, ook al vermijdt hij grote beloftes. De toekomst van AI wordt niet bepaald door de modellen zelf, maar door de keuzes die mensen maken. "De toekomst is een werkwoord," vat zijn gesprekspartner het samen. Mirck beaamt het zonder omhaal.