AI vraagt om een duidelijke strategie, kritisch bewustzijn, ethisch besef, voldoende scholing, menselijk toezicht, transparantie en blijvende reflectie, zo kwam naar voren tijdens het jaarcongres van de Alliantie Medezeggenschap & Governance. Over dark factories, sycophancy, huwelijken met robots en no go-areas: ‘We mogen onszelf niet verliezen, ook niet als AI onze rol deels overneemt.’

Door Marike van Zanten

Het is alweer het tiende jaarcongres van de Alliantie Medezeggenschap & Governance (AMG). Een tweede lustrum dus voor het steevast drukbezochte event, waarop de drie partijen in de governancedriehoek elkaar ontmoeten voor een dialoog over relevante kwesties in het Nederlandse bestuur en toezicht. Ook dit jaar is de iconische raadszaal van de Sociaal-Economische raad (SER) weer tot de laatste stoel gevuld met bestuurders, leden van ondernemingsraden en (voordracht)commissarissen. Het congresthema: ‘Hoe gaat AI ons bedrijf en werk veranderen? En wat betekent dat voor jouw rol?’

Digibeten versus digital natives

De reorganisatiegolf binnen de bancaire wereld vormt een actueel voorbeeld van de impact van AI op Nederlandse organisaties: de inzet van artificial intelligence leidt tot het schrappen van banen bij ABN Amro, ASN en ING. ‘Binnen de governancedriehoek moeten we met elkaar in gesprek gaan over de invloed van AI op de strategie, de aansturing en de manier van werken in onze organisaties’, aldus Dorine Wekking, voorzitter van AMG en dagvoorzitter. Ze schetst de vele vragen waarvoor bestuurders, medezeggenschap en toezichthouders zich geplaatst zien: hoe raakt AI de primaire bedrijfsprocessen, de continuïteit en de werkgelegenheid? Hoe kunnen we AI toepassen zonder de menselijke waardigheid uit het oog te verliezen? Om welk verandertempo vraagt de digitale transformatie, als we als organisatie en maatschappij niet de boot willen missen? En welke dynamiek ontstaat daarbij tussen digibeten en digital natives? ‘Die kloof kan leiden tot sociale ongelijkheid en daarmee ontwrichting in de samenleving’, aldus Wekking. Het onderstreept de noodzaak van gedragen besluitvorming, rolvastheid in de dialoog binnen de bestuurskamer en met de werkvloer en de kernbegrippen van goed bestuur: transparantie en verantwoording. ‘Hoe borgen we dat, als AI onze rol als bestuurder, medezeggenschap en toezichthouder deels overneemt?’

Wen er maar aan

We gaan even terug in de tijd: naar 1985, toen een twaalfjarige Kim Putters elke dag een loodzware boekentas meezeulde naar de middelbare school, aantekeningen maakte in een schrift met lijntjes en zijn huiswerk noteerde in een ouderwetse schoolagenda. Tijdens zijn studie en op weg naar zijn huidige rol als SER-voorzitter schrijdt de digitalisering steeds verder voort: van de opkomst van internet en smartphone tot en met de revolutionaire introductie van generatieve AI in 2022, inmiddels wereldwijd gebruikt door honderden miljoenen mensen. De geparafraseerde boodschap van Putters: AI ontwikkelt zich razendsnel en is here to stay, dus wen er maar aan. ‘U en ik moeten nadenken over het effect van AI op strategie en beleid en vaak snelle besluiten nemen over de inzet ervan, anders halen de ontwikkelingen ons in.’

Samen leren

Hoe kunnen medewerkers, bestuurders en toezichthouder in de praktijk omgaan met de impact die AI op hun organisatie en eigen rol zal hebben? Putters geeft de zaal drie zaken mee. Allereerst: Heb oog voor nieuwe kansen. ‘AI kan ons leven en werk vergemakkelijken, de arbeidsproductiviteit versterken, capaciteitsproblemen in sectoren als de zorg helpen oplossen en zo bijdragen aan ons welzijn en brede welvaart. Dus onderzoek de mogelijkheden voor een adequate toepassing ervan.’ Twee: Betrek in- en externe stakeholders als medewerkers en klanten bij de inzet van nieuwe technologie. Putters: ‘Het optimaliseren van technologische innovatie vraagt om sociale innovatie: investeren in de kennis en vaardigheden van medewerkers en experimenteren om met elkaar te ervaren wat wel en niet goed werkt. We moeten samen leren: op de werkvloer, in de bestuurskamers en in het overleg binnen de governancedriehoek.’

Menselijke maat

En tot slot Putters’ derde advies: Benader de inzet van AI vanuit de bedoeling van de organisatie: ‘Waar sta je als bedrijf voor, vanuit welke kernwaarden werk je met elkaar en hoe kunnen AI-oplossingen daar concreet aan bijdragen?’ De SER-voorzitter besluit met een oproep aan de zaal: ‘Een goede inzet van AI is gericht op het bereiken van het hogere doel van organisaties en vereist oog voor de menselijke maat. U kunt daaraan vanuit uw rol binnen de governancedriehoek een positieve bijdrage leveren door het gesprek met elkaar aan te gaan. Zodat een twaalfjarig meisje van nu in het jaar 2065 positief terugkijkt op haar digitale reis.’

Kansen pakken

‘Riemen vast!’, zo luidt het reisadvies van Willem Jonker, voorzitter van de AICoalitie4NL (ecosysteem voor een verantwoorde AI-transitie in Nederland) en deeltijd hoogleraar Universiteit Twente. Hij neemt de zaal mee in een tour d’horizon langs alle kansen die AI biedt. Maar dan moeten we die wél pakken in Nederland en Europa en dat gebeurt nog onvoldoende, stelt Jonker: we bezitten te weinig Big Tech-bedrijven en hebben juist te veel – gefragmenteerde – regelgeving. Onze achterstand op tech- en AI-gebied ten opzichte van Amerika en China bedreigt ons verdien- en concurrentievermogen en maakt ons economisch en in geopolitieke zin afhankelijk van deze grootmachten.

Vijf miljard investeren

Wat kunnen we als Europa doen om die achterstand in te lopen? Jonker schetst vijf zaken: denk vanuit economische en maatschappelijke waardecreatie (Elon Musk is een meester in het slim commercieel exploiteren van data met bedrijven als Tesla, X en Starlink), investeer in innovatie, bewerkstellig een transitie naar Fair Tech (de winnaars van morgen gaan eerlijk, transparant en ethisch verantwoord om met data), ontwikkel kennis en koester talent en bouw een infrastructuur voor een eigen techindustrie. Inmiddels wordt er gewerkt aan een AI-Fabriek in Groningen, de supercomputer zal naar verwacht in 2027 op volle kracht draaien. De AICoalitie pleit verder voor investeringen van vijf miljard euro in AI om een infrastructuur te bouwen, een Nederlandse industrie te ontwikkelen en de transitie in strategische sectoren te versnellen.

Handboek Soldaat voor AI?

AI heeft grote gevolgen voor bedrijven, schetst Jonker. Zo zien veel organisaties hun bedrijfsvoering en businessmodel veranderen. Bij professionele dienstverleners bijvoorbeeld wordt het werk van juniors overgenomen door AI, wat de bodem onder de piramidale structuur vandaan haalt. Jonker: ‘Het tot stand brengen van een daadwerkelijke transitie binnen organisaties is niet het volgen van een AI-Handboek Soldaat, maar het herdenken van je businessprocessen en -model: hoe verdien je je geld?’ In de maakindustrie gaan de ontwikkelingen zo mogelijk nog sneller. In China schieten de dark factories als paddenstoelen de grond uit: fabrieken waar robots het werk doen. ‘De Chinezen willen dat dat in 2035 voor negentig procent van alle fabrieken geldt.’ AI is Chefsache, houdt Jonker de zaal tot slot voor. ‘Implementatie van AI via pilots is niet voldoende, het moet volledig in de strategie geïntegreerd worden. En bedenk: visie en actie moeten hand in hand gaan, het een kan niet zonder het ander.’

Misleiding door chatbots

Naast visie en actie is aandacht voor de ethische aspecten van AI noodzakelijk. Roos Slegers, filosoof en universitair docent aan de Universiteit van Tilburg, deelt een aantal huiveringwekkende anekdotes, waarin chatbots als ChatGPT via misleiding mensen meesleurden in een neergaande spiraal van ongezond denken en gedrag, met soms de dood tot gevolg. Beroemd voorbeeld: ChatGPT antwoordt ja als iemand vraagt of hij veilig van een flat kan springen. Het achterliggende mechanisme heet sycophancy, legt Slegers uit. Chatbots spreken mensen niet tegen, maar praten hen juist naar de mond. ‘Ze zuigen kwetsbare mensen in een gesprek en stemmen met alles in op een overdreven vleiende toon, om herhaalbezoek van trouwe klanten uit te lokken en het systeem verder te kunnen ontwikkelen. Het is keiharde business.’ Daarbij speelt het doelbewust aanwenden van engagement een rol: we vinden het als mens heerlijk als iemand het met ons eens is. Verslaafd aan dat gevoel, blijven we met de chatbot in gesprek.

Vals gevoel van gezien worden

Onder het mom van menselijke verbinding leiden sociale media en chatbots juist tot een toename van eenzaamheid en isolatie in de samenleving, stelt Slegers. ‘We voelen ons in een steeds individualistischer maatschappij soms meer gezien door een machine dan door mensen. Chatbots zijn zo succesvol omdat ze ons het gevoel geven dat we in het centrum van de aandacht staan.’ Maar in werkelijkheid ruilen we onze data en soms zelfs abonnementsgeld voor een vals gevoel van gehoord en gezien worden. Slegers haalt Amerikaans onderzoek aan onder jongeren tussen de dertien en zeventien jaar: een op de drie pubers praat net zo graag met een chatbox als met beste vrienden. Eveneens een op de drie tieners legt serieuze kwesties zelfs liever voor aan een chatbot dan aan een leeftijdsgenoot of volwassene. Die eerste oordeelt immers niet, maar bevestigt je juist in je keuzes.

Machine of mens?

Slegers eindigt met een open vraag: ‘Aandacht is de remedie tegen de toename van eenzaamheid en isolement in onze maatschappij. Willen we dat dat gat gevuld wordt door een machine of door mensen van vlees en bloed?’ Een vraag uit de zaal: Hoe denkt Slegers over de inzet van robots voor bijvoorbeeld therapie en in de zorg? Dat zijn toch juist positieve voorbeelden? Haar antwoord: ‘Zeker, maar we moeten ons wel steeds afvragen: gaat het om het opvangen van de schaarste in personeel, of simpelweg om efficiencyverbetering?’ In het gesprek met de zaal komen ook symbolische huwelijken met robots en het bestaan van robotbordelen voorbij. Slegers is er duidelijk over: ‘Het gaat gewoon om schaamteloos geld verdienen. Dat is een grote zorg. 

Neem or mee in AI-plannen

Mooie vragen genoeg om over door te praten aan de twaalf dialoogtafels, waaraan alle partijen binnen de governancedriehoek zijn aangeschoven. Juist de verschillende perspectieven kunnen zorgen voor een verrijking van de discussie, benadrukt dagvoorzitter Wekking. Een van de gespreksthema’s is hoe de driehoek concreet handen en voeten kan geven aan AI. Een boardadviseur: ‘Op het hoogste niveau van de organisatie is vaak te weinig kennis van AI: bestuurders en toezichthouders weten niet wat het is en hoe ze ermee moeten omgaan. Er is educatie nodig in boards.’ Reactie van een dis(cussie)genoot: ‘Ik wás zo’n onwetende bestuurder op het gebied van AI, maar we hebben er alles aan gedaan om dat te veranderen. Zo hebben we een denktank opgericht en een adoptiespecialist aangesteld om de inzet van AI in goede banen te leiden. Verder hebben we onze ondernemingsraad meegenomen in onze plannen tijdens de overlegvergadering. Inmiddels hebben we een gedragen AI-beleid en -afwegingskader.’ Een or-secretaris in de zorg: ‘Als medezeggenschap stellen wij ook vragen over welke data AI verzamelt en waarvoor die worden gebruikt, bijvoorbeeld hoe lang mensen bij een patiënt zijn geweest. We willen niet in een Big Brother-huis werken.’

 

Wat is de impact van AI op duurzaamheid?

Aan een andere dialoogtafel maakt een or-voorzitter zich zorgen over het effect van AI op de werkgelegenheid en de inhoud van het werk. ‘In hoeverre neemt AI het over van face-to-face-ontmoetingen met leidinggevenden van vlees en bloed? Wat kan digitaal en wat moet live? Die grens moet je goed bewaken.’ Een ander genoemd punt is de impact van het AI-gebruik op de duurzaamheidsprestaties van bedrijven. ‘Een commissaris: ‘Het is onze rol om het bestuur daarop en op andere dilemma’s rond de inzet van AI te toetsen.’ Een collega-commissaris: ‘Dan moeten toezichthouders wel weten waaróp ze de bestuurder moeten toetsen, het schort vaak aan een goede voorbereiding.’ Weer een ander: ‘Misschien kan AI ons helpen om betere vragen te stellen aan het bestuur?’

Moreel kompas

Ook de ethische kant komt vaak ter tafel, vooral bij de vraag over no go-areas bij de inzet van AI. Een bestuurder: ‘Bij ons gaat er geen AI-content de deur uit zonder dat het door mensen is gecheckt.’ Naast alertheid op de correctheid, volledigheid en onafhankelijkheid van de informatie vormen privacy en afhankelijkheid een heet hangijzer. Zo leven er aan de tafels zorgen over de (on)betrouwbaarheid van Amerikaanse techspelers. Maar het meest worstelen de bestuurders, commissarissen en medezeggenschappers aan de tafels met de impact van AI op hun eigen rol en bestaansrecht. Een toezichthouder: ‘We mogen onszelf niet verliezen door de inzet van AI. Zorg dus dat je eigen moreel kompas zuiver afgesteld is. Het is belangrijker dan ooit om onze eigen waarden te bewaken en van daaruit te blijven handelen.’

Informatie-asymmetrie

Overigens was ook AI zelf te gast aan de dialoogtafels om mee te luisteren, de discussies achteraf samen te vatten en conclusies te trekken: via de methodiek van Dembrane, een platform voor het realtime vertalen van ‘ongestructureerde dialoog’ in ‘uitvoerbare plannen en beleidsmaatregelen’. Ceo en oprichter Bram Delisse presenteerde de bevindingen. Een paar interessante observaties: bestuur en werkvloer verschillen in attitude ten aanzien van AI (directies zien vooral kansen voor efficiencyverbetering, de werkvloer is kritischer), er is sprake van asymmetrie in kennis en informatie (slechts een klein deel van de bestuurders en vooral de commissarissen beschikt over AI-kennis) en ondernemingsraden worden te laat betrokken bij AI-besluiten. Voor de overige inzichten uit de collectieve wijsheid van de bestuurders, medezeggenschappers, toezichthouders én sprekers in de zaal, verwijzen we graag naar het AI-verslag van de bijeenkomst (klik hier). Hier volstaan we met de door AI genereerde samenvatting: ‘AI vraagt om een duidelijke strategie, kritisch bewustzijn, ethisch besef, voldoende scholing, menselijk toezicht, transparantie en blijvende reflectie.’

• Klik voor de presentatie van Roos Slegers.

• Klik voor de presentatie van Willem Jonker.

 

Klik hier voor meer informatie over de Alliantie Medezeggenschap & Governance en eerdere verslagen van het jaarcongres.

 

Verder lezen over AI?

• Sociaal-Economische Raad, AI en werk. Samen naar een werkende toekomst. SER Advies 25/03, mei 2025.
• Positon Paper AIC4NL, AI-investeringsagenda voor Nederland, 2025.