Kunstmatige intelligentie, oftewel ‘AI’, is in opmars en nu al bijna niet meer weg te denken. De bekendste AI-tool is het taalmodel ChatGPT, dat wereldwijd al bijna 900 miljoen wekelijkse gebruikers heeft. Het werkt snel, simpel en zeer fijn: je stelt een vraag of je geeft een opdracht en binnen enkele seconden rolt het antwoord eruit. Met hetzelfde gemak kun je, met AI-tools als OpenAI, afbeeldingen en filmpjes laten maken.

Alle voordelen ten spijt heeft het Micha-team besloten zo min mogelijk gebruik te maken van dit soort generatieve AI. Er zit namelijk een grote schaduwzijde aan het gebruik ervan.

In dit artikel heel wat overwegingen met gespreksvragen waar we over moeten praten.

Door Lysanne van de Kamp

1. Big Tech: wie zit er achter AI en zitten daar risico’s aan verbonden?

Er zitten allerlei verschillende bedrijven achter AI-tools, maar de koplopers in de sector zijn grote techbedrijven, waaronder Google en Meta, waarvan we allemaal (kunnen) weten dat zij niet of nauwelijks rekening houden met zaken als mensenrechten, privacy, democratie of de leefbaarheid van de aarde… Hun algoritmes blijken in staat om onze overtuigingen en ons stemgedrag te beïnvloeden. Hun ethische richtlijnen zijn ronduit onethisch.

Als de kunstmatige intelligentie in de handen ligt van dit soort multinationals komt de macht nóg meer bij een kleine, steenrijke en ondemocratische elite te liggen. Welke risico’s brengt dat met zich mee?

Gespreksvragen:
– Is het verstandig om onszelf afhankelijk te maken van dit soort bedrijven? Vertrouw jij jouw data aan hen toe?
– Zie je de macht van Big Tech als een risico voor onze democratie? Wat kunnen we doen om ervoor te zorgen dat zij ook gebonden zijn aan wet- en regelgeving?

2. Bedreiging voor onze democratie: door AI komt de waarheid onder druk te staan.

Tegenwoordig kan iedereen een ‘Deep Fake’ maken. Dat houdt in: afbeeldingen en filmpjes (gemaakt door AI) die levensecht lijken, maar het niet zijn. Echt en nep zijn praktisch nauwelijks meer van elkaar te onderscheiden. Van onechte content kunnen mensen denken dat het echt is, terwijl echte content juist weggewuifd kan worden als fake. Dit maakt het werk van bijvoorbeeld journalisten, advocaten, rechters enzovoorts erg ingewikkeld, en het geeft ruim baan aan complottheorieën.

Gespreksvragen:
– Denk je dat dit risico’s voor onze democratie met zich meebrengt?
– Wat zouden we kunnen doen om de waarheid te beschermen?

3. Sociaal onrecht: AI wordt op een koloniale manier ontwikkeld, en gaat ten koste van mensen in kwetsbare posities.

‘AI is niet intelligent en niet volledig self learning. Zij moet worden getraind. Dat komt neer op eindeloos klikken, categoriseren en filteren door duizenden onderbetaalde datawerkers.’ Dat schreef Jos Hummelen van De Africast in dit artikel van EW Magazine (en toegelicht op Radio 1 op maandag 11 augustus 2025). Volgens hem vindt dit werk plaats in verschillende Afrikaanse landen, waar arbeiders te hard en te lang moeten werken tegen een te laag loon, terwijl zij intussen te maken krijgen met geweld, haat en seksueel misbruik. Bovendien krijgen ze soms de meest verschrikkelijke beelden te zien, denk aan kannibalisme, zonder dat daar psychologische hulp tegenover staat.

Gespreksvraag: Hebben we als gebruikers een verantwoordelijkheid om voor hen op te komen, zodat hun arbeidsvoorwaarden verbeteren?

Bovendien: enkele jaren geleden boden we als Nederland, bij monde van onze toenmalige president Mark Rutte, onze excuses aan voor ons slavernijverleden. Hij zei: ‘We doen dit, en we doen dit nu, om staande op de drempel van een belangrijk herdenkingsjaar, samen de weg vooruit te vinden. We delen niet alleen het verleden, maar ook de toekomst. Dus zetten we vandaag een komma, geen punt.’

De manier waarop de rijken nu AI ontwikkelen lijkt echter verdacht veel op de manier waarop we destijds aan onze grondstoffen kwamen. Ook Karen Hao heeft het over ‘een perfecte analogie met het kolonialisme‘:

1. Ze claimen middelen die niet van hen zijn, zoals data, maar ook de grondstoffen die nodig voor al die apparaten en datacenters (niet zelden door kinderarbeid gewonnen uit ecosystemen die worden uitgeput).
2. Ze buiten hun personeel uit en bedreigen de rechten en beloning van werknemers. De elite plukt alle vruchten zonder rekening te houden met het leed dat zij veroorzaken.
3. Ze hebben een monopolie op kennis en eisen ongelimiteerde toegang.
4. Ze portretteren zichzelf als goedaardig. Ze beloven vooruitgang (en zelfs het wegnemen van het lijden in de wereld).

Gespreksvragen:
– Klopt het dat de koloniale geschiedenis zich ook nu weer herhaalt?
– Zouden we nu geen andere keuzes moeten maken, als onze excuses voor het slavernijverleden gemeend waren?

4. Datacenters: concurreren die straks onze behoefte aan land, energie, drinkwater?

Wereldwijd honderden worden er miljarden dollars geïnvesteerd in de bouw van datacenters. En dat bedrijven als Meta en OpenAI publiekelijk hun ambities kenbaar hebben gemaakt om “supercomputers” te maken. Dat zijn computers die bijna net zo groot zijn als Manhattan. Voor de duidelijkheid: dat is slechts om één AI-systeem te trainen.

Universitair hoofddocent Kunstmatige Intelligentie Jelle Zuidema noemt deze ‘koortsachtige bouw van datacenters’ als ‘een soort wapenwedloop, waarbij geen ruimte is voor terughoudendheid en om eerst na te denken: willen we dit wel?’

Als we wel ruimte maken om hierover na te denken, kunnen we ons bijvoorbeeld afvragen of die datacenters zullen concurreren met onze behoefte aan schoon drinkwater? Er is namelijk veel water nodig voor het koelen van de datacenters.

Zoetwaterschaarste is 1 van de 9 planetaire grenzen – en we hebben deze grens al overschreden. Dit betekent dat we komende decennia te maken krijgen met watertekorten. Realiseren we ons wel dat de datacenters die nodig zijn om AI te faciliteren direct zullen concurreren met onze behoefte aan schoon drinkwater?

Gespreksvragen:
– Wat vind jij, stemmen we in met het verbruik van schaars zoet water voor datacenters, door AI te gebruiken? Zo ja, hoeveel drinkwater mag ons AI-gebruik ons kosten? En wat betekent dat voor de mate waarin we zelf gebruik maken van AI?
– Dilemma: als er in de toekomst een tekort aan drinkwater is, zullen de overheden dan kiezen voor de dorstige mensen of voor het openhouden van de datacenters?

5. Energie: het idee is toch dat we onze CO₂-uitstoot gaan verminderen?

Het ontwikkelen van AI-tools kost bakken energie. Volgens wetenschappers kostte één trainingsronde in de ontwikkeling van versie 3.5 van ChatGPT ongeveer 500 ton CO₂. Dit staat gelijk aan een miljoen kilometers rijden in een brandstofauto. Daar bovenop komt dat elke AI-handeling energie kost. Hoeveel precies verschilt per handeling: hoe complexer je vraag of opdracht, hoe meer energie het kost.

Gespreksvragen:
– Is dit voor jou een argument om AI alleen te gebruiken als het noodzakelijk is? Wanneer is het eigenlijk echt noodzakelijk?
– Sta je ervoor open om onnodig gebruik te beperken?

6. Betrouwbaarheid: de antwoorden van taalmodellen als ChatGPT zijn lang niet altijd correct.

Het lijkt zo gemakkelijk: je stelt een vraag en je krijgt het antwoord. De teksten van taalmodellen als ChatGPT worden gepresenteerd als ‘waar’, terwijl het helemaal niet waar hoeft te zijn. Sterker nog, regelmatig klopt het niet. AI-taalmodellen reproduceren online informatie, maar deze informatie kan verouderd, onvolledig of simpelweg onjuist zijn. Natuurlijk kun je hier als gebruiker mee leren omgaan, maar lang niet iedereen zal dit doen. Ook kan het dus lonend worden voor mensen om misinformatie op internet te plaatsen. Als AI deze informatie overneemt, zullen mensen het aannemen als waarheid.

Gespreksvragen:
– Hoe kijk jij naar dit risico? Is het acceptabel? Valt het te voorkomen?
– Wie is er verantwoordelijk voor de voorlichting over de betrouwbaarheid van AI?

7. Copyrights en privacy: mag AI zomaar alles gebruiken wat op internet te vinden is?

AI-ontwikkelaars hebben veel data nodig om hun AI-tools te trainen. Ze gebruiken, artikelen, foto’s, kunstwerken, enzovoorts die zonder toestemming van het internet zijn gehaald. Elke AI-creatie is een soort echo van iets waar iemand anders moeite voor heeft gedaan – zonder dat diegene daar erkenning of een vergoeding voor krijgt. Is hier sprake van gestolen (intellectueel) eigendom?

Bovendien: sinds enkele maanden gebruikt Meta (het moederbedrijf van WhatsApp, Facebook en Instagram) ook jouw openbare berichten, foto’s en andere informatie op Instagram en Facebook. Dit kun je zien als een schending van onze privacy.

Gespreksvragen:
– Weet jij op welke plekken en via welke apps jouw data gebruikt wordt om AI te trainen? Vind je dat oké?
– Vind je dat AI-tools rekening moeten houden met copyrights? Zo nee, heeft het bestaan van copyrights dan nog wel zin? Zo nee, wat zijn de gevolgen hiervan?

8. De keerzijde van het gemak: wat als we denk- en maakprocessen gaan overslaan?

AI zorgt ervoor dat mensen zelf steeds minder moeite doen om na te denken, ideeën te laten rijpen, anderen te betrekken bij een gedachteproces, zaken te toetsen. Juist deze dingen zorgen ervoor dat mensen kennis en ervaring opdoen, wat beide nodig is om kritisch te leren denken. En dat is weer nodig om de democratie gezond te houden.

Wie een maker is, weet dat het eindresultaat van een creatie des te meer waard is als er bloed, zweet en tranen aan te pas moesten komen. Nu AI-tools in een handomdraai een mooie tekst, afbeelding of filmpje kunnen afleveren, zullen creatieve makers, journalisten, enzovoorts in de toekomst nóg efficiënter met hun tijd moeten omgaan, omdat ze sneller weggeconcurreerd worden. Dat betekent: minder tijd en aandacht voor hun werk, minder ruimte en geld voor een creatief proces. Ontnemen we onszelf hiermee niet iets wezenlijks?

Gespreksvragen:
– Hecht jij waarde aan creatieve denk- en maakprocessen, die tijd en aandacht vergen?
– Hoe kunnen we voorkomen dat in de toekomst alles nóg verder versnelt en efficiënter moet?

9. Afhankelijkheid: wat als we door AI-gebruik vaardigheden verliezen?

AI is niet alleen bedoeld voor persoonlijk gebruik, maar juist ook in professionele settings. Denk aan ziekenhuizen. Het Nederlands Dagblad publiceerde daarover (13 augustus 2025): ‘Kunstmatige intelligentie kan foto’s en scans vaak sneller en beter beoordelen dan het menselijk oog, zo blijkt uit tal van onderzoek. Maar er is ook een keerzijde waar al langer voor wordt gewaarschuwd: artsen kunnen vaardigheden verliezen omdat ze minder scherp worden en ervan uitgaan dat AI eventuele missers er wel uithaalt. Deskilling, noemen deskundigen dat en wetenschappers hebben daar nu voor het eerst in klinisch onderzoek bewijs voor gevonden.’

Gespreksvragen:
– Leidt AI tot verminderde denkkracht en creativiteit? Maakt AI ons dommer?
– Is deskilling een risico waarover we ons zorgen moeten maken? Waarom wel/niet?
– Speelt dit ook in de sector waarin jij werkt? Hoe ziet de toekomst van jouw beroep eruit?

10. AI zorgt ervoor dat ons leven versnelt, zouden we niet juist moeten vertragen?

Ons leven nu is nauwelijks nog te vergelijken met het leven van mensen die enkele honderden jaren geleden leefden. We ontmoeten nu in één week evenveel mensen als we vroeger in ons hele leven ontmoetten. En de hoeveelheid prikkels die we op een dag te verwerken krijgen, zijn voor een groeiende groep mensen niet bij te benen. Met AI gaat deze versnelling nog harder.

Gespreksvragen:
– Hebben we voldoende oog voor de mensen die de digitale ontwikkelingen niet kunnen bijbenen?
– Hoe gaan we ermee om dat jongere generaties (gewend aan digitalisering) en oudere generaties (die niet op de hoogte zijn) elkaar nog kunnen begrijpen?

11. Wet- en regelgeving: zouden we daar niet beter op kunnen wachten vóórdat we het massaal gebruiken?

De fatbike kwam op de markt en de wet- en regelgeving komt nu pas op gang, lang nadat er veel te veel ongelukken zijn gebeurd. Met AI lijkt nu hetzelfde te gebeuren. Zou het niet logischer zijn als we die volgorde omdraaien? Kunnen we niet éérst de ethische randvoorwaarden en wettelijke kaders bepalen, waarna het pas goedgekeurd wordt voor gebruik?

Dit lijkt een naïeve vraag, want ‘zo werkt het nu eenmaal’ en ‘de ontwikkeling is al niet meer te stoppen’. Maar voor andere soorten producten werkt het al op deze manier. Als we werkelijk in een democratie leven, zou dit mogelijk moeten zijn.

Gespreksvragen:
– Wat doet het met jou dat Big Tech nu ongebreideld z’n gang kan gaan?
– Speelt deze vraag mee in jouw stemkeuze dit najaar?

12. Is ‘we kunnen er niet onderuit’ nou echt zo’n goed argument?

Het meest gebruikte argument om AI te gebruiken is dat we niet meer zonder kunnen. Maar de mensheid kon duizenden jaren zonder AI. Waarom zou dat nu dan niet mogelijk zijn? Of is het argument eigenlijk dat we niet meer zonder wíllen?

Een veelgehoorde uitspraak als het gaat om AI-gebruik is dat we ‘het kind niet met het badwater moeten weggooien’. Maar door die uitspraak lijkt het net alsof er zomaar plotseling een kind (het product, AI dus) in bad zit. Niemand stelt de vraag: hoe is dat kind überhaupt in bad gekomen? Als het om een gestolen kind vraagt, is het toch niet de juiste vraag om te stellen of je het kind wel of niet met het badwater moet weggooien? Zou de vraag niet moeten zijn: waarom laten we toe dat iemand kinderen steelt? Wie doet hier iets aan?

Gespreksvraag:
– Kun jij zonder AI? Wil jij zonder AI?
– Welke problemen lost AI op in de wereld? Wie profiteert ervan? Wie juist niet?
– Welke vragen moeten er verder nog gesteld worden?

13. Ideologie: waar gaat het naartoe als de dromen van AI-ontwikkelaars uitkomen?

Paul Kingsnorth publiceerde het boek Against the Machine, een boek waarin hij meesterlijk de diepere ideologie achter kunstmatige intelligentie en technologische ontwikkelingen in het algemeen weet te duiden. Hij verbindt het aan kapitalisme, globalisatie en utopieën.

Hij beweert onder andere dat er geprobeerd wordt om de natuur te vervangen door technologie, en dat de menselijke natuur op een bepaalde manier ook ongedaan wordt gemaakt. De belofte is dat kunstmatige intelligentie de mensheid zal verbeteren, maar dat het ons in de praktijk juist ontmenselijkt. Hij noemt dit de “unmaking” van mensen.

Karen Hao heeft het hier ook over in haar boek Empire of AI. Ze noemt het de ideologische overtuiging dat de ontwikkeling van AI ten diepste gaat over het creëren van God: ‘degene die alle problemen zal oplossen óf de mensheid tot de hel verdoemt’.

Gespreksvragen:
– Wat is eigenlijk de ideologie van AI-ontwikkelaars? Waar willen zij naartoe? En moeten we dat inderdaad willen?
– Wat vind je van het religieuze aspect?

14. Is AI de moderne toren van Babel?

In het verhaal van de Toren van Babel probeerden de mensen een toren te bouwen die tot in de hemel reikte. Het is een verhaal over hoogmoed. De parallel met onze tijd, en met AI in het bijzonder, is snel gemaakt. Wat als we toegang hebben tot alle informatie? Wat als we alles weten? Kunnen we dan alle macht hebben? Al onze problemen oplossen met een ‘technofix’?

Sinds de wereld globaliseert, zien we ook een ‘homogenisering’. Dat wil zeggen dat er steeds minder diversiteit is. Bijvoorbeeld cultureel (‘amerikanisering’) of ecologisch (biotische en abiotische homogenisering). AI versterkt dit. Om in het voorbeeld van de Toren van Babel te blijven: door AI hoeven we nooit meer een nieuwe taal te leren. Er zijn namelijk AI-toepassingen waarin jij in je eigen taal praat en de ander het direct in zijn/haar eigen taal verstaat. Je kunt dus beide in je eigen taal praten en toch elkaar verstaan. Maar… Is een nieuwe taal leren niet een verrijking? Iets waarmee we de cultuur van een ander mee leren begrijpen? Hoe kostbaar is dat!

AI zorgt ervoor dat we uniformer gaan leven, diversiteit minder gaan begrijpen en waarderen. In het verhaal van de Toren van Babel straft God de mensen door hen juist verschillende talen te laten spreken. ‘De mensheid zocht haar kracht in homogeniteit. Maar God wilde variatie, veelkleurigheid en verschil’, aldus Hans Euser in zijn binnenkort te verschijnen boek Meer kleur in de kerk.

Gespreksvraag:
– Vind jij AI een hoogmoedige ontwikkeling?
– Hoe kunnen we elkaar in al onze diversiteit (blijven/leren) waarderen?

15. Wat heeft de wereld nodig?

Tenslotte… Wat hebben we als mensheid nodig? Zou het kunnen dat dit het tegenovergestelde is dan wat AI komt brengen? Minder mensgericht en meer holistisch kijken naar wat er nodig is in de wereld? Rust, vertragen, leren leven in balans met de aarde? Meer verbinding zoeken met elkaar en onze fysieke leefomgeving in plaats van meer uitbesteden aan computers? Leren samen-leven en elkaar om hulp vragen, in plaats van steeds meer te delegeren aan zielloze applicaties?

‘Als AI bestaat om mensen te helpen, versterkt alles wat het doet op subtiele wijze het mensgerichte denken dat, ironisch genoeg, de moderne menselijke samenleving aan het vernietigen is.’
– Peter Senge

Gespreksvragen:
– Herken jij deze tegenstelling tussen AI en samen-leven in de fysieke wereld?
– Hoe zie jij de toekomst voor je?
– Zou het mogelijk zijn om AI zo te ontwerpen en te gebruiken op een manier die ecologische grenzen en menselijke waardigheid respecteert? Hoe?