[onepage_product product=”118798″]
In een wereld vol AI-enthousiastelingen spreekt informaticus Felienne Hermans zich uit tegen de opmars van algoritmen en de toenemende macht van big tech. Met haar onderzoek naar socialer programmeeronderwijs zet ze zich in voor een nieuwe generatie informatici die oog heeft voor de maatschappelijke gevolgen van technologie.
Als kind was informaticus Felienne Hermans begin jaren negentig al fanatiek met computers bezig. Veel kon je er toen nog niet mee – er waren nog maar weinig computerspellen en lang niet elke computer was verbonden met internet. Daarom besloot ze zichzelf te leren programmeren: met boekjes uit de bibliotheek, hulp van vrienden en heel veel doorzettingsvermogen.
Geen verrassing dus dat Hermans later besloot om informatica te gaan studeren. Zo kon ze haar interesse in computers en algoritmen blijven voeden. Ze studeerde af, promoveerde en bleef als onderzoeker in het veld actief. Maar langzaamaan maakte het enthousiasme van Hermans over het vakgebied en de toepassingen ervan plaats voor waakzaamheid. De opkomst van AI, waaronder taalmodellen zoals ChatGPT, droeg daaraan bij. Ze zag de schaduwzijde van deze technologieën, zoals de discriminatie, de klimaatimpact en de enorme hoeveelheden geld en macht die ermee gemoeid zijn.
Het onderzoek van Hermans is daarom tegenwoordig minder gericht op de technische mogelijkheden van computers en meer filosofisch van aard. Aan de Vrije Universiteit Amsterdam onderzoekt ze hoe we programmeeronderwijs en het vakgebied van de informatica toegankelijker en socialer kunnen maken. ‘Ik wil andere informatici laten begrijpen wat er mis is met de technologieën waar ze zo dol op zijn, zodat ze stoppen met het uitspuwen van algoritmen die de wereld rotter maken.’
‘Algoritmen die de wereld rotter maken.’ Dat is duidelijke taal. Hoe kijkt u naar de ontwikkelingen rond AI?
‘Er zijn twee ontwikkelingen die parallel aan elkaar lopen. Ten eerste heb je de technologie: er zijn nu taalmodellen die taal kunnen produceren die ontzettend lijkt op menselijke taal. Dat doen ze een stuk beter dan een hoop mensen voorspeld hadden. Het is heel gaaf dat we dat als mensheid kunnen – ik had jaren geleden niet verwacht dat ik dat in mijn leven nog mee zou maken. Nog steeds vindt er op dit vlak ontzettend veel ontwikkeling plaats: in bepaalde zin worden die modellen ook steeds beter in wat ze doen. Dat vind ik supercool en -interessant.
Als die technologie binnen de wetenschap was gebleven, dan had ik nu een enorm positief gesprek met jullie gevoerd. Dan had ik jullie enthousiast verteld over wat het laatste taalmodel nu allemaal weer kan. Maar parallel aan deze ontwikkelingen is er een AI-hype ontstaan, gedreven door bedrijven die er geld mee willen verdienen en macht naar zich toe willen trekken. Die zeggen dat AI allerlei problemen kan oplossen, en ook nog eens sneller dan ooit. Maar dat is een marketingverhaal met als doel om zoveel mogelijk geld te verdienen. Hierdoor ben ik niet meer zo enthousiast over de technologie – die kun je namelijk niet los zien van de hype.’
Ziet u AI dan niet als handig hulpmiddel voor veel mensen?
‘Mensen zeggen vaak dat ze door AI meer kunnen produceren. Denk aan wetenschappers die zeggen dat ze met behulp van AI meer wetenschappelijke artikelen kunnen schrijven. Ik ben misschien een beetje cynisch op dit vlak, maar ik denk dan: meer is niet altijd beter.
Bovendien kan ik geen toepassing van AI opnoemen waar geen nadelen aan kleven. Misschien komt zo’n toepassing er nog eens. Maar in veel gevallen waarin AI nu handig lijkt, is het dat uiteindelijk niet. Een voorbeeld: ik las laatst een stuk over een arts die al zijn consulten opnam en vervolgens AI samenvattingen van de gesprekken liet maken. Na een aantal maanden is hij daar weer mee gestopt. Hij merkte namelijk dat hij later geen actieve herinneringen meer aan de gesprekken had, zelfs in het geval van patiënten die hij al meerdere keren had gezien. En zo zijn er nog tal van voorbeelden.
We zijn nu op het punt gekomen waarop critici zoals ik nodig zijn om mensen op de nadelen van AI te wijzen. Want de mensen die de software verkopen, zeggen dat die geweldig werkt. Een typisch geval van ‘wij van Wc-eend adviseren Wc-eend’. Veel mensen nemen de verkooppraatjes voor zoete koek aan.
Noem mij een radicale wetenschapper, maar ik denk dat het heel verstandig was geweest als we software zoals AI eerst wetenschappelijk hadden getest, zoals we dat ook doen bij andere innovaties.’
Op wat voor tests doelt u dan?
‘Nieuwe medicijnen, bijvoorbeeld, moeten een heel traject doorlopen voordat mensen ze mogen gebruiken. Eerst worden ze getest op dieren. Als die proeven goed zijn verlopen, volgt voorzichtig de stap naar mensen. Pas wanneer er genoeg vertrouwen is in het middel wordt het op de markt gebracht.
Dat lijkt mij een heel verstandig proces, ook in de context van AI: dat je software hebt uitgevonden, en die dan eerst eens gaat testen op kleine schaal, bijvoorbeeld in het onderwijs met een paar leerlingen. Vervolgens kijk je naar het effect ervan op de gebruikers en breid je de verspreiding van de software stap voor stap uit. Maar nu is alles direct beschikbaar voor iedereen.’
‘Het gaat AI-bazen enkel om macht en geld. En dat geven wij ze.’
Verwacht u dat de huidige hype blijft voortduren?
‘Ik denk dat er wel het een en ander gaat veranderen. Het is een beetje hetzelfde als met sociale media en smartphones: in het begin vonden we bijvoorbeeld Twitter allemaal heel leuk, maar op een gegeven moment werd het ongezond. We kijken nu kritischer naar ons telefoongebruik – we hebben zelfs mobiele telefoons op scholen verboden. Wie minder op zijn smartphone zit, komt automatisch minder in aanraking met AI-toepassingen zoals chatbots. Dat kan al een verschil maken.
Maar tegelijkertijd zien we de houding van mensen tegenover AI ook echt veranderen op een soortgelijke manier als gebeurde bij smartphones en sociale media: mensen zien ook de keerzijde ervan. Denk aan de klimaatschade, het enorme waterverbruik en de macht die in handen valt van een kleine groep bedrijven of individuen. Er zijn genoeg redenen waarom mensen zeggen: ‘Ik wil dit niet gebruiken.”
Een van de kritiekpunten op AI is dat die niet neutraal is, terwijl die zich zo wel presenteert. Kun je daar meer over vertellen?
‘AI wordt getraind op gegevens die niet neutraal zijn. In die gegevens zitten historische ongelijkheden en vooroordelen, en die sluipen dus ook in de AI. Daardoor geeft AI, zoals de veelgebruikte chatbots, een vertekend beeld van de werkelijkheid.
Zo liet een onderzoek uit 2023 zien dat wanneer je een chatbot vraagt een dokter te genereren, in slechts 7 procent van de gevallen een vrouw verschijnt – terwijl het werkelijke percentage vrouwelijke artsen veel hoger ligt. Chatbots laten dus niet zozeer de wereld zien zoals die nu is, maar zoals die in het verleden was.
Stel dat we hier op de universiteit nieuw promotiemateriaal willen ontwikkelen. Dan zorgen we ervoor dat daar een diverse groep mensen op te zien is, zodat veel verschillende studenten zich erin kunnen herkennen. We beelden dan bewust de wereld af zoals we die graag zouden willen zien. Dat kan een AI per definitie niet.’
AI maakt ook fouten en verspreidt zo misinformatie. Hoe groot is dit probleem?
‘Ik focus minder op het feit dat er fouten in zitten – mensen maken ook weleens een foutje. Wat ik opvallender vind, is dat AI een standpunt inneemt. Dat zal ik uitleggen. Vroeger werkten AI-wetenschappers heel veel aan de denksport schaken. Daarbij is het heel duidelijk wanneer je gewonnen hebt, want een koning staat wel of niet schaakmat. Maar taalmodellen kun je niet op die manier trainen. Bij taal is er namelijk niet zoiets als een goed of fout antwoord. Op iedere vraag bestaan verschillende antwoorden, die allemaal kloppen en tegelijkertijd ook allemaal niet kloppen, doordat ze een versimpeling van de waarheid zijn.
Neem de val van de Bosnische stad Srebrenica en de daaropvolgende genocide van moslimmannen in juli 1995. Vraag je aan meerdere mensen waarom Srebrenica viel, dan zegt de ene persoon misschien dat dat kwam door de acties van Ratko Mladic´, de opperbevelhebber van de Servische troepen die Srebrenica binnenvielen. Een ander zegt misschien dat de schuld ligt bij het Dutchbat III-bataljon en hun commandant Thom Karremans, die de naar Srebrenica gevluchte moslims hadden moeten beschermen tegen de Serven. Weer een ander wijst wellicht naar Tito, die lange tijd president was van Joegoslavië. Hij verenigde immers verschillende volkeren samen in een land – wat vroeg of laat tot een explosie zou leiden.
Stuk voor stuk is er wat voor deze antwoorden te zeggen: ze komen allemaal uit een ander perspectief. Een vraag als deze kun je dus niet benaderen als een potje schaak. Maar dat is wel wat AI-modellen doen.’
Waar maakt u zich het meeste zorgen om?
‘Mijn grootste concrete zorg is dat we op dit moment, gedreven door de AI-hype, bakken met geld investeren in deze technologie – waaronder ook belastinggeld – en daarmee heel veel macht overhevelen naar Amerikaanse softwarebedrijven en problematische individuen zoals Sam Altman, het opperhoofd van OpenAI. Dit soort mensen heeft in feite dezelfde overtuiging als makers van wapens: ze maken een product – en wat het effect daarvan is op de samenleving en de mensen die het gebruiken, kan ze niks schelen. Het gaat ze enkel om macht en geld. En dat geven wij ze.
Maar dat ze niet nadenken over de gevolgen is niet verrassend, als je kijkt naar hoe we informatici opleiden. Informaticaopleidingen leiden nu eenmaal tot een bepaald wereldbeeld.’
Wat voor wereldbeeld is dat?
‘Bij informaticaopleidingen leer je – impliciet – dat technologie de oplossing is voor alles. Informatica wordt aan de wereld gepresenteerd als een vakgebied met impact. Zo dacht ik vroeger ook – ik ben echt een techno-optimist in de rouw.
Maar tijdens die opleidingen leer je nergens om te bedenken wat zulke technologie met mensen doet – wat voor effect die heeft op de gebruikers. Uit dit opleidingssysteem rollen informatici die er niet bij stilstaan dat technologie niet alleen problemen oplost, maar ook problemen creëert. Veel problemen waren best te voorspellen geweest als we informatici een wat gevarieerder informatiedieet hadden aangeboden, met daarin bijvoorbeeld techniekfilosofie.’
Wat moeten we ons voorstellen bij ’techniekfilosofie’?
‘Daarbij gaat het om nadenken over de niet-technische consequenties van software. Neem de zelfscankassa’s in de supermarkt. Vroeger ging je naar de kassa en dan hadden jij en de kassamedewerker allebei hetzelfde doel: de boodschappen gescand krijgen. Maar nu willen de klant en de medewerker niet hetzelfde: de klant wil na het scannen de boodschappen in de tas houden, de medewerker wil ze eruit halen om ze te controleren. Door technologie staan mensen ineens tegenover elkaar.
Ik zou graag in een wereld leven waarin het techbedrijf van de zelfscansoftware deze niet klakkeloos verkoopt, maar in plaats daarvan kritisch meedenkt. Hoe gaat het product de sfeer in de winkel veranderen? Willen we dat wel? Kunnen we geen andere oplossing bedenken om het kassaverkeer te versnellen, eentje die niet leidt tot meer irritatie?’
Hoe komen we daar?
‘Ik probeer informatici te laten inzien dat ze al die kritiek op technologie moeten leren begrijpen. Daarom voer ik campagne voor het breder maken van informaticaopleidingen en voor het toevoegen van techniekfilosofische vakken aan het curriculum. Zo kunnen we informatici opleiden die wél nadenken over de bredere implicaties van technologie. Dat is lastig, want het is erg ingewikkeld om mensen in het vakgebied van mening te laten veranderen. Een slager gaat ook geen worteltjes verkopen; die houdt het liever bij vlees.
Daarom richt ik me ook steeds meer op de mensen buiten het vakgebied. Door me uit te spreken, door hen uit te leggen hoe die technologie werkt en wat voor nadelen eraan kleven. En ook door te delen hoe informatici denken en hoe dat zo is gekomen – dat heeft namelijk ook een historische verklaring.’
Wat is die historische verklaring?
‘Informatica is van origine een beetje een raar vakgebied: het is een beetje taal en een beetje rekenen. Kortom, het is heel interdisciplinair. Toen het vakgebied opkwam, was het heel divers. Maar in de tweede helft van de vorige eeuw moest het veld een plek krijgen binnen universiteiten. Uiteindelijk kwam het daar veelal terecht bij de faculteit bètawetenschappen. Maar informatica is eigenlijk helemaal geen bètavak: natuurwetenschappers kijken naar de wereld zoals die is, terwijl computers zijn gemaakt door mensen.
Het vakgebied is zich vervolgens meer bèta gaan gedragen: het ging steeds meer draaien om wiskunde en complexe algoritmen. Daardoor zijn de sociaal wetenschappers en de sociale vakken steeds meer het vak uitgedreven. Maar ik zeg dus: maak het vakgebied weer socialer. Daar doe ik hard mijn best voor.’
‘Mensen verweten me dat ik ‘woke’ naar de informatica bracht’
Hoewel u nu meer in die hoek van de techniekfilosofie zit, bent u uw wetenschappelijke carrière begonnen als informaticus. U ontwikkelde onder meer een eigen programmeertaal: Hedy. Hoe kwam die tot stand?
‘Een dag per week geef ik les op een middelbare school, en daar leer ik mijn leerlingen programmeren. Een aantal jaar geleden werkten we vooral met Python, de bekendste programmeertaal van dit moment. Instagram en YouTube zijn hier bijvoorbeeld mee gemaakt. Voor de leerlingen in de brugklas was die taal nét te ingewikkeld. Hij is volledig in het Engels en bestaat uit punten, komma’s, haakjes, krulhaakjes en nog veel meer symbolen. Er zijn een heleboel regels die je moet kennen. Zet je een spatie verkeerd, dan krijg je een Engelse foutmelding waar je helemaal niets van begrijpt. Dat werkt erg demotiverend. De programmeertalen voor kinderen die al bestonden, waren juist te kinderachtig en te makkelijk voor deze leeftijdsgroep. Zo ontstond bij mij het idee om zelf een programmeertaal te ontwikkelen om leerlingen te leren programmeren. In de kerstvakantie van 2019 heb ik een eerste versie gemaakt.’
Wat maakt Hedy geschikt om kinderen te leren programmeren?
‘Het is een programmeertaal die eenvoudig begint en langzaam in moeilijkheidsgraad omhooggaat. Bij Hedy zijn de eerste niveaus makkelijk, met weinig regels. Naarmate je meer niveaus doorloopt, komen er steeds meer regels bij. Uiteindelijk leer je zo stap voor stap alle regels die nodig zijn om in Python te kunnen programmeren.
Bovendien is Hedy inmiddels in 71 talen beschikbaar. In het Nederlands en Engels, maar ook in bijvoorbeeld het Hindi, Arabisch en Chinees. Kinderen kunnen dus in hun eigen taal programmeren. Dat maakt het makkelijker. Inmiddels gebruiken kinderen over de hele wereld Hedy om te leren programmeren.’
Waarom is het zo belangrijk dat kinderen in aanraking komen met programmeren?
‘Je kunt van alles maken met programmeren: verhalen, animaties, apps, kunstwerken. Het is heel betekenisvol voor kinderen als ze zich realiseren dat ze zelf iets kunnen maken. Op de lange termijn is dat natuurlijk handig voor als we onafhankelijker willen worden van Amerikaanse softwarebedrijven. Maar ook nu is het waardevol: het is goed om kinderen al jong te laten zien wat je allemaal kunt met programmeren – en hoe de software die onze wereld draaiende houdt in elkaar zit.
Vroeger dacht ik bovendien dat als we informatica toegankelijker zouden maken – en dus ook geschikt voor kinderen – er een diversere groep mensen in het vakgebied zou belanden; dat het veld inclusiever en socialer zou worden. Daarom heb ik hard mijn best gedaan om Hedy toegankelijk te maken voor zoveel mogelijk mensen. Bijvoorbeeld door haar voor iedereen gratis beschikbaar te maken, in veel verschillende talen uit te brengen en geschikt te maken voor mensen die blind en slechtziend zijn. Maar inmiddels geloof ik niet meer dat het zo werkt.’
Waarom niet?
‘Toen ik Hedy in andere talen ging maken, was ik nog een techno-optimist. Ik was ervan overtuigd dat het feit dat we alleen programmeren in het Engels, en niet in andere talen, een technisch probleem was. Daar wilde ik een technische oplossing voor zoeken. Toen ik die gevonden had, publiceerde ik een stappenplan dat andere programmeurs liet zien hoe ze programmeertalen inclusiever konden maken. Ik dacht dat alle programmeurs daar heel blij mee zouden zijn; dat ze me zouden bedanken en zelf ook aan de slag zouden gaan. Maar het tegenovergestelde gebeurde: mensen werden boos op mij en scholden me uit op sociale media. Ze vonden het allemaal gezeur, zeiden dat ik ‘woke’ naar de informatica bracht. Dat veranderde mijn beeld van de informaticawereld. Sindsdien praat ik niet meer zoveel over Hedy. Want de haatreacties zijn gewoon niet leuk.’
Wat deden deze haatreacties met u?
‘Ze hebben me dus in een wat andere richting doen drijven. De oplossing zit voor mij niet meer in technologische oplossingen, zoals nog meer sleutelen aan Hedy en zorgen dat die in nog meer talen beschikbaar wordt, of in het delen met andere informatici hoe je programmeertalen inclusiever maakt. Ze hebben duidelijk gemaakt dat ze daar toch niks mee doen, dus dat heeft geen zin. Daarom focus ik me nu op hoe we informatici kunnen opleiden die sociale consequenties en inclusiviteit wél belangrijk vinden.’
Is dat realistisch?
‘Dat weet ik niet – en dat maakt me eigenlijk ook niet uit. Want dat wil niet zeggen dat we niet ons best moeten doen om de wereld zoals die nu is te veranderen. Een vegetariër zal na een beetje kritiek ook niet zeggen ‘doe mij dan maar een worstje’, terwijl nog steeds miljoenen varkens in stallen leven. Ik wil uiteindelijk terug kunnen kijken op mijn leven en kunnen zeggen dat ik alles heb gedaan wat ik kon. Daarom ga ik door met het zetten van de stappen die ik belangrijk vind.’
CV
Felienne Hermans (Oudenbosch, 1984) is hoogleraar didactiek van de informatica aan de Vrije Universiteit Amsterdam. Ze studeerde informatica aan de Technische Universiteit Eindhoven. Tijdens haar promotie aan de Technische Universiteit Delft ontwikkelde ze algoritmen die fouten in Excelsheets kunnen opsporen. Daarna was ze een aantal jaar verbonden aan de Universiteit Leiden. In die periode ontwikkelde ze de programmeertaal Hedy. In haar huidige onderzoek richt ze zich op het toegankelijker maken van programmeeronderwijs. Daarnaast is ze leraar informatica op de Open Schoolgemeenschap Bijlmer en schrijft ze regelmatig voor diverse Nederlandse kranten en tijdschriften. Op 6 november komt haar boek Vierkante Ogen uit.
Dit artikel is verschenen in New Scientist Nr 145 | Juli/augustus 2026. Deze editie vind je in ons digitaal archief.
Geef een reactie