AI-onderzoeker Claes de Vreese doet aan de Universiteit van Amsterdam onderzoek naar de invloed van big tech en AI op de democratie. De Deen – die in 1996 als uitwisselingsstudent naar Amsterdam kwam en nooit meer is weggegaan – is vorige week onderscheiden met de Stevinpremie, de hoogste onderscheiding voor onderzoekers in Nederland.
‘Ik dacht dat je maar wat aanrommelde daar in Amsterdam, maar nu weet ik dat je heel serieus onderzoek doet.’ Dat was een van de vele reacties die Claes de Vreese ontving, nadat bekend was geworden dat hij de Stevinpremie had gewonnen. ‘Dit was een berichtje in een vriendenappgroep’, zegt hij, terwijl hij een glimlach niet kan onderdrukken. ‘Mensen kennen me als de buurman of van sport. Als je dan zo’n prijs wint, en dat verschijnt in alle kranten, dan zien ze opeens dat wat je doet heel relevant is.’
U onderzoekt hoe AI de democratie beïnvloedt. Vertel?
‘AI kun je zien als een soort systeemtechnologie die overal invloed op heeft. Alle instituties – van de media tot politieke partijen, de financiële sector en overheidsinstellingen – hebben te maken met deze technologie. In de media zijn de werkwijze, de manier van onderzoek doen en de relatie met kijkers en lezers veranderd. In de politiek zie je dat sommige partijen generatieve AI omarmen en onderdeel laten worden van hun politieke campagnevoering. De kerninstituties van de democratie moeten uitvinden: hoe gaan we hiermee om en wat is verantwoord?’
In de journalistiek, de waakhond van de democratie, zijn de veranderingen extreem.
‘Dat klopt. Het vakgebied heeft eerder te maken gehad met nieuwe technologieën en digitalisering en in zekere zin bouwt AI daarop voort. Maar de snelheid waarmee dat gebeurt, is enorm. Wat is authentiek, waar kun je op vertrouwen? Dat zijn discussies van alle tijden, maar ze krijgen een extra lading als je ergens generatieve AI op loslaat.’
Onlangs gebruikte het NOS-journaal ook AI-beelden om een nieuwsverhaal over een drugscrimineel te illustreren.
‘Tja. Het was een impressie van hoe het eruit zou kunnen hebben gezien, gemaakt met in AI-gegenereerd beeldmateriaal. Het NOS-journaal heeft een belangrijke gidsfunctie en dit item kan je beschouwen als een wake-upcall: niet meer doen.’
Hoe werd AI ingezet bij de laatste gemeenteraadsverkiezingen?
‘Bij landelijke verkiezingen is er meestal beleid vanuit de partij over wat wel en niet mag worden gedaan met generatieve AI, maar lokaal is dat moeilijker: daar is minder grip op de mensen die verkiesbaar zijn. We hebben rond de gemeenteraadsverkiezingen onderzoek gedaan en daaruit bleek dat de perceptie van het gebruik van AI tijdens de campagne was afgenomen. En dat terwijl AI bij de laatste Tweede Kamerverkiezingen best aanwezig was, vooral bij de PVV. Een overgrote meerderheid in ons onderzoek vindt het overigens echt onverstandig als de politiek AI inzet.’
Heeft Amsterdam AI omarmd?
‘Alle onderwijsinstellingen doen er wat mee en in de stad zitten grote AI-bedrijven. Bij de gemeente zijn talloze werkgroepen in het leven geroepen om pilots uit te voeren waarbij AI in de volle breedte wordt ingezet.
Elke instelling moet zich afvragen: wat kunnen wij met de technologie? Hoe kun je die verantwoordelijk toepassen en waar valt winst te behalen qua efficiëntie? Je kunt geen glazen stolp over de stad leggen en zeggen dat we niet met AI werken omdat de risico’s te groot zijn. De kunst zit hem erin die technologie kritisch toe te passen.’
Zijn we ons voldoende bewust van het feit dat een aantal Amerikaanse techbedrijven bijna alle macht hebben?
‘Iedereen is zich er inmiddels wel van bewust dat we afhankelijk zijn van die Amerikaanse techbedrijven: ik zie het als een van de grootste dilemma’s en uitdagingen van onze tijd. En door het gebruik van AI wordt het alleen maar nog erger. Zo draait de gemeente Amsterdam voor een groot deel op producten van Microsoft. Als vervolgens ook nog bepaalde AI-modellen worden gebruikt, wordt de afhankelijkheid alleen maar groter.’
Hoe moet de stad dit tegengaan?
‘Probeer alternatieven. Die zijn misschien kleiner en ook niet altijd even goed, maar het is niet goed afhankelijk te zijn.’
Uw antwoord klinkt niet heel geruststellend.
‘De Amerikaanse overheid is in staat af te dwingen dat bepaalde modellen opeens niet meer op de markt beschikbaar zijn. De regering-Trump kan dit gewoon bepalen. Europa is kwetsbaar door deze afhankelijkheid van Amerika, want als we geen toegang meer krijgen tot bepaalde diensten in de cloud, of als bepaalde basisdiensten van de Amerikaanse techbedrijven morgen worden stopgezet, ligt een heel groot deel van de werkzaamheden plat.’
Realiseert men zich dat in het gemeentehuis?
‘Het zou goed zijn als de stad vooroploopt om scenario’s uit te werken en alternatieve plannen klaar te hebben liggen. Hoe zorg je voor een kritische infrastructuur als de elektriciteit uitvalt, er geen water meer uit de kraan komt en de cloud niet meer bereikbaar is?’
Is dit een oproep aan Femke Halsema?
‘Het is een uitnodiging om daar samen extra hard aan te werken.’
Deze uitspraak sluit naadloos aan bij de juryrapport van de Stevinpremie die meldt dat u ‘van zeer grote invloed’ bent.
‘Ik probeer mijn kennis te delen met de stad. Ik ga heel veel in op uitnodigingen, doe publiekslezingen en ik spreek met commissies en politici. Dat kan zijn vanuit de stad, maar ook vanuit ministeries of vanuit Europa. In sommige projecten en labs werken we als Universiteit van Amsterdam samen met de Hogeschool van Amsterdam, het Centrum Wiskunde & Informatica, een mediabedrijf als DPG Media, het Commissariaat voor de Media en met verschillende ministeries. Eigenlijk alles tussen het Science Park hier in Amsterdam-Oost, het Binnenhof en Brussel. Uiteindelijk gaat het erom kennis te benutten en impact te hebben, zodat het uitmondt in beleid.’
Gebeurt dat?
‘Een van de grote krachten van Amsterdam op AI-gebied is dat er over de hele breedte goede mensen uit sterke sectoren en goede netwerken zijn: het Science Park, de Zuidas en de financiële sector, collega’s van rechtsgeleerdheid en van gedragswetenschappen. Er is hier veel kennis van hoge kwaliteit.’
Als je kijkt naar de gevaren van AI, dan moet er vooral regulering komen. Toch?
‘Dat is correct, maar mijn gevoel op gebied van regulering is dubbel. Je hebt de eerder beschreven machtige techbedrijven, maar er staan ook verordeningen op stapel die AI sterk willen begrenzen. Datzelfde geldt voor verdragen, die zich soms al in de implementatiefase bevinden.
Aan de andere kant merk je dat de wensen van burgers op dit gebied heel duidelijk zijn: er moeten basisregels komen op het gebied van AI. Niemand wil namelijk een ongereguleerde sector hebben. En als het dan toch moet, dan het liefst vanuit Europa met haar 450 miljoen consumenten.’
Hoe speelt het onderwijs in op alle ontwikkelingen?
‘We hoeven hier in de stad niet iedereen tot AI-onderzoeker op te leiden, maar het is wel belangrijk dat het een vast onderdeel wordt van elke opleiding. Of je nu econoom wordt of een opleiding volgt aan de medische faculteit: de invloed van AI is zeer aanwezig en de mensen van morgen moet je kritisch en bewust opleiden en leren met deze transitie om te gaan.’
Dat klinkt mooi, maar hoe moeten burgers dit aanpakken?
‘Zelf experimenteren en ervaring opdoen is goed, maar het is ook heel belangrijk dat we hen leren kritisch te kijken en om bewustzijn te kweken. De samenleving mag dit niet zomaar over de schutting gooien en tegen de mensen in de stad zeggen dat ze het zelf maar uit moeten zoeken – daarvoor is het veel te groot.’
Hoe gebruik u het zelf?
‘Ik gebruik UvA AI Chat, een AI-omgeving voor studenten en medewerkers waarin privacy en data veilig zijn. Soms gebruik ik het ter voorbereiding van een lezing. Ik weet ongeveer wat ik wil vertellen en vraag dan of er perspectieven ontbreken of wat de grootste critici hiervan vinden. Ik zie deze AI Chat als een goede collega aan wie je wat vraagt, maar met wie je niet meteen een halfuur hoeft te praten.’
De uitwisselingstudent uit 1996 heeft precies dertig jaar later de allerhoogste wetenschappelijke onderscheiding in Nederland ontvangen.
‘Ik koos officieel voor Amsterdam omdat ze bij de Universiteit van Amsterdam een goed, Engelstalig programma hadden. De studie was leuk en Amsterdam als uitgaansstad was geweldig, met de Roxy, de iT en de Supperclub. Maar de echte reden was de liefde: ik kwam hier destijds naartoe voor de persoon die nu mijn vrouw is.’
Claes de Vreese (Kopenhagen 1974)
Claes de Vreese is universiteitshoogleraar Kunstmatige Intelligentie en Samenleving (2021-), met een speciale focus op media en democratie aan de Universiteit van Amsterdam. Hij bekleedt sinds 2005 de leerstoel politieke communicatie aan de Amsterdam School of Communication Research (ASCoR).
Stevinpremie
De Stevinpremie is de hoogste onderscheiding voor onderzoekers in Nederland die bijzondere prestaties hebben behaald op het gebied van kennisbenutting voor de samenleving. Onder kennisbenutting wordt verstaan: het toepassen van kennis door het aangaan van interacties met een belanghebbende doelgroep, om zo maatschappelijke – waaronder economische waarde – te creëren. Met de Stevinpremie krijgt De Vreese 1,5 miljoen euro om te besteden aan wetenschappelijk onderzoek en activiteiten met betrekking tot kennisbenutting.
Geef een reactie