En zo belang je op een dinsdagmiddag ineens in een fundamentele, filosofische discussie over de vraag waar de grens tussen Artificial Intelligence (AI) en menselijkheid ligt…
Vanmiddag nam ik deel aan een workshop, georganiseerd door Saganet , in samenwerking met de Universiteit Utrecht. Centraal stond de vraag wat voor rol AI, en dan met name het omstreden algoritme ChatGTP, kon spelen in de ontwikkeling van serious games. ChatGTP heeft sinds zijn introductie de tongen flink los gemaakt: het algoritme dat hoogwaardige teksten kan afleveren die niet of nauwelijks van echt zijn te onderscheiden, kan rekenen op enthousiasme bij scholieren en studenten die zich verlost zien van het produceren van essays, opstellen en verslagen. Maar voor veel andere mensen is het idee van zo’n grenzeloos AI-systeem beangstigend. Hoe kunnen we teksten nog vertrouwen? Hoe weten we wat ‘waar’ en ‘niet waar’ is? Hoe makkelijk is in om het digitale tijdperk grote groepen mensen te beïnvloeden en te manipuleren? Die laatste angsten leefden ook bij mij, dus genoeg reden om het medium eens te onderzoeken.
De middag begon vrij klassiek: in kleine groepjes speelden we het – enigszins op ‘De kolonisten van Cathan’- gebaseerde spel GRUNN. In dit spel krijgen de spelers de opdracht om de provincie Groningen te ontginnen; hoe maak je van een gebied vol moeras, bossen, delta’s en veen een voor mensen geschikte omgeving? Leuk om weer eens met collega’s een spel te spelen dat goed in elkaar zat (al waren we blij met de spelleider die ons de vrij gecompliceerde spelregels geduldig uitlegde).
Deel twee van de middag werd spannender. We kregen de opdracht om de spelregels van GRUNN in te voeren in ChatGTP en daar nieuwe opdrachten aan toe te voegen, met de vraag aan het algoritme: “Maak een nieuwe versie van dit spel, met gebruik van… ” (Vul maar in). Oftewel: kan ChatGTP een nieuw spel ontwikkelen wat gebaseerd is op een bestaand concept, maar daar tegelijkertijd een eigen draai aan geven? Bijvoorbeeld: “Gebruik smurfen in dit spel.” Of “Herschrijf het in ambtelijke taal om het acceptabel te maken voor de gemeente Amsterdam.”
Ik gaf verschillende opdrachten. 1. Verplaats het spel naar een andere planeet. 2. Breng een moreel dilemma in. 3. Voeg personages van Shakespeare toe in de spelopzet. ChatGTP deed het. Met enkele opdrachten transformeerde GRUNN in een game waarbij het dilemma tussen economisch gewin en het respecteren van de natuur en de lokale cultuur werd uitgewerkt. Vervolgens vroeg ik om Shakespeareiaanse karakters toe te voegen. ChatGTP’s antwoord was letterlijk:
“Natuurlijk! Laten we personages uit de stukken van Shakespeare toevoegen aan “Grunn’s Galactic Colonizers”
Personages uit Shakespeare’s werken:
- Prospero (uit “The Tempest”): Prospero is een machtige tovenaar en kan als een speelbaar personage fungeren in het spel. Hij kan magische krachten gebruiken om het milieu te beschermen of om economisch voordeel te behalen. Spelers kunnen ervoor kiezen om Prospero’s krachten te gebruiken om de natuur te beschermen tegen de exploitatie van het mineraal, of om zijn magie in te zetten voor economisch gewin.
- Lady Macbeth (uit “Macbeth”): Lady Macbeth is een ambitieuze en manipulatieve vrouw. Ze kan fungeren als een tegenstander in het spel, die andere spelers probeert te overtuigen om het mineraal te exploiteren en economische groei boven milieubehoud te stellen. Spelers kunnen ervoor kiezen om samen te werken met Lady Macbeth om snelle winsten te behalen, maar moeten ook rekening houden met de morele gevolgen van hun keuzes.
- Hamlet (uit “Hamlet”): Hamlet is een filosofische prins en kan fungeren als een raadgever in het spel. Hij kan spelers helpen om na te denken over de morele dilemma’s en hen adviseren over de juiste keuzes om te maken. Spelers kunnen Hamlet raadplegen om inzicht te krijgen in de gevolgen van hun keuzes en om een evenwicht te vinden tussen economische groei en milieubehoud.
- Portia (uit “The Merchant of Venice”): Portia is een intelligente en rechtvaardige vrouw. Ze kan fungeren als een mediator in het spel, die spelers helpt bij het oplossen van conflicten die ontstaan door het morele dilemma. Spelers kunnen Portia raadplegen om geschillen tussen spelers op te lossen en om tot een eerlijke en rechtvaardige oplossing te komen.
Deze personages uit Shakespeare’s werken voegen een interessante dynamiek toe aan het spel, waarbij spelers kunnen interageren met bekende literaire figuren en hun advies kunnen gebruiken bij het nemen van ethische beslissingen. Het biedt ook de mogelijkheid om de rijke karakters en thema’s van Shakespeare’s werken te verkennen in een futuristische setting van ruimtekolonisatie.” (Live ChatGTP-sessie)
Ik was – en ben- verbijsterd. En bang.
Mijn eerste reactie was die van ongeloof: hoe kan AI dit soort – nauwelijks van echt te onderscheiden – materiaal maken? Mijn tweede reactie: hoe weten we wat ‘echt’ is en wat niet? In gedachten zag ik content waarin Donald Trump de Russen de oorlog verklaard, Adolf Hitler het stikstofprobleem analyseert en Josef Stalin uitlegt dat de Oekraïne toch écht Russisch grondgebied is.
De discussie die volgde was boeiend, leerrijk en confronterend, zeker toen ik de vraag stelde wat eigenlijk de meerwaarde van dit algoritme is? Waarom verzinnen we een systeem wat uit zijn enorme database brokjes informatie verzamelt om er een eigen draai aan te geven? Waarom hebben we niet genoeg aan onze eigen creativiteit, os eigen talent om te verzinnen, te schrijven, te maken?
“Maar menselijke creativiteit werkt net zo”, wierp iemand tegen. “Een kunstenaar maakt ook gebruik van bestaand materiaal wat hem of haar inspireert en beïnvloedt. Hij of zij voegt bestaande voorbeelden bij elkaar tot er een eigen, uniek resultaat bestaat. Dus wat is het verschil?”
Tja. Goeie vraag. Is het verschil dat een AI-product niet ‘bezielt’ is? (In de letterlijke zin: het heeft geen ziel). Dat creativiteit te maken heeft met het omgaan met de beperkingen van het materiaal waar je als kunstenaar mee werkt (verf, klei, taal)? Dat het ‘ambachtelijke’ verdwijnt? Dat een kunstwerk een ‘work in progress’ is, waarbij je als kunstenaar gedurende het proces tot nieuwe inzichten komt en die probeert toe te passen in het kunstwerk?
Roald Dahl schreef er alvast een mooi verhaal over.
Ik ben er niet over uit. Ik voel de angst dat mijn werk, mijn uniciteit, mijn scheppende vaardigheden (of het nu gaat om game-design, een voorstelling maken of een tekst schrijven op de tocht staat (“waarom zouden we weken wachten op het resultaat van een creatief denkproces als een algoritme dat in 2 minuten doet”) . En ik ben nog veel banger dat één van van weinige dingen die ons mensen nog onderscheidt van een algoritme langzaam diffuus wordt. Maar misschien valt het beest nog te temmen, en kunnen we manieren vinden om AI te gebruiken als aanvulling op ons menselijke mogelijkheden in plaats van een vervanging daarvan.
(Wordt vervolgd)