Hoewel het discours rond ChatGPT waarschijnlijk een verzadigingspunt begint te bereiken, is het zinvol om erop te wijzen hoe weinig discussies er eigenlijk over de chatbot zelf gaan. Flora Lysen, Massimiliano Simons en Maximilian Roßmann van de Faculty of Arts and Social Sciences (FASoS) over wat dan wél onderwerp van gesprek is: van het te snel studenten beschuldigen van frauderen, tot het onderschatten van waar mensen toe in staat zijn en de gevaren van het meedoen met de hype.
"Vertel me wat je van AI vindt en ik vertel je wie je bent," zegt Simons. "Mensen voeren hun eigen zorgen op in de discussies." Hij woonde een debat met FASoS-studenten en -medewerkers bij en was geïntrigeerd door wat daar werd gezegd over de impliciete aannames over studenten. Veel universiteiten voelen de noodzaak om krachtig op te treden om fraude te voorkomen.
"Onze indruk was eigenlijk meer dat studenten nieuwsgierig waren, maar niet van plan waren zichzelf te bedriegen." Collega-onderzoeker Lysen sluit zich daarbij aan. "Ik was verrast dat veel van mijn studenten betalen voor programma's als Grammarly, dus ze zijn echt op zoek naar hulp bij het schrijven." Ze wijst erop dat techbedrijven een wapenwedloop stimuleren tussen software voor het genereren van tekst en software voor het ontdekken van fraude, waarbij studenten tegen onderwijsinstellingen worden opgezet en beide partijen betalen om een voorsprong op de ander te krijgen.
De kunst van het weglaten
"Het is een goed hulpmiddel, zolang mensen maar niet denken dat we het hier hebben over feiten of kennis," legt Simons uit. "Het genereert tekst – verder niks. Daarnaast is het, als je het over taal hebt, goed om te beseffen dat de meeste dingen die we iedere dag zeggen niet gaan over het overbrengen van informatie." Hij voegt eraan toe dat hoger onderwijs hoe dan ook draait om kritisch beoordelen en het maken van keuzes. "Vaak is het zware werk bij het produceren van een zinvolle tekst vooral gelegen in het weglaten van irrelevante zaken. In veel opzichten kan de bot alleen maar de door jou gewenste tekst schrijven als hij met dat type tekst gevoed is."
Roßmann waarschuwt ervoor om voorspellingen van bedrijven over de mogelijkheden van AI niet klakkeloos te geloven. "Denk aan 3D-printers en hun belofte om alles met één druk op de knop te kunnen printen. Uiteraard bood het tekort aan medische hulpmiddelen tijdens de pandemie een voedingsbodem voor deze visie. Maar toen men probeerde om de vroege successen na te bootsen, was dat een erg ontnuchterende ervaring. Gelaatsschermen en die kleine bandjes om ze mee op hun plaats te houden waren uiteindelijk de enige dingen die op grote schaal werden ge-3D-print."
"Ik vind ChatGPT niet wereldschokkend," zegt Lysen. "Het zal geen volledige ommekeer betekenen in hoe we ons verhouden tot teksten en schrijven. De impact lijkt meer gelegen te zijn in de aandacht die we aan dit fenomeen besteden." Ze denkt dat het werk van schrijvers die teksten maken voor specifieke situaties niet overbodig zal worden. "Wie met ChatGPT werkt moet leren hoe je de tool moet aansturen om de teksten die het genereert echt in de goede context te kunnen plaatsen. Wat dat betreft moeten we de menselijke vaardigheden, ervaring en kennis niet onderschatten."
Hype en ontzag
Lysen denkt dat het ontwerp van ChatGPT – tekst die geleidelijk verschijnt in een mooie, gelikte interface – ontzag opwekt. Ze verwijst naar de lange geschiedenis van chatbots, die teruggaat tot het ELIZA-effect, wat je kort kunt omschrijven als onze neiging om machines te antropomorfiseren. "Hoe het ontvangen werd, het ontzag: dat is een cultureel narratief geworden. Maar het ontzag zal ook slijten. Als ik een chatbot van de klantenservice gebruik, heb ik geen ontzag meer; ik moet gewoon een probleem oplossen."
Dat gevoel van ontzag komt volgens Simons omdat mensen standaard ervanuit gaan dat teksten door mensen zijn geschreven. "Het zou kunnen dat die verwachting in de loop der tijd verandert, vooral bij teksten voor commercieel gebruik." Hij voegt eraan toe dat er ook 'post-kunstmatige' teksten zijn, een categorie waarbij het in wezen irrelevant is wie of wat ze heeft geproduceerd, zoals borden, instructies, ingrediëntenlijsten, enz.
Ook Simons vraagt zich af of de hype na de eerste verkenningsfase niet vrij snel zal afnemen. "Zo heb ik het ervaren: ik heb het een paar dagen gebruikt, het was leuk, en toen ging het me vervelen." Roßmann wijst erop dat de amusem*ntswaarde van cruciaal belang was voor het enthousiaste onthaal. Maar hij is ook overtuigd van het nut. "Ik heb met ChatGPT mijn papers vertaald in punksongs en was onder de indruk van de genrevastheid. Ik heb ook korte reclameteksten voor de distilleerderij van mijn ouders gemaakt."
Welke verhalen zich verspreiden, en hoe
ChatGPT kreeg vooral veel aandacht doordat iedereen de kans had om er mee te experimenteren, zegt Roßmann. "ChatGPT is als een speeltuin voor het verkennen van toekomstscenario's en de relatie tussen generatieve AI-technologie en waarden. Door de georkestreerde wereldwijde release wilde iedereen zijn ervaringen delen aan de hand van dezelfde buzzwoorden of hashtags – en allemaal op hetzelfde moment. Dit zorgde voor een hyperbolische spiraal, omdat alleen de spannendste en mooiste verhalen eruit sprongen."
Het beperkte aantal karakters op social media en de korte aandachtsspanne van lezers maakte dat mensen bekende stijlfiguren gebruikten, van robots die onze banen en vrijheid bedreigen tot frauderende studenten. "Maar," zegt Roßmann, "dat maakt deze verhalen nog niet waar of relevant. Als we er ons door laten opjutten, komen de verkeerde zaken misschien bovenaan onze agenda." Die dynamiek geldt zowel voor individuen als de media. Simons wijst erop dat bedrijven die AI ontwikkelen vaak dezelfde zijn die geld uitgeven aan denktanks, die vervolgens PR-uitingen zwaarder aanzetten, bijvoorbeeld door te wijzen op existentiële risico's.
"Je hebt kolossale steun van durfkapitalisten nodig om dergelijke Large Language Models (LLM's) te ontwikkelen," zegt Lysen, "en om het soort hype te genereren dat we hier hebben gezien." AI is niet alleen wetenschappelijk erg spannend, maar ook een zeer lucratieve sector voor speculanten. Eerder dit jaar kondigde Microsoft een miljardeninvestering aan in OpenAI. Je mag aannemen dat de hype hun aandelenkoers niet negatief heeft beïnvloed.
Welke narratieven hebben de voorkeur?
De discussie rond het mogelijke commerciële gebruik maakt deel uit van een groter narratief rond efficiëntie, kostenbesparing en winst. "Het is bijna alsof we daardoor enthousiaster worden over het vervangen van mensen door AI," zegt Lysen. "Het probleem met het verbeteringsnarratief, bijvoorbeeld in de geneeskunde, is dat het eigenlijk de bedoeling is om processen sneller en goedkoper te maken." Roßmann vindt dat we het werk van bijvoorbeeld een arts niet moeten reduceren tot alleen die onderdelen die AI beter zou kunnen doen. "Hoe zit het met het opbouwen van het soort relatie dat nodig is om de levensomstandigheden van de patiënt te begrijpen of voor de patiënt om medisch advies te accepteren?" Lysen voegt eraan toe dat er ook een zekere herverdeling van arbeid zal plaatsvinden ten gunste van programmeurs, ontwikkelaars, marketeers en iedereen die betrokken is bij het beheer van de kolossale infrastructuur achter AI.
Roßmann hoopt dat het om meer gaat dan alleen het herzien van bestaande narratieven en argumenten: "We zouden ook een stap verder kunnen gaan en eindelijk eens iets kunnen gaan doen aan kwesties als arbeidsomstandigheden, ongelijkheid of duurzaamheid." (Hij verwijst naar de enorme hoeveelheden energie die nodig zijn om bijvoorbeeld LLM's te trainen en te laten functioneren.) Simons antwoordt dat dat helaas de hoop is bij elke nieuwe technologie – en dat hij er geen vertrouwen in heeft dat ChatGPT gebruikt zal worden om de meest relevante narratieven te versterken.
Door Florian Raith
