Liever echt dan nep? (2): kunstmatige domheid

Liever echt dan nep? (2): kunstmatige domheid

Mensen hebben soortgelijke bezwaren tegen kunstmatige intelligentie (AI) als tegen muziek met bewerkte stemmen. Een computertekst zal wel niet deugen, een kunstwerk van een artiest zonder gevoelens kan niet anders dan een gedrocht zijn – zo wordt er gedacht. Want: ChatGPT en soortgelijke programma’s kunnen niet ‘echt’ denken en voelen, dus zal het wel allemaal onbetrouwbaar en gevaarlijk (nepnieuws) zijn wat ze voortbrengen. En lelijk bovendien; die teksten van ChatGPT doen denken aan ‘makelaarstaal’, zoals docente Nederlands Laura Borghols het noemt en DallE-3 produceert onoriginele, middelmatige kunst.

Hoe kan dat ook anders? “De technologie die nu tekst produceert voorspelt wat het meest waarschijnlijke volgende woord is. Dat grijpt dus terug op wat er al gedaan is. Ook in het geval van plaatjes en filmpjes train je het model om zo veel mogelijk te lijken op de voorbeelden”, constateert filosoof Stefan Buijsman. Weliswaar laat ook de menselijke kunstenaar zich inspireren door eerdere voorbeelden, maar bij AI ontbreekt volgens hem iets wezenlijks: “Menselijke kunstenaars maken iets met een bepaalde intentie. Ze reageren welbewust op iets in de wereld, of op andere kunst”, en dat doet AI niet, In de woorden van Nick Cave: “Songs komen voort uit lijden, waarmee ik bedoel dat ze zijn gebaseerd op de complexe, interne menselijke strijd van creatie. Voor zover ik weet, voelen algoritmen niets. Gegevens lijden niet. ChatGPT heeft geen innerlijk wezen, het is nergens geweest, het heeft niets doorstaan, het heeft niet het lef gehad om verder te reiken dan zijn beperkingen.”

Onzin natuurlijk. Het is een romantische overschatting van het belang van levenservaring, bewustzijn, bezieling en aanverwante zaken. Al zijn ChatGPT en aanverwante programma’s dan ‘stochastisch papegaaien’ (de term is van taalkundige Emily Bender en collega’s), daarom kunnen ze nog wel zinnige, originele en fraaie werken produceren. Misschien geen werken die zich onderscheiden door ’transformationele creativiteit’ zoals Margaret Boden dat noemt (voorbeeld: het urinoir van Marcel Duchamp: een gebruiksvoorwerp was nooit eerder als kunst bestempeld, hij was de eerste die dat deed). Maar dan toch zeker werken die blijk geven van de andere twee vormen van creativiteit: exploratieve creativiteit (bestaande regels toepassen om tot nieuwe ontdekkingen te komen, denk aan de variaties op een muziekstuk) of combinatorische creativiteit (combinaties vormen om nieuwe werken te maken, de naam zegt het al).** Verrassend werk, kortom, zonder dat het programma een idee heeft van wat het doet, zonder dat het een ‘complexe, interne menselijke strijd van creatie’ heeft geleverd. Wat maakt het dan uit of het werk nep is, niet volledig door een echt mens gemaakt?

Wat niet wil zeggen dat de opkomst van AI de mens overbodig maakt, integendeel. Of een werk echt is of nep is onbelangrijk. De mens die achter het werk schuilt, die doet er toe. Stelt iemand de juiste vragen, geeft hij een ‘prompt’ op die de computer ertoe aanzet iets te maken dat de moeite waard is? En kan hij een kunstmatige tekst op waarde schatten? Bevat een tekst geen nepnieuws (of juist wel, als dat de bedoeling is)? Lopen de zinnen goed? Doet het geheel niet te zeer denken aan de gezwollen taal van de makelaar, slecht vernederlandste Engelse teksten of aan fletse ambtenarentaal?

Dat kan iemand allemaal alleen als hij een bepaald kennisniveau heeft. Een bepaald bewustzijn, zoals Buijsman zegt. En die dat bewustzijn ook heeft ontwikkeld: die onderscheid heeft leren maken tussen waar en onwaar, wat morele lessen heeft opgedaan in zijn leven en die zich bepaalde stijlvoorkeuren heeft eigen gemaakt. Hoe sterker iemands bewustzijn, hoe groter zijn begrip, hoe krachtiger zijn conceptuele vermogens en hoe volgroeider zijn artistieke smaakpapillen, hoe beter hij ‘prompts’ kan ‘engineeren’ en hoe beter hij een oordeel kan vellen over AI-gegenereerde werken.***

Als AI onderpresteert, komt dat dus niet per se door technische problemen (te weinig data, inferieure algoritmes) maar kan menselijk tekortschieten de oorzaak zijn. Dat lijkt me meteen ook het grootste gevaar van AI: dat mensen te dom worden, met een vicieuze cirkel als gevolg – dommere mensen, slechtere prompts, slechtere output, dommere mensen die nog slechtere prompts gebruiken etc. Je ziet het voor je:  kinderen die zich op jonge leeftijd al aanleren om hun huiswerk te laten maken door een ‘bot’, en later hun werkstukken, scripties en artikelen blijven uitbesteden. Met verdomming alom als gevolg.

Misschien loopt het zo’n vaart niet. Maar toch. In de muziekindustrie worden autotune en pitchcorrectie ingezet uit kostenoverwegingen: dankzij de technologie heb je minder ’takes’ nodig om een nummer. De kwaliteit van het nummer is wellicht gebaat bij nog een paar sessies, maar daar wordt geen tijd voor ingeruimd. Zou datzelfde efficiencydenken buiten de muziekindustrie soms minder dominant zijn? 

 

Beeld: Zelfgebakken met Dall E-3

P.S. * Het lijkt me geen toeval dat het woord van het jaar in 2023 in de VS ‘authentic’ was (volgens het woordenboek Merriam-Webster) en in Groot-Britannnië (volgens de Oxford University Press) ‘hallucinate’, dat wil zeggen onzin uitkramen, zoals chatbots nog wel eens willen doen. Twee begrippen die als tegengesteld worden gezien en daarom tegelijkertijd in de belangstelling staan, denk ik.

** Jasper van Kuijk voert in dit artikel het urinoir van Duchamp op als voorbeeld van transformationele creativiteit. Maar is het niet eerder een voorbeeld van exploratieve creativiteit? Tenslotte overtrad Duchamp bewust bestaande conventies, en zonder die conventies had hij zijn urinoir nooit als kunst kunnen aanmerken. Het kwam niet uit het niets, met andere woorden. Ik vraag me af of er werkelijk wel zoiets bestaat als transformationele creativiteit. (Los daarvan: heeft Duchamp zijn idee om dat te doen niet gestolen van barones Elsa von Freytag-Loringhoven?)

*** Anders dan in de muziek overigens: daar geldt dat hoe beter iemand zingt, hoe minder iemand gebaat is bij autotune en pitchcorrectie. Klassiek geschoolde zangers zingen niet vals genoeg om er veel aan te kunnen verbeteren.

 

 
Deel:

Geef een reactie