De tweede afrekening over AI-schrijven
Steven Rosenbaum heeft besloten dat de echte schuldige achter de valse citaten in zijn boek een chatbot is. Deze week rapporteerde The New York Times dat 'The Future of Truth', Rosenbaums veel-besproken boek over hoe AI de werkelijkheid vormgeeft, meer dan een half dozijn nep- of foutief toegeschreven citaten bevat.
Rosenbaum wijst een deel van de schuld op zijn gebruik van AI. Hij nam verantwoordelijkheid voor de fouten en zei te onderzoeken wat er fout ging. Tegen donderdag echter wees hij de vinger elders. ChatGPT "verpestte het boek", zei Rosenbaum.
Rosenbaum, een mediaondernemer en directeur van het Sustainable Media Center, zei afhankelijk te zijn geworden van AI-tools als hulpbron en gesprekspartner terwijl hij aan het boek werkte (wat hij ook vermeldt in het dankwoord van het boek). Tijdens ons gesprek worstelde Rosenbaum om AI's soms verbazingwekkende mogelijkheden te verenigen met zijn neiging tot verbijsterende hallucinaties – zoals een denkbeeldig citaat van techjournaliste Kara Swisher dat hij zonder verificatie in het boek opnam. In de afgelopen dagen voelt hij zich "verleid en verraden" door AI, suggerererend op een gegeven moment dat het hem misschien opzettelijk heeft ondermijnd. "Afhankelijk van je paranoïaniveau, is het ofwel grappig of kwaadaardig of slinks," zei hij.
Het is een ruw week geweest voor menselijk auteurschap in het algemeen. Maandag toonde een viraal bericht een Nobelprijswinnende romanschrijfster ogenschijnlijk toe te geven AI te gebruiken om haar verhaalideeën aan te scherpen, voordat zij later beweerde te zijn misverstand. Dinsdag stapelden beschuldigingen zich op dat de Trinidadische auteur Jamir Nazir AI had gebruikt om 'The Serpent in the Grove' te schrijven, dat de Commonwealth Short Story Prize won. Woensdag kwamen twee van de andere vijf prijswinnaars onder soortgelijk onderzoek. (De Commonwealth Foundation, die de prijs beheert, zei aanvankelijk in een verklaring dat zij had bevestigd dat geen van de winnende schrijvers AI had gebruikt. Vrijdag gaf de stichting een ander statement uit waarin zij zei de beschuldigingen "serieus te nemen" en het bewijs te herzien.)
Sinds ChatGPT is verschenen, is geautomatiseerd schrijven alomtegenwoordig geworden: een recent werkdocument schatte dat meer dan de helft van alle nieuwe boeken die op Amazon zijn uitgebracht nu AI-gegenereerde tekst bevatten. De proza van chatbots is over het algemeen goed genoeg geweest om schoolleraren voor de gek te houden en Amazon-productbeoordelingen op te blazen – niet om goed onderkende loftuitingen van vooraanstaande auteurs te verdienen en literaire prijzen te winnen. Recent is iets veranderd. Nu AI-tools zijn verbeterd en mainstream zijn geworden, is de technologie doorgedrongen in intellectuele ruimten die eenmaal tegen haar vooruitgang bestand werden geacht. Deze reeks schandalen dwing een nieuwe afrekening af over wat te doen aan de crisis.
Een reactie is geweest om op te roepen tot verdubbeling van inspanningen om AI-schrijven uit te roeien en de stigma ervan te versterken. Als schaamte mensen niet zal weerhouden van het gebruik van AI voor het zware werk van schrijven, misschien zal belachelijk maken dat wel. In Defector spotte Patrick Redford op het "zielig gedrag" van schrijvers die AI gebruiken. "Jullie idioten!", schreef hij. "Die modellen zijn de vijand!"
