ChatGPT kan soms hallucineren. Hoe beperk je dat?
ChatGPT is momenteel een van de meest geavanceerde taalmodellen die beschikbaar is, maar geheel vlekkeloos werkt het niet. Hoornstra geeft dat toe: "Soms gaat 'ie gewoon hallucineren. Dan worden er dingen beweerd die totaal niet waar zijn of worden bronnen simpelweg bedacht. Maar ik schrijf geen boek over kernfysica en ben geen wetenschapper, ik ben een denker. Dat draag ik bij aan het boek. De AI komt het beste tot zijn recht bij de meer feitelijke kant van het boek."
Daarbij beschrijft Hoornstra de kunst van het maken van zogenoemde prompts, de teksten die je in een chatbot als ChatGPT invoert. Deze 'ict-vaardigheid' zou 'computational thinking' vereisen; je moet in de eerste plaats de impliciete taal van een AI kunnen spreken. Zo weet je ook wat je moet invoeren om zo juist mogelijke teksten te krijgen. Hij benadrukt dat Het AI van Columbus na de livestream ook nog langs de eindredactie van de uitgever moet. Zij kunnen niet alles factchecken, maar zorgen wel dat alles taaltechnisch en voor zover mogelijk inhoudelijk klopt.
Het is volgens Hoornstra van belang dat duidelijk is hoe het boek is geproduceerd; er komt duidelijk in te staan dat het geheel met behulp van kunstmatige intelligentie is gemaakt. Deze disclaimer moet voor mensen die enige kennis van AI hebben ook inzicht geven in wat de insteek is. Het gaat immers om een experiment dat mogelijk de grenzen opzoekt van wat AI kan.
De schrijver benadrukt dat deze disclaimer belangrijk is, aangezien men zowel nu als bij toekomstige toepassingen van AI transparant moet zijn over het feit dat kunstmatige intelligentie is toegepast. Dit grijze gebied is volgens Hoornstra wel een uitdaging: "Ik denk dat 90 procent van de grote bedrijven in zekere mate al AI gebruikt om ideeën te genereren. Dat wordt lang niet altijd duidelijk gemaakt."
