ChatGPT maakt je welsprekender, niet slimmer

ChatGPT is een Large Language Model (LLM), ook wel een taalmodel. Dit is een model dat een hele grote hoeveelheid tekst (trainingdata) analyseert en daar zelf verbanden in zoekt. Deze verbanden ontstaan tussen woorden en concepten, ook wel groepjes woorden, bijvoorbeeld het concept ‘glazen plafond’. Waar ‘glazen’ misschien associaties opwekt zoals ‘limonade’ en ‘plafond’ iets als ‘kamer’, koppel je de combinatie eerder aan ‘loopbaan’. Vervolgens verbindt het algoritme met behulp van deep learning gewichten aan de verbanden.

Aan de hand van een gebruikersvraag (ook wel prompt genoemd), kan het model de volgende woorden voorspellen op basis van de gewichten en woord-verbanden.

De voorspelling van het model klinkt hoogstwaarschijnlijk als een goed lopende zin. Echter, de betekenis die wij als mensen aan woorden geven, neemt het model niet mee. Het model controleert dus niet de feitelijke juistheid van de tekst. Plat gezegd zorgt een taalmodel er alleen voor dat een zin tekstueel goed loopt, ook al zou het inhoudelijk onzin zijn.

Terug naar ChatGPT. Dit model is getraind op miljarden teksten uit alle hoeken van het internet (tot en met 2021). Dit houdt in dat als er genoeg verbanden over een specifiek onderwerp in de trainingsdata staan, ChatGPT er goed klinkende tekst van kan maken. Realiseer je dus dat ChatGPT, als taalmodel, geen rekening houdt met de betekenis van de woorden.

Wanneer je ChatGPT een vraag stelt over een domein waar je weinig van weet dan klinkt de reactie waarschijnlijk intelligent vanwege de goede zinsopbouw. Zodra je focust op jouw eigen expertises is het mogelijk dat je gebreken tegenkomt.

We horen je denken, maar waar kan ik een taalmodel, zoals ChatGPT, dan wel goed voor gebruiken? Taalmodellen kunnen een stuk tekst voor je vertalen, met name doordat het model bekend is met de onderlinge woordverbanden in iedere taal waarop het getraind is. De uiteindelijke vertaling kijkt niet naar de inhoud van de tekst, maar naar in hoeverre dit samenspel van woorden natuurlijk voorkomt.

Ook kun je ChatGPT een opzet laten genereren voor een tekst binnen een domein waar je zelf deskundig in bent. Neem bijvoorbeeld de opzet van een projectvoorstel. Je hebt zo’n gelijksoortig stuk waarschijnlijk al verschillende keren geschreven, dus je weet precies hoe het eruit moet zien. Toch kun je aanlopen tegen een writer’s block, moeite hebben met heldere formuleringen of krap in je tijd zitten. In zo’n geval zou ChatGPT kunnen helpen met een opzetje.

Ongeacht de toepassing is het van belang dat je beschikt over kennis en expertise van het onderwerp waarvoor je taal laat generen. Hierdoor ben je zelf in staat de gegenereerde tekst te controleren op correctheid.

Kortom: ChatGPT stelt je in staat om efficiënter te doen wat je al kunt. Zolang je kwaliteit wilt borgen, stelt ChatGPT je niet in staat om dingen te doen die je zonder hulp ook niet kan. Wij adviseren dan ook nooit een tekst direct over te nemen van een LLM maar deze zelf, of door een andere expert op het desbetreffende vakgebied, te laten controleren. Verantwoord gebruik van oplossingen zoals ChatGPT vereist expertise.

Daan Smits en Jules van den Berg zijn consultants bij VKA. Al tijdens hun studie, maar nu bij de uitvoering van opdrachten nog veel meer, adviseren zij over het gebruik en de inzet van AI. Wil je met hen van gedachten wisselen over de inzet en het gebruik van AI? Neem dan contact met op met Daan Smits of Jules van den berg.