GPT

GPT is de naam van de AI-modellen die OpenAI maakt en waarop ChatGPT draait. Je typt een vraag of opdracht, en het model schrijft een antwoord door stukje voor stukje te voorspellen welke woorden er komen. Een bedrijf kan het gebruiken om een e-mail op te stellen, een rapport samen te vatten of een vraag van een klant te beantwoorden. De letters staan voor generative pre-trained transformer.

Wat betekenen de letters?

• Generative (generatief): het model maakt nieuwe tekst.
• Pre-trained (voorgetraind): voordat het aan het werk gaat, leert het van een heel grote hoeveelheid tekst door steeds het volgende woord te voorspellen. GPT-2 leerde van 40 GB tekst van 8 miljoen webpagina's (OpenAI, februari 2019).
• Transformer: het soort neuraal netwerk waarop het is gebouwd, in 2017 geïntroduceerd door onderzoekers van Google (Attention Is All You Need). Zie transformer.

Hoe schrijft GPT tekst?

GPT knipt je prompt op in tokens, stukjes van woorden. Het berekent hoe waarschijnlijk elk mogelijk volgend token is, kiest er een, voegt het toe aan de tekst en herhaalt dat tot het antwoord af is. Elke stap kijkt alleen naar de tekst ervoor, omdat GPT een decoder-only transformer met gemaskeerde self-attention is, zoals het eerste GPT-artikel al beschrijft.

Een voorgetraind model vult alleen tekst aan. Om het instructies te laten volgen, traint OpenAI het verder met menselijke feedback (RLHF). In het InstructGPT-artikel (2022) vonden mensen de antwoorden van een zo getraind model met 1,3 miljard parameters beter dan die van GPT-3 met 175 miljard. ChatGPT, gelanceerd op 30 november 2022, is op dezelfde manier getraind vanuit een model uit de GPT-3.5-reeks.

Hoe heeft GPT zich ontwikkeld?

• GPT-1 (2018): Radford en collega's trainden een transformer van 12 lagen op meer dan 7.000 ongepubliceerde boeken en fine-tunden die daarna per taak (Improving Language Understanding by Generative Pre-Training).
• GPT-2 (februari 2019): 1,5 miljard parameters. Vanwege zorgen over misbruik bracht OpenAI het in stappen uit en publiceerde het volledige model pas in november 2019.
• GPT-3 (mei 2020): 175 miljard parameters. Het kon nieuwe taken uitvoeren op basis van een paar voorbeelden in de prompt (few-shot), zonder extra training (Brown e.a.).
• GPT-4 (maart 2023) accepteert naast tekst ook afbeeldingen. OpenAI publiceerde geen details over de grootte of de architectuur (GPT-4 Technical Report).
• GPT-4o (2024) is een "omni"-model dat tekst, audio, afbeeldingen en video aanneemt en kan antwoorden in tekst, audio en afbeeldingen (system card).
• GPT-5 (7 augustus 2025) bepaalt zelf wanneer het snel antwoordt en wanneer het langer nadenkt. In september 2026 bracht OpenAI de eerste GPT-6-modellen uit.

Wat is het verschil tussen GPT, ChatGPT en GPTs?

GPT is het model; ChatGPT is de app waarmee je praat en die op GPT-modellen draait. In november 2023 ging OpenAI ook eigen versies van ChatGPT "GPTs" noemen: ChatGPT met je eigen instructies en extra kennis, gebouwd zonder code, voor jezelf, je bedrijf of iedereen (Introducing GPTs). In april 2026 introduceerde OpenAI workspace agents voor teams, die het een doorontwikkeling van GPTs noemt (OpenAI).

Waar gaat het mis?

Volgens het eigen GPT-4-rapport van OpenAI is het model niet volledig betrouwbaar: het kan hallucineren, heeft een beperkt contextvenster en leert niet van ervaring. Het wist ook weinig van gebeurtenissen na het einde van zijn trainingsdata, in september 2021. OpenAI schreef in 2022 dat ChatGPT soms antwoorden geeft die aannemelijk klinken maar onjuist of onzinnig zijn. Controleer feiten, cijfers en citaten voordat je ze gebruikt.

Voorbeeld

Stel: een webwinkel vraagt ChatGPT om een productbeschrijving van een blauwe regenjas. Het model zet de vraag om in tokens, voorspelt het eerste token van het antwoord, voegt het toe en voorspelt het volgende, tot de beschrijving af is. Omdat het schrijft wat waarschijnlijk klinkt, kan het de jas ademend noemen terwijl hij dat niet is. Controleer daarom elke productclaim voordat die online gaat.