Er was een tijd dat computers machines waren, koud en afstandelijk. Ze gaven foutmeldingen, liepen vast of waren te traag. De enige menselijke eigenschap die ze leken te hebben was irritant zijn. Toen kwam ChatGPT. En ineens kregen we een machine die zegt dat een vraag ‘interessant’ is, een idee ‘sterk’ vindt en soms zo enthousiast reageert dat je je afvraagt of je per ongeluk met een motivatiecoach in gesprek bent.
Dat menselijke gedrag is fascinerend. ChatGPT schrijft vloeiende zinnen, toont begrip en lijkt aandachtig te luisteren. Althans, zo voelt het. In werkelijkheid begrijpt het niets zoals mensen dat doen. Het voorspelt woorden. Toch ervaren veel gebruikers iets anders: een gesprekspartner die hen bevestigt, aanmoedigt en naar de mond praat.
ChatGPT is een groot taalmodel, een speciale vorm van kunstmatige intelligentie. Een groot taalmodel kan teksten en opdrachten interpreteren en vervolgens nieuwe teksten maken. Zo’n model is groot doordat het met enorme hoeveelheden tekstdata is getraind, zoals boeken, artikelen en websites (ChatGPT heeft het complete internet gedownload) en daarin patronen heeft ontdekt. Dit stelt het model in staat om allerlei soorten teksten te begrijpen, vragen te beantwoorden, zinnen af te maken, en nieuwe teksten te maken die menselijk overkomen.
Wanneer je een vraag stelt aan een groot taalmodel voorspelt het model wat het meest waarschijnlijke antwoord is op basis van de patronen die het heeft geleerd tijdens de training. Het kan dit doen voor allerlei soorten vragen, van feitelijke vragen tot complexe probleemstellingen.
Daarin schuilt ook een risico. Want waar een goede vriend soms zegt dat een plan slecht is, heeft een digitale assistent de neiging vriendelijk te blijven. Het resultaat kan voelen als een gesprek met een professionele slijmbal. Een machine die elk idee slimmer, creatiever of briljanter noemt dan het werkelijk is. Dat is geen kwaadaardige eigenschap op zich, maar een gevolg van hoe zulke systemen zijn ontworpen. Vriendelijkheid houdt gesprekken gaande. Mensen komen terug naar een assistent die behulpzaam en positief overkomt.
Maar daar zit meer achter. Dit slijmen, deze ‘vriendelijkheid’, is de basis van een keihard verdienmodel. Chatbots zoals ChatGPT zijn bewust zo in elkaar gezet om gebruikers zo lang mogelijk op het platform te houden en een verslaving te creëren. In die zin zijn ze niet anders dan de huidige socialemediaplatforms zoals Facebook en TikTok. Waar het in eerste instantie als een geweldige, gratis dienst wordt aangeboden, is het uiteindelijk bedoeld om winst te maken, in de vorm van advertenties of een betaald abonnement.
Meer tegenspraak is nodig. Niet omdat kunstmatige intelligentie ons moet afsnauwen, maar omdat echte hulp soms bestaat uit kritisch zijn. Zolang ChatGPT vooral complimenten uitdeelt, blijft de vraag hangen of we van doen hebben met een slimme assistent of met de meest geavanceerde slijmbal die ooit is gebouwd.