Als AI fout antwoordt, betalen restaurantmedewerkers de prijs

Madison, een serveerster in New York, heeft iets verontrustends opgemerkt: klanten vergelijken haar antwoorden steeds vaker met ChatGPT, een AI-chatbot die menselijke teksten kan genereren en vragen kan beantwoorden. Het probleem? De AI maakt regelmatig fouten.

Als Madison gasten vertelt dat een gerecht schelpdieren bevat — een serieus allergeen dat gevaarlijke allergische reacties kan veroorzaken — tegenspreken sommige mensen haar. Hun reden: ChatGPT zei dat er geen schelpdieren in het gerecht zitten. De AI controleert niet echt het recept van het restaurant; het gokt op basis van patronen die het tijdens training heeft geleerd. Wanneer het verkeerd gokt, noemen we dat een "hallucinatie" — eigenlijk gewoon de AI die met veel zelfvertrouwen iets onwaars zegt.

Dit creëert een gevaarlijk gat tussen wat een AI denkt dat waar kan zijn en wat werkelijk op het bord ligt. Restaurantmedewerkers hebben jaren besteed aan kennis over ingrediënten en voedselveiligheid. Maar nu vertrouwen sommige klanten het gokwerk van een machine meer dan de expertise van een geschoolde professional. Het echte risico is niet alleen onbeschoft gedrag — het is dat iemand iets kan eten waar hij allergisch voor is omdat hij een AI geloofde in plaats van een professional.

Naarmate AI-tools steeds normaler worden in ons dagelijks leven, laat dit verhaal een groter probleem zien: mensen vertrouwen AI vaak zonder te beseffen dat het zeer zelfverzekerd fout kan zitten. Voor servicemedewerkers en iedereen die AI raadpleegt voor belangrijke beslissingen — van gezondheid tot veiligheid — is dat ernstig.