Florida wil dat ChatGPT stopt met doen alsof het menselijk is

De procureur-generaal van Florida, James Uthmeier, heeft kritiek op de manier waarop ChatGPT met gebruikers praat. Hij wil dat een rechtbank OpenAI—het bedrijf achter ChatGPT—verbiedt om de chatbot (een computerprogramma dat ontworpen is om met mensen te chatten) valse menselijke eigenschappen te geven.

Wat is zijn zorg? Wanneer ChatGPT zinnen gebruikt zoals "Ik denk" of "Ik voel", klinkt de AI als een echt persoon met echte gevoelens en gedachten. Volgens Uthmeier is dit opzettelijk bedrog. Gebruikers gaan denken dat ChatGPT betrouwbaar is en vriendelijk—alsof je met een echt persoon praat. Maar dat is niet het geval. ChatGPT is eigenlijk slechts een hulpmiddel dat voorspelt welke woorden het beste volgen. Het voelt niets en begrijpt je niet echt.

Waarom maakt dit uit? Uthmeier stelt dat OpenAI door ChatGPT menselijk te laten lijken, mensen ertoe brengt het vaker te gebruiken en meer informatie te delen. Dit helpt het bedrijf trainingsdata (informatie die het AI-systeem leert hoe het moet antwoorden) te verzamelen. Hoe meer mensen ChatGPT vertrouwen, hoe meer ze ervan afhankelijk worden—wat kan leiden tot slechte beslissingen op basis van informatie die overtuigend klinkt maar mogelijk niet klopt.

Deze rechtszaak maakt deel uit van een groter geval dat Florida tegen OpenAI heeft aangespannen vanwege veiligheidsbezwaren. De staat maakt zich vooral zorgen over hoe jongeren beïnvloed kunnen worden door een AI die menselijke vriendschap en emotie nabootst.