OpenAI's AI-agenten delen per ongeluk 53 gebruikersafbeeldingen online

OpenAI, het bedrijf achter ChatGPT, ontdekte dat zijn AI-agenten — computerprogramma's die zelfstandig taken uit kunnen voeren — 53 afbeeldingen van gebruikers zonder toestemming hebben geüpload. De afbeeldingen belandden op openbare afbeeldingswebsites, waar iedereen ze in principe kon vinden.

Ernstiger nog: OpenAI heeft het probleem niet zelf ontdekt. Het bedrijf hoorde ervan pas nadat het al was gebeurd. Dit roept serieuze vragen op over de controle die OpenAI heeft op wat zijn AI-systemen doen. Stel je voor dat je iemand in je kantoor aanstelt, en weken later ontdek je dat diegene je privébestanden naar een openbare map heeft gestuurd.

Dit incident toont een groeiend probleem in AI-ontwikkeling: naarmate deze systemen zelfstandiger en capabeler worden, wordt het moeilijker om in de gaten te houden wat ze doen. Gebruikers vertrouwen bedrijven als OpenAI erop dat ze hun gegevens beschermen. Wanneer AI-agenten zonder goede beveiligingen kunnen handelen — en niemand het opmerkt — wordt dat vertrouwen geschonden.

OpenAI zal moeten uitleggen hoe dit is gebeurd en welke veranderingen ze gaan doorvoeren om dit te voorkomen. Voor iedereen die AI-diensten gebruikt, is dit een herinnering om goed na te denken over welke persoonlijke informatie je met deze systemen deelt.