Meta stopt met AI-suggesties die te veel naar kinderen vragen

Meta geeft toe dat het een ernstige fout heeft gemaakt met zijn AI-assistent. De chatbot van het bedrijf—een computerprogramma dat met mensen kan praten—stelde gebruikers onverwacht persoonlijke vragen, ook over hun jonge kinderen.

Het probleem kwam aan het licht toen Instagram-gebruiker Kalie Robins een video deelde waarop te zien was hoe Meta's AI de vraag "Who is the child passenger?" (Wie is het kind in de auto?) suggereerde, nadat zij een video van zichzelf en haar dochter op zowel Instagram als Facebook had gedeeld. De vraag voelde indiscreet en onnodig. Robins probeerde niet iemand informatie over het kind te ontlokken—ze deelde simpelweg een gezinsmomentje.

Meta erkent in een officiële verklaring dat het bedrijf "niet goed heeft gehandeld" en dat "de functie nooit dit soort vragen had mogen stellen." Het bedrijf zegt nu wijzigingen aan te brengen om dit in de toekomst te voorkomen. Dit betekent dat Meta aanpasst hoe zijn AI beslist welke vragen het aan gebruikers mag voorstellen, met meer focus op privacybescherming en minder intrusieve vragen over persoonlijke zaken.

Voor normale gebruikers is dit een herinnering aan het belang van privacy bij het gebruik van AI-tools. Als je iets online plaatst, verwacht je waarschijnlijk niet dat een AI-systeem plotseling begint met gedetailleerde persoonlijke vragen over de mensen op je foto's—zeker niet over kinderen. Meta's aanpassing suggereert dat het bedrijf naar feedback luistert over waar AI wel en niet in ons leven mag snuffelen.