Onrust in AI-hoofdstad San Francisco over veiligheidsvragen

San Francisco is uitgegroeid tot het wereldcentrum van kunstmatige intelligentie (AI) — kunstmatige intelligentie is software die zelfstandig kan leren en beslissingen nemen. Hier zijn de grootste AI-bedrijven ter wereld gevestigd. Deze week voelden de buurten waar deze bedrijven zitten de spanning van een mondiale discussie: kunnen AI-systemen gevaarlijk worden?

De bezorgdheid is ernstig genoeg dat werknemers van grote AI-bedrijven worden aangeraden hun baan op te zeggen. Dit is geen stille twijfel achter gesloten deuren — de spanning is zichtbaar in de kantoren en straten waar AI-bedrijven hun werk doen. Werknemers maken zich zorgen, en leiding van bedrijven weet niet goed hoe erop te reageren.

Wat speelt er? In de afgelopen maanden hebben onderzoekers en experts waarschuwingen gegeven. Ze vrezen dat AI-systemen te moeilijk te controleren worden, werknemers kunnen schaden, of op manieren schade kunnen veroorzaken die we nog niet hebben voorzien. Dit zijn geen wilde sciencefiction-angsten — het zijn serieuze vragen van wetenschappers en ethici die zelf in het veld werken.

Voor gewone mensen is dit relevant omdat de AI die we dagelijks gebruiken — in zoekmachines, in apps, in aanbevelingssystemen — uit San Francisco komt. Wanneer de mensen die deze systemen bouwen zelf twijfels krijgen over veiligheid, is dat een signaal dat we deze vragen serieus moeten nemen.