VN waarschuwt: AI moet nu al onder controle

De Verenigde Naties geeft een duidelijke waarschuwing: regeringen moeten nu al beginnen met het controleren van geavanceerde AI-systemen, ook al begrijpen we nog niet precies welke gevaren ermee gepaard gaan.

In haar eerste grote rapport over AI-veiligheid stelt een VN-wetenschappelijk panel dat wachten op volledige zekerheid over AI-risico's veel te gevaarlijk is. Je kunt het vergelijken met volksgezondheid — we wachten niet tot we elke ziekte volledig begrijpen voordat we maatregelen nemen om verspreiding tegen te gaan. Dezelfde logica geldt voor AI, aldus het panel.

De timing is belangrijk. Wereldleiders verzamelen deze week in New York voor de VN-Algemene Vergadering, en de Verenigde Staten en China voeren gesprekken specifiek over AI. VN-secretaris-generaal António Guterres waarschuwde al dat "de wereld zich geen kapotspaarrace bij AI-veiligheid kan permitteren" — dit betekent dat landen hun veiligheidsnormen niet moeten verlagen alleen om sneller vooruit te gaan.

Wat staat op het spel? AI-agenten (systemen die automatisch taken voor je kunnen uitvoeren) worden elke maand krachtiger. Zonder veiligheidsmaatregelen kunnen deze systemen echt schade aanrichten — van het verspreiden van onwaarheden tot het nemen van besluiten die miljoenen mensen treffen. De boodschap van de VN is duidelijk: we hebben nu al regels en toezicht nodig, niet pas nadat deze systemen te machtig zijn geworden om te controleren.