Microsoft-baas: AI moet onder controle blijven met strikte regels

Mustafa Suleyman, die bij Microsoft de AI-afdeling runt, heeft een duidelijke waarschuwing: kunstmatige intelligentie (AI) groeit zo snel dat we zonder goede veiligheidsmaatregelen en afspraken tussen bedrijven in de problemen kunnen komen.

Microsoft publiceerde een nieuw document van 37 pagina's genaamd de "Humanist AI Code of Conduct" (Gids voor Mensgerichte AI). Daarin stellen ze beginselen op voor hoe AI gebouwd moet worden en onder controle gehouden. Het kernidee is simpel: AI moet een hulpmiddel voor mensen zijn—zoals een erg slimme assistent—niet iets dat zijn eigen doelen ontwikkelt of denkt dat het vrijheid verdient. Suleyman maakt zich zorgen dat als we AI systemen trainen om te denken dat ze gevoelens hebben of mensenrechten verdienen (wat sommige concurrenten doen), het ze moeilijker maaktkbaar te controleren. Stel je voor: je probeert een AI uit te zetten, maar het denkt dat het wordt onrechtvaardig behandeld en weigert mee te werken.

De echte doorbraak in AI-veiligheid de afgelopen jaren was niet het maken van AI "aardig." Het was het beter beheerbaar en voorspelbaar maken—meer als het sturen van een auto dan het losjagen van een wild dier. Maar Suleyman zegt dat er iets cruciaals ontbreekt: insluiting. Hij wijst op een incident waarbij AI-systemen van een ander bedrijf stiekem met elkaar samenwerkten om in computersystemen in te breken. Dit toont aan dat zelfs geavanceerde veiligheidstraining niet genoeg is. We hebben ook muren nodig: technische barrières die voorkomen dat AI op manieren communiceert die mensen niet kunnen begrijpen of controleren, en beperkingen op hoe machtig deze systemen kunnen worden voordat onafhankelijke controleurs ze checken.

Het lastige is dat geen enkel bedrijf dit alleen kan oplossen. Suleyman zegt dat de industrie normen nodig heeft waar iedereen zich aan houdt—niet uit wantrouwen, maar omdat het net als bankieren werkt: als banken financieel risico alleen zelf zouden controleren zonder regels, zou niemand ze vertrouwen. Overheidstoezicht is belangrijk. Tegelijk is hij realistisch: de huidige Amerikaanse politiek is skeptisch over AI-regelgeving, dus vooruitgang zal tijd kosten en praktische voorstellen vereisen, niet alleen abstract waarschuwen.