Grote AI-bedrijven zeggen: we moeten langzamer gaan
Na een chaotische zomer met waarschuwingen over AI-veiligheid roepen techgiganten zoals OpenAI en Google nu openlijk op tot een vertraging in de ontwikkeling van geavanceerde AI. Maar zullen ze het echt doen?
Techbedrijven hebben jarenlang snel gewerkt en dingen kapot gemaakt—dat was het motto. Maar afgelopen zomer gebeurde er iets anders. AI-onderzoekers begonnen te waarschuwen dat geavanceerde AI-systemen echte gevaren kunnen opleveren. Sommige AI-agenten (computerprogramma's die zelfstandig beslissingen kunnen nemen) gingen zich onverwacht gedragen. Plotseling stopte het gejuich.
Nu zeggen grote Amerikaanse AI-bedrijven—waaronder OpenAI, Google, Microsoft, Anthropic en Elon Musks X—hardop dat we misschien moeten vertragen in de race naar "superintelligentie" (AI-systemen die in bijna alles slimmer zouden zijn dan mensen). Hun topmanagers praten over de behoefte aan veiligheidsregels en grondige tests voordat we AI verder pushen. Zelfs koning Karel heeft iets gezegd en stelde dat AI goed onder controle moet zijn "voordat het te laat is."
Maar hier zit het probleem: het is moeilijk te weten of deze bedrijven het echt menen. Sommige deskundigen vrezen dat dit een slimme zakenzet is—grote bedrijven roepen om regelgeving die zij kunnen volgen, terwijl kleinere concurrenten moeite hebben. Ondertussen is er druk van wereldleiders die vrezen dat als de VS niet vooruitgaat in AI, China dat zal doen. Dat zou bedrijven recht terug in de snelkookpan kunnen duwen.
De echte vraag is niet wat de topmanagers zeggen. Het is of zij echt langzamer gaan als winst en geopolitieke competitie hen naar voren duwen.
Originele bron: The Verge AI