AI-bedrijven roepen om vertraging, maar doen het zelf niet

Zaterdag publiceerde Dario Amodei, topman van AI-bedrijf Anthropic, een artikel waarin hij stelt dat de wereld's grootste AI-ontwikkelaars nieuwe, krachtige AI-modellen langzamer uit moeten brengen. Hij zegt dat steun van de regering hiervoor nodig is. Andere AI-leiders, onder wie Sam Altman (van OpenAI, maker van ChatGPT) en Elon Musk, stemmen met hem in.

Amodei's hoofdzorg: kunstmatige intelligentie—computersoftware die zelfstandig kan leren en beslissingen nemen—zou binnen zes tot twaalf maanden "het hele internet kunnen overnemen." Hij vraagt om nieuwe regels om dit te voorkomen. Maar hier zit de haken: hij legt niet uit hoe dit zou gebeuren, waarom mensen het niet zouden merken, of hoe een "internet-overname" eruit zou zien.

Critici, onder wie informaticaprofessor Felienne Hermans van de Vrije Universiteit Amsterdam, spreken van hypocratie. "Als je je echt zorgen maakt, kun je gewoon stoppen," zegt Hermans. "Je hebt geen toestemming van de regering nodig om je eigen bedrijf ervan af te houden iets uit te brengen." Facebook-oprichter Mark Zuckerberg maakte een soortgelijk punt: Meta stelde het uitbrengen van zijn nieuwste AI-model enkele maanden uit om zich op veiligheid te concentreren—zonder de regering om toestemming te vragen, zonder op andere bedrijven te wachten, en zonder er groot mee uit de hoek te komen.

Experts vermoeden dat de werkelijke motivatie anders is. Chinese AI-bedrijven brengen goedkopere of gratis versies van vergelijkbare technologie op de markt, wat serieuze concurrentie vormt voor Amerikaanse bedrijven als Anthropic en OpenAI. Nieuwe regeringsregels zouden de Chinese concurrentie kunnen afremmen, terwijl deze Amerikaanse bedrijven hun bestaande investeringen winstgevend kunnen houden. Onderzoeker Roel Dobbe van de TU Delft merkt op dat deze bedrijven veel geld hebben om regelgeving in hun voordeel te beïnvloeden. Als later iets fout gaat, kunnen de bedrijven zeggen: "We hebben de regering om regels gevraagd, maar die kwamen er niet"—de schuld schuiven ze van zich af.