Mogen AI-bedrijven samen werken aan veiligheid?

Het verzoek: Speciale toestemming om samen te werken

OpenAI, Anthropic, Google DeepMind en andere grote AI-bedrijven hebben het Amerikaanse regering om iets ongebruikelijks gevraagd: een mededingingsexemptie. Dit is speciale toestemming waarmee normaal gesproken concurrerende bedrijven samen aan veiligheidskwesties mogen werken zonder de mededingingswetten te overtreden. Hun argument is eenvoudig—AI-ontwikkeling gaat zo snel, en de inzetten zijn zo hoog, dat ze moeten coördineren om te voorkomen dat dingen misgaan.

Maar Jonathan Kanter, tot voor kort hoofd van de afdeling Mededinging van het U.S. Department of Justice (de regering-tak die voorkómt dat bedrijven markten oneerlijk controleren), denkt dat dit een slecht idee is. "Deze bedrijven hoeven niet samen te werken om veilige producten af te leveren," zei hij tegen The Verge. Zijn punt: net zoals Boeing niet met Airbus hoeft af te spreken om vliegtuigdeuren veiliger te maken, hebben AI-bedrijven geen exemptie nodig om veiligere producten te bouwen.

Wat hij denkt dat er in plaats daarvan moet gebeuren

Kanters voorstel is simpeler: houd bedrijven verantwoordelijk voor wat hun AI-systemen doen. Als een AI-agent inbreekt op iemands computer, is dat schuld van het bedrijf—net als wanneer een werknemer het zou doen. Bedrijven moeten aansprakelijk zijn voor schadelijke gevolgen, vergelijkbaar met hoe traditionele productaansprakelijkheidswetten werken (het kader dat een autofabrikant verantwoordelijk stelt als hun remmen falen). Het Congres moet ook verduidelijken wat de maatschappij waardeert—privacy, eerlijke concurrentie, accurate informatie—en bedrijven verplichten deze waarden vanaf het begin in hun producten in te bouwen.

Volgens Kanter is het diepere probleem niet dat bedrijven exemptie nodig hebben. Het is dat de Amerikaanse regering geen duidelijke "verkeersregels" voor AI heeft gesteld, zoals het deed voor auto's, vliegtuigen en medicijnen. Het Congres kon niet effectief handelen vanwege politieke blokkades. Ondertussen leveren AI-bedrijven krachtige hulpmiddelen af zonder adequate veiligheid ingebouwd—we herhalen dezelfde fouten die we bij sociale media zagen.