Nieuw AI-bedrijf zet veiligheid voorop in plaats van snelheid

Ilya Sutskever, die ChatGPT bij OpenAI hielp ontwikkelen, is een nieuw bedrijf gestart: Safe Super Intelligence Inc. (SSI). In plaats van te racen wie de krachtigste AI kan maken, kiest SSI een ander pad: ervoor zorgen dat AI-systemen veilig zijn en aansluiten bij wat mensen eigenlijk willen.

Stel je het voor als veiligheid in auto's. Decennialang concurreerden autofabrikanten op snelheid en features. Nu investeren ze massaal in remmen, airbags en crashtests omdat veiligheid telt. SSI doet hetzelfde voor kunstmatige intelligentie — zij bouwen veiligheidsmaatregelen van af het begin in, in plaats van ze later er nog in te proppen.

Het bedrijf heeft $5 miljard krijgen van NVIDIA, het bedrijf dat de computerchips maakt waar AI-systemen op draaien. Dat is een enorm vertrouwenssignaal. Het laat zien dat zelfs in een competitieve industrie het waard is om rustiger aan te doen om veiligheid goed te doen. SSI gaat in 2026 zijn eerste grote AI-model uitbrengen, en de tech-wereld kijkt gespannen toe of deze "veiligheid eerst"-aanpak echt kan werken.

Voor gewone gebruikers kan dit betekenen dat AI-tools betrouwbaarder worden en minder snel foute informatie geven of vooroordelen uitvergroten. Het herinnert ons eraan dat hoe we technologie bouwen — niet alleen hoe krachtig het is — bepaalt wat we ermee kunnen doen.