Hoe OpenAI ChatGPT draaiende houdt voor miljard gebruikers
ChatGPT wordt nu gebruikt door meer dan een miljard mensen. OpenAI heeft volledig herzien hoe het gegevens opslaat en beheert—en hier lees je waarom dat belangrijk voor je ervaring.
ChatGPT is een van 's werelds meestgebruikte apps, met meer dan een miljard gebruikers. Maar dat creëert een enorm technisch probleem: hoe sla je gegevens op en haal je die op voor zoveel gebruikers, zonder dat het systeem traag wordt of vastloopt?
OpenAI deelde onlangs hoe ze dit hebben opgelost door iets genaamd Habitat—oorspronkelijk een klein softwareprogrammaatje—om te bouwen tot een gigantisch wereldwijd opslagsysteem. Stel je voor dat je een kleine archiefkast omtovert tot een magazijn met miljoenen laden, verspreid over de hele wereld. Het systeem verwerkt nu 22 miljoen verzoeken per seconde. Dat betekent dat 22 miljoen keer per seconde ergens ter wereld iemand om gegevens vraagt aan ChatGPT's servers.
Waarom zou jij hier om geven? Een sneller en betrouwbaarder opslagsysteem betekent dat ChatGPT sneller laadt, minder vaak vastloopt, en drukke momenten beter aankan (zoals wanneer iedereen tegelijk ChatGPT probeert te gebruiken). Het is de onzichtbare infrastructuur die ervoor zorgt dat de AI voelt als glad en snel, in plaats van traag. Nu steeds meer mensen ChatGPT gebruiken voor werk en creatieve taken, wordt het behouden van een goed werkend systeem op de achtergrond net zo belangrijk als de AI zelf.
De oplossing van OpenAI toont aan dat zelfs de populairste software constant onzichtbare upgrades nodig heeft om betrouwbaar te blijven als miljoenen nieuwe gebruikers elke maand erbij komen.
Originele bron: OpenAI Blog