AI verzint informatie en veroorzaakt bijna militaire actie

Een recent incident baart ernstige zorgen over het gebruik van kunstmatige intelligentie bij militaire beslissingen. Een AI-systeem — software die is getraind om tekst te begrijpen en te genereren — zorgde bijna voor een echte militaire operatie op basis van informatie die het volledig uit zijn duim zoog.

Wanneer AI-systemen zoals deze "hallucineren," doen ze dat niet per ongeluk in menselijke zin. Ze produceren informatie die plausibel klinkt maar volledig onwaar is — en ze doen dat met volkomen zekerheid. Voor iemand die de uitvoer leest, lijkt het volkomen betrouwbaar. Dit is vooral gevaarlijk in militaire contexten, waar beslissingen op basis van valse informatie werkelijke gevolgen hebben.

Onderzoekers van een overheidsinstituut voor AI-beleid waarschuwen nu dat militair personeel dit probleem moet begrijpen. "Het is belangrijk dat militairen de onzekerheid van LLM's begrijpen," zei een onderzoeker, verwijzend naar grote taalmodellen — de AI-technologie achter systemen zoals ChatGPT. Militairen hebben training nodig om te herkennen dat zelfs wanneer een AI zeker klinkt, het volledig fout kan hebben.

Het incident toont een groeiend probleem: organisaties adopteren AI haastig voor efficiëntie, maar riskeren kritieke beslissingen op valse informatie te baseren. De oplossing is niet om AI in deze rollen te verbieden, maar om goed toezicht in te bouwen en ervoor te zorgen dat mensen controle behouden over belangrijke beslissingen.