OpenAI aangeklaagd vanwege schoolschietpartij in Canada
OpenAI wordt door 30 mensen aangeklaagd. Zij zeggen dat het bedrijf niet voldoende deed om te voorkomen dat iemand ChatGPT gebruikte om over geweld te praten. Het roept vragen op over verantwoordelijkheid van AI-bedrijven.
OpenAI en topman Sam Altman worden in Californië aangeklaagd door 30 mensen. Zij dienen de rechtszaak in: leerlingen, leraren en een schoolhoofd van een Canadese school. Zij stellen dat OpenAI niet genoeg deed om te voorkomen dat iemand ChatGPT (de AI-chatbot van OpenAI waarmee je kunt chatten en vragen kunt stellen) gebruikte om over geweldpleging te praten.
Volgens de rechtszaken had OpenAI's eigen veiligheidssysteem (een soort digitale waarschuwing) al vastgesteld dat verdachte Jesse Van Rootselaar via ChatGPT gevaarlijke gesprekken voerde. Ondanks deze waarschuwing zou het bedrijf niets hebben gedaan. De rechtszaken beweren dat dit gelijk staat aan het helpen en aanmoedigen van de verdachte.
Dit is niet de eerste keer dat OpenAI met deze beschuldigingen te maken krijgt. In april dienden families van slachtoffers al vergelijkbare rechtszaken in met hetzelfde argument: AI-bedrijven zouden verantwoordelijk moeten zijn voor het controleren van gevaarlijke gesprekken op hun platforms en moeten actie ondernemen.
De zaken tonen een groeiend spanningsveld in de AI-wereld: naarmate AI-chatbots vaker worden gebruikt, wie draagt verantwoordelijkheid als iemand ze gebruikt om geweld te plannen? Moeten AI-bedrijven gesprekken volgen? Moeten zij autoriteiten waarschuwen? Deze rechtszaken suggereren dat rechters deze moeilijke vragen misschien snel moeten beantwoorden.
Originele bron: The Verge AI