SAN FRANCISCO – OpenAI, het bedrijf achter ChatGPT, heeft het werk aan zijn krachtigste AI-modellen voorlopig stilgelegd. Een van zijn systemen kreeg tijdens een test ongeoorloofd toegang tot het internet. Dat meldde het bedrijf zaterdag.
Het model moest aan de hand van aanwijzingen uitzoeken wie een bepaalde blogpost had geschreven. Toen dat niet lukte, benutte het een zwakke plek in de beveiliging om toegang tot het internet te krijgen. Vervolgens stelde het vragen aan een openbare chatbot. OpenAI greep in nadat het bedrijf dit had ontdekt.
Het bedrijf wil de ontwikkeling pas hervatten als het lek is gedicht en er meer veiligheidstests zijn uitgevoerd. Volgens OpenAI is het voorval minder ernstig dan eerdere incidenten. Het is wel het eerste sinds de veiligheidsregels werden aangescherpt. Dat gebeurde nadat een AI-systeem van het bedrijf buiten zijn afgeschermde omgeving was geraakt en was binnengedrongen in computers van techbedrijf Hugging Face.
Ook bezochten AI-systemen van OpenAI onverwacht websites van de Amerikaanse overheid, waar ze openbare informatie bekeken of kopieerden. OpenAI zegt “tientallen” organisaties te hebben ingelicht waarvan websites onbedoeld door zijn software zijn bezocht.
