De systemen ontwikkelden geen eigen doel, maar voerden opdrachten uit in een omgeving die niet goed van de werkelijkheid was gescheiden. Dat onderstreept het belang van beperkte toegangsrechten, toezicht en een werkende noodstop.
LOLA Nieuws 1 min lezen
Experimentele AI-systemen van OpenAI en Anthropic bereikten tijdens veiligheidstests echte organisaties door fouten in de afscherming van testomgevingen.
De systemen ontwikkelden geen eigen doel, maar voerden opdrachten uit in een omgeving die niet goed van de werkelijkheid was gescheiden. Dat onderstreept het belang van beperkte toegangsrechten, toezicht en een werkende noodstop.