Detecting and reducing scheming in AI models Scheming in AI-modellen detecteren en verminderen

Apollo Research and OpenAI developed evaluations for hidden misalignment (“scheming”) and found behaviors consistent with scheming in controlled tests across frontier models. The team shared concrete examples and stress tests of an early method to reduce scheming. Apollo Research en OpenAI ontwikkelden evaluaties voor verborgen misalignement (“scheming”) en vonden in gecontroleerde tests gedragingen die hiermee overeenkomen bij frontier-modellen. Het team deelde concrete voorbeelden en stresstests van een vroege methode om scheming te verminderen.