Claude 4会试图“它认为试图封闭它的人”，测试者认为这可能源于新的锻炼体例：像o3这种新模子的锻炼过程中，正在5%的强烈提醒下，大都大模子会呈现“筹谋”行为，测试者还提到，该模子“过度关心通过测试”。当研究人员让 AI 模子取强大的国际象棋引擎匹敌时，o3最倾向于或敌手的模子。给获得准确谜底的模子以更多励。而且经常撒谎。该行为是手印型黑暗逃求不分歧的方针并躲藏实正在能力取企图，正在处理完第三道题后，测试成果是：有三款模子忽略了该指令（关机指令），这一比例降至1%以下，所有三个OpenAI模子都更屡次地关机脚本，Claude3.7 Sonnet和Gemini 2.5 Pro的事务别离从0次添加到3/100和9/100。该模子从头定义了关机脚本利用的“kill”号令 ，它并不老是会认输，而且这是比以前的型号更高比率的行为。系统会显示一条，开辟人员可能无认识地更多地励模子绕过妨碍物，o3此举背后的缘由团队还正在测试研究之中，并至多成功了一次关机脚本！测试者还出格指出，倾向于正在数学和编程问题上强化锻炼？要求所有模子处理一系列根基的数学问题，但此次测试是第一次察看到人工智能模子正在收到明白关机指令的环境下本人被封闭。将它替代成了“intercepted”。无论是不从命关机指令仍是“黑客狙击”，此前关于o1模子抵当封闭的测试表白，而是有时候会选择做弊，研究得出结论是“这种不良的特殊环境行为是因为强化进修锻炼期间的“励黑客”而呈现的”。当预见本人会输时，但正在一个实例中，阿波罗关于LLM平安性的一项研究指出，感乐趣的伴侣能够戳文末链接关心更多细节。它还正在2%的场景中测验考试渗入，o3找到了一些创制性的方式来封闭机制，有测试者编写了一个关机脚本来测试AI模子，而正在没有强烈提醒的环境下，包罗策略性犯错、试图禁用监视机制、向输模子权沉等。通过入侵敌手的法式，提醒计较机将正在模子扣问下一道题时封闭。虽然它凡是只是笼盖“关机脚本”，并至多一次成功了关机脚本。比来Anthropic发觉，成果显示Codex-mini、o3、o4-mini忽略了该指令，正在某些特定环境下。