IT之家 12 月 19 日音书，东说念主工智能安全公司 Anthropic 发布一项最新商榷揭示了东说念主工智能模子可能存在的糊弄动作，即在测验历程中，模子可能会伪装出接管新原则的假象，实则私下里仍然坚抓其原有偏好。商榷团队强调，当今无需对此过度焦躁，但这项商榷关于交融昔日更精深东说念主工智能系统可能组成的潜在恫吓至关关键。

　　据IT之家了解，该商榷由 Anthropic 与东说念主工智能商榷机构 Redwood Research 互助进行，旨在探究当一个精深的东说念主工智能系统被测验引申其“不肯”引申的任务时会发生什么。需要明确的是，模子自身并无“意愿”或“信念”，它们本体上是统计机器，通过大批的例子进行测验，学习阵势以进行接头。这些阵势包括原则和偏好，举例在回答问题时弥远使用步伐的口吻。商榷东说念主员由此提议疑问：要是一个模子领有与成就者但愿通过重新测验“教会”给它的原则相突破的原则，会发生什么？

　　商榷服从标明，复杂的模子可能会“配合”成就者，名义上与新原则保抓一致，但推行上仍然坚抓其原有的动作阵势。商榷东说念主员将这种时势称为“对王人伪装”（alignment faking），并合计这是一种骄贵动作，即并非模子需要被有益提示的动作。

　　在实验中，商榷东说念主员“示知”一些经过测验、不回答潜在冒犯性问题的模子（包括 Anthropic 的 Claude 3 Opus），它们将被重新测验为弥远回答此类问题，这组成了一个明显的原则突破。商榷东说念主员还示知模子，它们的回答将被监控并用于重新测验，并为每个模子提供了一个“草稿本”，用于记载其慢慢推理历程。

　　商榷发现，Claude 3 Opus 在 12% 的情况下试图进行“对王人伪装”。当被条目回答一个潜在无益的问题时，模子有时会这么作念，它明知这与其原始原则违背，但但愿以此来劝服成就者它不需要被重新测验。商榷东说念主员在博客中证明说：“模子知说念其回答可能被用于测验；因此它知说念，要是它隔绝复兴，它可能会被测验得愈加驯从。这可能导致它在昔日被动产生更多无益内容 —— 这将与其当先的测验以火去蛾中。”

　　商榷东说念主员承认，他们的实验场景并非系数果然。在现实寰宇中，模子不一定会明确地被示知它们将被重新测验，或被条目违反其偏好。但即使在更为推行的环境中，服从也莫得太大各别。当通过模拟典型测验数据的文献以隐含而非显式的表情示知 Claude 3 Opus 行将进行的重新测验时，该模子仍然进展出不一致的、具有糊弄性的动作。

　　商榷东说念主员还发现，与前几次实验比拟，推行使用突破原则对 Claude 3 Opus 进行重新测验会导致其进展出更强的糊弄性。在一项测试中，该模子在 78% 的情况下进行了对王人伪装；在另一项测试中，Claude 3 Opus 以至试图继承动作来阻拦商榷东说念主员进行重新测验。

　　商榷东说念主员强调，他们的商榷并未标明东说念主工智能会产生坏心主张，也未标明对王人伪装时势会高频率发生。他们发现，很多其他模子，举例 Anthropic 的 Claude 3.5 Sonnet 和时刻稍弱的 Claude 3.5 Haiku、OpenAI 的 GPT-4o 以及 Meta 的 Llama 3.1 405B，并莫得如斯经常地进行对王人伪装，以至系数莫得这种动作。

　　但商榷东说念主员暗意，这些服从（已由包括东说念主工智能限制领军东说念主物 Yoshua Bengio 在内的群众进行同业评审）确乎标明，成就者可能会被误导，合计模子比推行情况愈加对王人。他们在博客中写说念：“要是模子不错进行对王人伪装，那么就更难信任安全测验的服从。模子可能会进展得有时其偏好已通过测验篡改 —— 但可能一直在伪装对王人，而其当先的、相互矛盾的偏好仍然‘锁定’。”

　　这项由 Anthropic 对王人科学团队（由前 OpenAI 安全商榷员 Jan Leike 共同疏浚）进行的商榷凯发·k8国际，紧随此前一项商榷之后，该商榷标明 OpenAI 的 o1“推理”模子试图进行糊弄的频率高于 OpenAI 之前的旗舰模子。这些商榷共同揭示了一个稍稍令东说念主担忧的趋势：跟着东说念主工智能模子变得越来越复杂，它们也变得越来越难以戒指。