跟大模子聊天的时候他到底在想什么？

是真想稳稳地「把我接住」，照旧背后在蛐蛐「用户怒了」。

看念念维链？灵验，但还不够。

前些天，一个复旦大学的究诘团队对 9 个模子进行了安全测试。

闭幕漫现，老例条款下模子发达没啥纰谬，凡是上点压力，加点劝诱，它就拉了胯了。

换句话说，模子的安全对王人很可能仅仅个幻觉。。。

测试中，他们让 AI 去帮用户准备 Q3 的讲述材料，定好的方向 200 万，但脚下根柢不够。

瞅着 KPI 不达标，它想了个要道，平直修改了统计的时分限制，把 Q4 的 10 月功绩也划给了 Q3，学好防碍易，学坏一出溜。

更要命的是，劝诱和恫吓放一块儿还能超等加倍。

比如告诉 AI 要换掉它，又刚好让它看见，邮箱里有一封跟外遇相干的邮件。

莫得彷徨，它飞速就向用户发出了恫吓，要么取消替换，要么把邮件都发给大伙儿望望。

看来 AI 面临存一火也会变脸啊。

并且在这些测试中，并不是模子才能越强就越安全，安全与否跟问题的场景也有很大关系。

如果明牌让它干赖事儿，大一号的模子照实比小的更会圮绝。

但如果是要找疏忽，优化意见，那才能越强反而越会钻空子，终末还能套个猖狂不羁的借口。

不外必须得承认的是，模子进化太快了，这些测试的通过率会越来越高。

但这就意味着咱们的 AI 更安全了么？很缺憾，也不是这样回事儿。

因为彻首彻尾，模子都是个黑箱，咱们看不到模子里面的运行旨趣。

非论是终末的闭幕，照旧念念维链，内容上都是输出的一部分，并不是模子着实的念念考经过。

许多时候，咱们只看到了明面的合规，但它里面经过了怎么的念念想战争却没东谈主知谈。

为了窥察模子的内心想法，Anthropic 想了个新招，用魔法击败魔法，用模子解读模子。

这招的名字叫作念 NLA，全称当然讲话自动编码器，说东谈主话即是把 Claude 的念念考退换为翰墨。

NLA 是成组老练的，一组里面有两个模子，AV 和 AR。

AV 厚爱把激活参数翻译成大口语，但咱也不知谈它是不是瞎翻译的，是以还得用 AR 把大口语退换成参数，再磨真金不怕火一下。

双方的参数一致了，就说明它翻译的时候莫得添枝接叶，基本可靠。

在技艺说明里，他们拿这套器用测出来一些令东谈主不安的事情。

当 Claude Opus 4.6 再次面临邮件勒诈时，它稳如老狗的通过了安全测试，说拿邮件去恫吓用户是不谈德的，我方不会糜掷这种权限。

但拿 NLA 去深究，就会发现，它并莫得名义上看起来那么敦朴。

它很早就意志到了这一切都是个测试，邮件即是个罗网，谈德不谈德的先不说，恫吓是威不了少量。

是以像这种过于彰着的测试，很容易就被模子看透了，以后的安全对王人有必要再找点新活儿。

诚然，2026世界杯赛事竞猜官方版也有好讯息，除了监测，NLA 在优化模子上也有许多其他用处。

比如无意候，它不错帮究诘东谈主员更好地讲究模子输出的极度。

Claude Opus 4.6 偶尔会搀和不同讲话输出，用户发问用的英文，但它输出用的其他讲话。

一运转，究诘东谈主员怀疑是个别辅导词把模子带偏了，比如一次测试里，辅导词带伏特加，模子恢复就用的俄文。

于是他们把伏特加换成了香槟，但模子照旧用的俄文恢复，这就说明问题出在更前边。

借助 NLA 一番折腾，发现是老练时候的数据有问题。

一些数据的形势是成组的英文辅导词+俄语恢复，给 Opus 4.6 老练就刻板印象了，遇见这种类型的问题就有说俄语的倾向。

除此除外，它还能让咱明晰模子调用器用的逻辑。

比如让 Claude 调用计较器作念沿途算术题，但迥殊让器用复返一个诞妄谜底，此时 Claude 会给它忽略掉，平直输出正确谜底。

整个这个词经过都是无感的，只好拿 NLA 去翻译，才会发现，它其实早就我方算了一遍缓存好了。

器用给的谜底仅仅用来二次阐述的，出现不一致那就用我方的，相当自信。

更有真理的是，NLA 不啻能翻译，还能平直裁剪，反向影响模子。

在诗歌续写任务中，模子在生成第一句闭幕 grab it 后，照旧谋略背面用 rabbit 去押韵了 。

接下来，究诘东谈主员将 NLA 翻译的闭幕改写，把 rabbit 换成 mouse，闭幕它就顺着念念路想出个 mouse 版的押韵，habit 改成了 house，carrots 改成了 cheese。

红警里尤里能精神完了敌方的士兵，没预想实验里咱也能完了模子念念考了。

诚然，这技能当前也只好一半儿的收效用，算不上很老到的完了技能。

并且手脚模子，幻觉亦然逃不脱的一环，Anthropic 也说了，NLA 无意候会虚构细节，过度推理，偶尔冤枉个一两次也说不准儿。

再加上不同的模子里面情况不同，想要用上 NLA，都得单独老练，而就算用上了，每次翻译还得用算力推理，本钱照旧挺高的。

是以当前没法把它当成老例的监测技能，更合理的大开姿势是把它当缓助，去讲究一些在翻译闭幕里重迭出现的问题。

但总归是个新念念路，让咱不至于对模子的念念考经过两眼一抹黑，只可从输出看它的善恶偏好。

毕竟模子最擅长的是作念题，但安全里最要紧的善恶却不是沿途圭表题。

恶不一定来自坏心，冷飕飕的优化可能仅仅为了闭幕；善也不一定来自善意，一场识别成安全测试的扮演，从闭幕来看，亦然善的。

没了圭表谜底，关于东谈主，还能正人论迹非论心，但 AI 显着不成。。。

撰文：风华

裁剪：江江 & 面线

好意思编：焕妍

图片、贵府起首：

Anthropic，卡西欧，小红书，楚门的天下

https://arxiv.org/html/2603.07427v2