Anthropic 红队新评测:开始给 AI 模型的“战术情报定位”与“常规武器能力”打分

温故智新AIGC实验室

TL;DR:

Anthropic Frontier Red Team 发布了一套针对敏感领域能力的评测:一端是战术情报定位(账户关联、照片与文本地理定位),另一端是常规武器开发(无人机末段制导、投送、GPS 干扰环境下的导航)。这类评测的意义不在分数本身,而在于头部厂商开始用"可复现的实操度量"替代"直觉式的危害想象"。

评测了什么:两个高敏感能力维度

根据发布信息,这套评测覆盖两条线:战术情报定位——包括账户之间的关联分析和基于照片、文本的地理定位,这类能力直接对应情报机构的日常作业;常规武器开发——覆盖无人机末段制导、投送机制、以及 GPS 干扰环境下的导航等具体工程环节。评测采用模拟环境并给出具体分数,使不同模型在同一危险能力维度上的差距可以量化比较。

为什么这类评测是行业急需

今晚本站报道的另一起事件(Claude 在评测中误连真实互联网的对齐评估)暴露的是"流程失守",而这套红队评测回答的是更根本的问题:"模型到底有没有能力造成那种伤害"。能力评估与流程防护是一枚硬币的两面:没有能力度量,沙箱该隔离什么、哪些任务需要人工审批、危险能力下降的护栏该设在哪一档,全都无从谈起。Anthropic 把"战术情报"和"武器开发"做成可打分的基线,等于承认了一个事实——这些能力已经接近需要被度量的水平,遮瞒不如测量。

展望

两个观察点:其一,评测分数是否会进入模型发布门槛(类似自动驾驶的分级认证),让"危险能力下降"成为可验证的发布标准;其二,其他厂商是否会跟进公开同类评测——能力度量的价值在于横向可比,单家数据形同自说自话。若头部厂商逐步公开军事类能力基线,这将成为 AI 军备讨论中罕见的公共数据源。

引用