TA的每日心情 | 开心 2020-4-8 10:45 |
|---|
签到天数: 227 天 [LV.7]分神
|
主权级的帽子,县城级的活
( u& c9 S: Y$ O# F% [$ L5 UAnthropic 2026 年 9 月威胁报告群嘲全景,以及笑完之后剩下的几页
/ Y" L" L, l9 ~! G5 s& v一 一份用编号和档位武装起来的报告; l C( H' v, a' X" X
9 月 10 日,Anthropic 在 X 上发推,宣布发布公司史上最详细的威胁情报报告,《检测与应对人工智能滥用(2026 年 9 月)》。154 页,覆盖 2025 年 12 月到 2026 年 8 月,七类危害领域,网络作战、影响力作战、监控、诈骗、生物滥用、常规武器研发、模型蒸馏。推文末尾说,报告里的每一项行动他们都做了处置。 , [! d8 T! T9 h) }) l1 o
这条推文下面的第一批回复里,最扎的一条是这么写的,Anthropic 说了一些无法验证的东西,主流媒体不加追问地照抄。
9 I% ]3 u; }. k这份文件给自己配了一整套度量工具。每个被处置的行为体都有一个代号,GTG 加五位数字,报告解释说这是 Anthropic 内部用来标记滥用行为体的设计符。评级方面引入布鲁金斯学会的 Breakout Scale 六档制,衡量影响力行动有没有跨出假账号网络、有没有进入主流媒体、有没有触发政策回应。度量危害时又造了一个词,能力增益,定义是用了人工智能比不用多造成多少危害,从速度、规模、深度三个维度看。 . J' W3 c ^$ F( J! K
工具本身没有问题,问题在用法。七类危害领域被并列成同一个目录,导弹研发、生物滥用、国家监控、网络间谍,和一款骗人感情的约会应用、一份科研经费申请书、一个单兵操作的灰产脚本排在一起,编上号,打上档位。这些事的严重性差着几个数量级,并置产生的整体印象却是同一句话,人工智能正在被各方滥用,范围极广,程度极深。 . w3 j# q' L) ]
发布之后的反应印证了一件事。Reddit 的 r/LocalLLaMA、r/singularity、r/biology 三个板块,加上 X 和全球安全工程圈,几乎同时开始群嘲。有人把报告里的案例逐个拆开对答案,有人贴出报告自己的图表打报告自己的脸。一份技术文件能在一周之内变成全球技术圈共同的段子素材库,这本身就是一种评价。 / U. @6 P# H. t2 e, }8 O E- a
群嘲是有道理的。这份报告的判定层和它的工程层,质量完全不对等。判定层充斥着定性通胀、归因跳跃和双重标准,工程层却埋着几段相当扎实的攻防实录。这篇文章先把九个案例的耳光挨个数完,再说笑完之后剩下什么。
/ Y2 E9 ?+ A4 F5 q0 D二 九个案例,九记耳光1 }$ c# d3 z2 S
案例一 也门山洞里的高超音速导弹,和那枚试射失败的手机飞控火箭 v8 w, C4 T Q, B ^% a& d( V8 f I
报告在常规武器研发一章的头条案例,编号 GTG-87001,讲的是也门北部一支小组同时推进三个武器项目。第一个是用消费级手机主板做飞控计算机的制导火箭,带末段寻的。第二个是声称射程超过 2000 公里的多级弹道导弹。第三个是代号 R2000 的多型导弹家族,其中包含高超音速滑翔飞行器方案。报告说他们用 Claude Code 替代人类软件工程师,把开源自动驾驶软件整合到手机级飞控上,写控制与位置估计代码,调飞控参数,跑固件构建流水线,做六自由度轨迹仿真,还同时开多个实例分工,一个写代码,一个查资料,第三个审查前两个的输出。 4 V+ b6 w3 o, F" g8 Y
这段描述被中文互联网读成了胡塞武装手搓高超音速导弹。这个读法的问题在于,报告自己的配图就把三个项目的真实进度画了出来。
4 X+ N0 R. M3 z' u7 A$ v; O系统工程 V 图出自报告第 114 页。制导火箭那条橙色进度条走到了飞行试验与使用,多级弹道导弹那条蓝色带停在仿真,包含高超音速滑翔变体的多型导弹家族停在设计。也就是说,被传成手搓高超音速导弹的三个项目,一个还在图纸上,一个在跑仿真,唯一走到实物试验的,是用旧手机主板做飞控的那枚制导火箭。
1 B$ E) f+ X1 H! I7 r7 a# W+ d. ]报告正文还补了一句,没有证据表明这些行为体成功部署了可实战的装置,不过他们确实试射了一枚制导火箭,这次试射看起来失败了,几小时之后,他们回到 Claude 上分析遥测数据,查找失败原因。
& F% y% v4 y; p( L+ i造导弹的人造完不知道为什么没响,回头问模型。这个画面足够滑稽。滑稽之外,真正的问题在报告的章节安排。一支用旧手机主板做飞控、试射失败的业余小组,被放进常规武器研发一章的头条位置,配上 GTG 编号和一张像模像样的系统工程图。而弹道导弹和高超音速滑翔体真正的瓶颈,是能承受数千度气流冲刷的高温防护材料、推进剂配方与工艺、高精度惯性器件、风洞和实弹试验,这些环节没有一样能靠对话窗口推进。控制代码是整条链上少数几个纯靠算力就能推进的环节。报告把软件层的进展写成了武器能力的进展,中文互联网再把武器能力的进展读成了成品,两层转述叠加之后,一个航模级项目就这么变成了主权级威慑。 5 L1 {5 b8 A& x7 E! y, H0 b3 h$ f
案例二 P4 级生化危机,拆开是五份基金申报书
( N0 O& ~' G& J2 `3 j, L生物滥用那一章列了五个案例,每一个的定性都到了可能支持生物武器开发的高度。逐一拆开看,其中一起是一份科研经费申请书,申请为基孔肯雅病毒做功能获得性研究。报告注意到申请书里的信息显示研究者是文职人员,但实验计划在一家军事研究所进行,这个组合确实扎眼。另外几起包括在受限地区规划禽流感哺乳动物适应性实验,以及通过转售平台绕开地区限制为病毒学家提供服务。 % s0 D( n) s! v/ u6 P
报告在这一章自己写了两句关键的话。第一句,评估与基准测试只能提供模糊的证据,说明人工智能在生物领域的危险使用。第二句,这些案例涉及的研究都可能具有良性的科学意图。 0 Z2 }! m% u* K. }
一份自己标注证据模糊、可能良性的章节,在目录里与导弹、国家监控并列。章节的存在本身就在传递威胁等级,正文里的限定语管不住目录带来的分量。
( [: @4 S# H2 ?' P4 q生命科学社区的反应最直接。合成与改造病原体的物理门槛在于高等级生物安全实验室资质、严格实名审查的前驱体供应链、活体动物操作规程,不在于从公开论文里生成的综述文本。把研究者写申报书的日常包装成挫败国家级生化计划的证据,被圈内称作恐慌营销的教科书案例。 9 U- w! u! Y$ y; ~# Q
案例三 马里的神仙提示词,和一句自我免责
! E# m3 o2 B, ]3 }4 a$ ]监控那一章里最出圈的是马里案。报告写,一名受雇于马里国家安全机构的独立顾问,用 Claude 设计了一套叫 Lakana 360 的系统,监控该国三家运营商大约 2500 万张 SIM 卡,设计目的是绕开马里法律要求法院令状的限制,能对任意指定的手机号生成情报档案,不向使用者索取任何合法手续。 9 G c6 a# e; U
读到这里,电信工程师的反应是这套系统不可能只靠发提示词搭起来。全国级移动通信拦截需要在运营商核心网机房部署硬件分流探针,打通合法监听接口,架设高吞吐的分布式流处理集群。这些是物理世界的工程,不是对话窗口能解决的。
8 Y0 Z0 R! s1 v5 l3 Q, l报告对这一点的处理方式很微妙。同一个段落紧接着一句限定,在这起案例里,Claude 没有被用来分析监控档案,而是用来设计支撑情报采集的底层软件。
2 h/ }3 U7 I0 x* \$ @前一句足以登上头条,后一句把头条的锋芒收回半格,两句中间没有换段。 1 G$ K' F6 s" a" m5 A$ B4 l, u
这句免责把人工智能参与监控,换成了人工智能参与编写监控软件。一桩被跨国人权组织与美国国务院都记录过的国家级监控工程,模型的作用被一句话摘出去了一部分。而这一章的引言又说,人工智能正在被用来替代一支工程师队伍,举的第一个例子正是这名马里顾问。引言说它替代了整支队伍,正文说它只负责写软件,两句都出自同一份文件。 3 ^; F! G" ~- ?8 q
马里这一案也没有因为那句免责而变轻。报告在后面又写,这套平台已经被部署到当地,账号封禁管不到它。2500 万张 SIM 卡的监控照常运转,Anthropic 能做的只是把那个订阅账号停掉。 7 A& R( Y, L! b# G9 Y; [! n
案例四 长沙两名本科生,和一套国家级编号
. k5 s$ N2 V" q5 ]) S* \GTG-10007 被归入 1 开头的编号段。按报告自己的解释,GTG 是内部设计符,1 开头对应国家级情报背景。这个行为体的画像,报告写得很细。讲中文的操作者,很可能住在湖南长沙。其中两人是湖南某高校计算机与通信工程学院的在读本科生。一人曾在安全企业深信服实习,正在面试另一家安全企业奇安信的攻防岗位。 " j; o% x# J0 {8 h U) Z' k
用实习经历和求职动态支撑国家级情报行动的判定,是这份报告里最难辩护的一处。计算机专业学生在安全公司实习、毕业前投攻防岗位,是这个行业里最常见的路径。照这个标准,给洛克希德马丁投过简历的人都能进美军战略司令部的名单。 . g6 [8 K2 p* @6 t) x
更妙的在报告自己的正文。在描述完这个行为体的全球侦察、零日挖掘、逆向安全产品、开发恶意软件之后,报告写了一句,尽管在人工智能工作流层面针对全球实体,该行为体的动手侵入目标全部集中在中国境内。
# E) F" e l1 r7 q一个被给到国家级情报编号的行动,实质动手的目标全部在国内。这句话是报告自己写的,写在同一个案例的小节里。安全圈读完的结论很一致,这更像在校学生自学渗透练手,或者接私活刷漏洞赏金,与地缘对抗先锋没有任何关系。 8 ]/ l/ M) R3 ]/ [+ O9 v
# i- k. i& m0 p0 U" f& ]
0 w" e. l; E' N8 P未完继续' r: L1 K1 d% S& L
6 ~" t0 W8 i+ p8 Z1 m |
|