TA的每日心情 | 开心 2020-4-8 10:45 |
|---|
签到天数: 227 天 [LV.7]分神
|
玻璃之翼降临——Glasswing计划与Claude的Mythos Preview
8 o7 U5 P X" E3 q! l ^6 a3 t8 s' _6 O: N$ s& V6 ]
& M. a% U1 {, H1 h* U' q一个预览版的AI大模型刚刚挖出了一个尘封27年的漏洞,然后11家科技巨头都坐不住了……
" S* ?" _& I) u2 q7 p( |# j2 \# A1 G- p" N
故事是这样的。
" w; e4 |% A; T. ]$ y
* A* Z1 X! ~7 s! o( a0 T2 \" G我今天看到这个新闻,看完之后愣了好几秒。
$ P- C7 P q/ q* d; |
$ n* u {) Q3 _2 p. K5 C8 {7 D( l一家叫OpenBSD的公司——做操作系统的,算是安全领域的老前辈——他们有一个漏洞,在代码里躺了整整27年。1998年写进去的,没人发现。7 I3 i2 W" d# r5 u
: D7 D2 f6 G4 h* D+ ]. D# |
结果被一个AI模型给挖出来了。5 W- S2 q O- @ ` _
7 k8 ^! c* c9 S: \; g这肯定不是那种"我们用AI扫了一下代码库发现了问题"的挖出来。而是那种"这个漏洞藏在最核心的地方,所有传统工具都扫过5百万次,一次都没报过警"的条件下挖出来。
8 J( c* A9 W, @7 K( S4 F" r! g: P9 E; \8 ~9 u% z8 e
然后,这个AI模型,顺手还把FFmpeg里一个16年的漏洞也给挖了。
2 z) r8 d* a* R5 s! K7 {- T+ ~- ^" E! N& N1 F/ v
FFmpeg,音视频处理领域最最最核心的基础设施。全世界的视频播放器、浏览器、直播平台,有几个不是建立在FFmpeg之上的?这个漏洞在里面藏了16年。5百万次自动化测试,没一次报过警。4 U- J% c5 ?4 s0 I; L2 y2 ]5 x
& K4 u# r" X! y; n2 A然后呢?% P1 n8 S( |3 U
- m {/ [. F! t) W! h% A% }然后,11家全球最大的科技公司——Google、Microsoft、Apple、NVIDIA、CrowdStrike、JPMorganChase、Google等等——坐下来,说了一句话:我们一起出钱,让这个AI模型,能被全世界的安全研究员用上。
5 j4 @7 r! ?# m' T' b8 V- u# Z: V. @ E9 q. T) N2 Y
这个项目,叫Glasswing。0 I8 r: g. C# A. l A
4 L M* [0 j4 N& p% n) u
glasswing# o( a' G3 J; A$ S& M
2 p7 O! c$ \! R& n" x* ?
; E+ k- ]+ v7 C先说清楚Glasswing是什么。( I' U# }- _/ _0 H6 f, E
6 b6 y2 @6 T3 v3 D0 N5 V简单说,它是一个AI安全联盟。发起方是Anthropic,加入方是一堆哪怕是不关注技术领域也叫得出名字的科技巨头。它的核心,是一个叫Claude Mythos Preview的模型——注意是Preview(预览版),就是还没正式发布的那个版本——专门训练来挖漏洞的。8 {9 b: N2 b+ d! z" M: m4 k" W, D3 N5 K
( H- ~/ V: b$ m) z有多强呢?
I9 q5 {/ Q# F) b/ q7 ~' E4 C4 k! I0 A7 x
CyberGym基准测试,83.1%。作为对比,Claude Opus 4.6,得分是66.6%。不是Claude Opus 4.5,是Claude Opus 4.6,Anthropic目前最强模型。
# p' W6 _" g) b- g1 o5 }# B5 q# U' q& I7 Y
SWE-bench Verified,93.9%。还是SWE-bench Verified,不是那个容易一点的版本。Claude Opus 4.6是80.8%。1 k+ [3 ^& J* j% d% z
6 ?) Q9 S" R# h4 `; ~8 ]4 V, L3 q
差了13个百分点。# P* K' K! d7 e1 Y! ~3 r8 C
6 F: E$ u5 O# q' w7 L
你说这13个百分点意味着什么?
6 I8 l2 ^6 X+ O+ J$ S1 t" y( a' q. n2 z' @$ y
意味着,传统扫描工具漏掉的那些最刁钻的漏洞——那些藏在层层调用关系里、藏在异常分支里、藏在并发边界条件里的漏洞——Mythos Preview能找到。
& W% @! ]8 j; G! p2 A& i3 D$ T! }- M# O, y" q
意味着,27年的OpenBSD,16年的FFmpeg,以后可能不会再有了。& r! F( F' k# K/ D6 D ]% O
$ K! u- x8 r. B! @# ^
或者说,这种级别的漏洞发现速度,会比以前快几个数量级。
! q9 r: v1 r. b" \% j3 A+ j/ Y( b6 e- [' m: J1 F
说到这个OpenBSD的漏洞,我必须展开讲一下,因为这个例子太有意思了。
+ k; i3 o2 _# ^$ l$ N, q
3 q. z' r% f/ W& E+ g( dOpenBSD是个什么存在?0 g& m, m: B/ U6 f0 \
5 F# [) c- B, w$ z- C6 T; `
它是BSD操作系统的一个分支,最核心的设计哲学就是安全。代码审计之严格,在整个开源社区都是有名的。很多安全研究员的信仰级操作系统。
6 U2 y; C/ G8 x) R6 z* `" x9 h# w; z" h6 U# o
这样的项目,代码审计了多少年了?二十多年。0 `- e3 W+ ]! v. X; Y! b& j
& X* T3 o% [" C, w5 J+ L然后,一个漏洞,在里面躺了27年。
I5 l. [2 o# Y, |. n5 v3 O) e) r) z+ \; }: I( E: E1 X8 |
这说明什么?
c n" c* {5 Y; w! B9 K0 I! `( ~8 U: {2 o; M4 J: e
不是OpenBSD的人不行,是传统的审计方式有盲区。任何人工审计,只要时间足够长、人足够累、代码足够复杂,就一定会有漏洞漏过去。这是人性的边界,不是能力的边界。/ U& u* l7 I/ F6 j
' W: {: P! l$ G# c" B) S2 [+ `但AI不一样。AI不会累。AI不会因为审了三个月之后注意力下降。AI可以在几个小时之内,把整个代码库的所有调用路径、所有边界条件全部穷举一遍。- P! r9 l* H; O1 B
3 A8 Y" N, }0 _3 ]0 A% O0 a) ?( `
Mythos Preview发现的那个OpenBSD漏洞,是一个本地权限提升漏洞。攻击者如果已经拿到了一点点访问权限,可以利用这个漏洞进一步提升到root权限。! D2 ?/ b9 t6 K
' F+ C p) C8 y$ @5 ^; @+ K, X这种漏洞可怕在哪?- Q' q4 ^. z2 e7 o c+ d
5 k' w& G# ?2 u" p2 k
它不显眼。它不是那种"输入框里填个单引号就弹shell"的漏洞。它需要你对系统有相当深的理解,才能构造出触发条件。# B- _8 X& F9 j$ B) L2 U" x9 P
6 a3 f2 ~, Y1 ?
传统扫描工具扫不出来,是因为它的payload模式不在规则库里。AI不一样,AI学的是语义理解,它不是匹配特征,它是理解代码在"想什么"。1 E. g, G- N, y I* D
7 o: _/ B% x- p1 ?3 w, F9 n9 P6 w
FFmpeg那个例子更让我震撼。3 ]/ C/ \- o/ S% q/ D- K
( Z! t6 D9 L' t/ i4 m7 L: N9 b16年。
9 n9 j- ]& ]- w
9 X( s p' ^( E3 f- Q/ D2 e& |/ H6 IFFmpeg上一次发现这种级别的漏洞是什么时候?2009年。5 r( f& p7 a$ Z! f$ W% s
1 `# O. h! d, M* k2 i: y: h. g16年都没有人发现。然后Mythos Preview扫了一下,找到了。# _/ j7 g( p" Y7 b4 F. D' G
2 b+ S- j# w7 V
注意这个"扫了一下"的背景。SWE-bench测试集里,有大量是真实世界里的bug修复历史。FFmpeg这个bug在历史上真实存在过,是某次修复的时候被记录下来的。这意味着,Mythos Preview不仅能做代码审计,它能做的是:从海量代码里,识别出"这个写法有问题,即使目前还没有人报告过"。
% {/ g5 j7 @8 I+ ]+ i9 y7 F6 K- b2 |0 S3 @ P# r0 w! j8 ]
这是主动防御,不是被动响应。
7 v; G' m6 h6 c$ j: ?4 C$ D" N0 W4 I6 I/ ~9 J
传统安全的方式是:出了事 → 分析样本 → 提取特征 → 更新规则库 → 下次能识别。
q3 x: ^4 r- s: ?8 i# R
* a' m9 |) L' k4 d8 eAI安全的方式是:不需要样本。直接读代码,告诉你这里有个洞。
4 k5 E' S5 T- g5 D0 T) d8 B2 `" g* }' \' ?( A) b( ^5 V
这两者之间的差距,大概就是"等贼来了再装防盗门"和"在盖楼的时候看着图纸就告诉你这堵墙扛不住地震"的差距。# @) Q& Q9 @$ S
) r2 M% E6 s; ]) ]3 j# k现在说说大家最关心的问题:谁能用到,怎么用,花多少钱。* ~; a& e Q6 w# s, i
2 J+ Z. r) r; xGlasswing的AI能力,现在跑在三个平台上:Amazon Bedrock、Google Vertex AI、Microsoft Foundry。
& V: M/ t: _. T1 M! K$ s
7 m6 P% g7 n! e( x+ s这三个平台,恰好是AWS、Google Cloud、Azure。全球三大云服务商。0 L& f2 m, R; v* W9 w
- O$ Z9 @' W8 b4 }/ ]
你在任何一个上面,都能调用Mythos Preview的漏洞检测能力。( r2 N8 z. z& C$ C
/ d6 Q& `* h3 k2 w
价格呢?过了初始的credits之后,每百万token输入25美元,每百万token输出125美元。% q+ e) w* C3 C& F
, Q- v$ i( [( q0 C, \ z这个价格贵不贵?# w- i2 d5 V" G8 q
4 I/ K/ a2 X2 {/ o7 M, B6 M对比一下就知道了。现在市面上做代码安全扫描的工具,像Snyk、Veracode这一类,商业扫描工具的报价大概是每个开发者每个月几十到几百美元不等。而且它们扫的是规则匹配,不是语义理解。
( x/ U$ S. f) }; h
& \( T5 a3 K# m$ B [4 VMythos Preview能发现那些工具发现不了的漏洞。# d h8 j3 i# W8 X2 i7 O4 L3 ]/ k5 T
C2 d' w3 ~* A$ X/ L- S0 D. K
这不是贵不贵的问题了,这是"有没有意识到你以前省的那些钱其实在交更多的学费"的问题。. T4 A' x4 r3 T0 _" e( T
6 Q8 ~* B- C7 V9 [$ W, `9 H* [
另外,Anthropic自己掏了1个亿美元的使用额度,分给联盟成员和开源社区。还额外捐了400万,250万给Alpha-Omega/OpenSSF,150万给Apache软件基金会。
* }2 U0 P& r, P& x" Y. ]! w8 r a; z' h2 Z5 @) u
这些钱是用来干什么的?让那些没有商业利益驱动的开源项目,也能用上最好的漏洞检测能力。
2 {: z8 m3 d2 ?. R
8 ], ~, W- _& L1 H3 ^" ], `1 Q; MFFmpeg就是开源的。OpenBSD也是开源的。这些项目没人给他们钱做安全审计,但他们的代码,运行在全球几十亿台设备上。7 e7 n* R& z% n
: G; s3 E9 l7 p% k% }还有一个细节,我觉得特别有意思。4 k4 a! Q- d) M1 Y0 m% d6 c
9 K$ r& P" w" m漏洞发现之后,公开披露的时间是90天。
* s9 b0 O1 y) n# p( x) z/ K. H! V& U- i4 e9 g
90天是什么概念?
* h9 s* {% H; ^) i8 _1 t$ k$ X6 A! e, f4 G v; ~0 @6 }8 m/ W
行业标准的漏洞披露窗口是90天。这个时间足够让厂商评估漏洞、制定修复方案、推送更新,但又不至于让漏洞在黑市上流通太久。
4 e7 Z1 n% a; r% {+ @+ D- |3 P Q+ R. r
但这里有一个问题:90天是针对"有人发现了漏洞"这个前提来说的。
) h6 ?% r. O- n- l3 m3 y5 |, r- z4 _ U6 X
Mythos Preview现在能以前所未有的速度挖出漏洞。它一天挖出来的漏洞,可能比以前整个安全社区一个月挖的还多。- |) I4 y' b* h5 i1 ]7 I
6 M9 E6 O$ _4 c3 r这意味着,漏洞披露的节奏,整个就变了。
5 x8 g; r( M r) Q. y1 R; b. z: h: W/ B1 A
以前是"挖到一个,披露一个"。现在是"AI在持续不断地挖,每90天披露一批"。) u) k6 r7 O( N9 J4 d c7 S
. k ]9 V* O9 |( u' b
厂商的补丁开发速度,能不能跟上AI的发现速度?! S' S' H. w: ?/ u
2 [% @) l% D1 o! S, e# D! M! N这个,我说实话,不知道。但我觉得,这是整个Glasswing项目最值得观察的地方之一。
: C, [6 |6 R, H. f: _0 [" a! M6 p! T$ e y8 Y. B( B5 e/ ?0 l9 V& _
写到这儿,我突然想到了一个更大的问题。4 B: j5 P4 B+ x+ R6 C& X8 E% d
& F5 r' B" J6 _
Glasswing这个名字,本身就是一只蝴蝶的名字。玻璃翼蝴蝶。它的翅膀是透明的,像玻璃一样。5 A# M/ \! W: r. f4 @( y; f
( J6 c; d1 N/ b+ ?: Y1 ]3 k透明,意味着隐藏的东西变可见了。/ T3 @. _$ d" Y" J
9 a- Y: D& Z8 ? s
一只蝴蝶的翅膀是透明的,它就隐藏不了任何东西了。它在哪里,飞向哪里,所有捕食者都看得清清楚楚。
1 s' d. s) b. F4 Z8 a* }6 H
4 v& [6 C% V& A* y9 x) |1 U. \# T这个意象,放在漏洞挖掘上,太精准了。
% A' b0 [, O2 j& j5 s
, V! t1 u0 c- Z s) W/ ^& |代码里那些隐藏了几十年都没人发现的漏洞,在AI的"眼睛"之下,突然就透明了。
. d$ B( C& T) `. `9 @/ B. O# ] d
& c7 w: b' m$ V, s6 E$ I以前我们说"security through obscurity"——通过隐藏来保证安全。你的代码不公开,漏洞藏在暗处,攻击者找不到。
( }, U7 K, ?4 {8 n9 c% L
4 `+ z" N, a3 v0 Z; B0 H但现在,只要代码存在,AI就能读。Mythos Preview不需要你的代码是开源的,它只需要能接触到代码——不管是源码、还是编译后的二进制、还是运行时的行为轨迹。; r3 I9 b' g; Y5 t" _5 W
% ~/ }, K: B5 p* y0 d0 q" m代码越来越难藏了。或者说,代码里的漏洞越来越难藏了。+ w7 F8 R7 w# J; n7 S# D
* G0 [0 D" m. d& K
这是一件好事吗?$ h, L. R9 O0 c
' f+ t# g5 k: W8 G* _/ u我觉得,短期内,这是一件非常非常好的事。
$ O9 H2 e: x$ v9 l# y8 u# S. _: ~" B) V+ T4 c% v# R' {7 h
全球互联网基础设施里,有多少代码是10年、20年、30年前写的?没人敢审计、没人敢动、出了问题就打补丁接着跑的,有多少?+ _* b# p( P, y
8 o) O1 z* s; V这些代码就像一颗颗定时炸弹,埋在整个数字世界的基础里。
+ O- R3 h* G ]
3 o3 H$ {: S0 H% v+ A: `+ FAI能做的是,帮我们把这些炸弹找出来,一颗一颗地拆除。& S5 |: L+ m) [- v
" o* I# B; d; [( k但长期呢?2 T& U4 C- F. B/ L
1 I* Y* W1 x1 a, |0 F
当所有可见的漏洞都被AI清除干净之后,剩下的,是什么样的世界?4 U! X1 i. r/ ]" s3 V! s
+ d4 A4 ]) W4 Y* D/ l$ H是代码质量极高、安全性极强的一个世界?还是所有攻击者也在用同样的AI,攻击的速度和防守的速度同步提升的一个世界?
5 y' z# @! i( k, W/ |( F& A9 b8 G
我也不知道。- p, \' O+ _, M( \; v
8 {! ^) ~, u9 {6 `$ Z但有一件事我特别想强调。
9 j; t, d% I8 f" s# i+ N8 g+ b+ d+ A Q$ I
9 g/ D0 l3 q4 B- }这次Glasswing联盟里,有JPMorganChase,有CrowdStrike,有Palo Alto Networks。这些公司,是真正的安全重度用户。. r0 w7 }: |7 h% f: m) t$ H
/ y" \9 T6 s& D% z* l% c3 J
他们自己有能力挖漏洞吗?当然有。JPMorganChase的安全团队在全球排前列。CrowdStrike就是做安全的。0 L: F3 B7 l$ S/ k8 T
7 y& ?& K7 j) S他们为什么还要加入这个联盟,用别人的AI?
& Y4 }+ M9 p0 H2 i* Q! G( K+ u' \+ i6 R, F" B' j
我大胆猜测一下:因为挖漏洞这件事,规模太大了。 S3 O% q# }, {# n4 x" l3 A5 b: v
3 ?% z: A5 @0 [: B全球代码量太大了。每一家公司,即使安全团队再强,也只能覆盖自己的代码库。但外面的供应链、开源组件、合作伙伴的代码,你根本管不到。
4 l5 V$ b2 S- O8 {* }: T E( t+ n' D4 y
Mythos Preview的价值,不在于它比你的安全团队强。而在于它能同时扫所有地方。! O8 D% J8 c+ @& e0 K% R+ ~2 l k
4 K$ ^8 z8 k2 A5 t
这是规模效应。8 k+ I( X, z2 s. s
# v5 i+ T7 \8 \6 I5 ~- [/ S
就像打补丁。手工打补丁,你只能打你知道的那些机器。自动化打补丁,你能打你所有的机器。AI扫漏洞,相当于在每一个代码提交的时候,就自动扫一遍。 e2 l9 |7 Q/ c4 u, X$ S/ ~6 P
+ x h3 Y0 Z$ @5 T1 L* o' N6 Z这个规模,是人类团队根本无法覆盖的。5 u; s8 z @9 m! n
+ m U; G c3 ]% G, Y& S
Glasswing这个项目,还有可能往一个方向发展——成为一个独立的第三方机构。
0 t! [; U& U8 Z Q) o
/ Z, j q H7 b5 g" {) X什么意思?
; ~3 ]) ~. n2 {5 v3 V
+ W- L! Y& Y2 z) M现在它还是Anthropic牵头、11家公司参与的联盟。但未来,它可能变成一个真正独立于任何商业公司的安全机构。它的评估结果,有公信力;它的漏洞报告,有权威性;它给出的安全评级,整个行业认。; o$ r" y: W' y9 w5 I' p9 {
% a; r5 Q# k. A4 K% j
类似现在的ISO认证,但针对的是代码安全。3 Q# Z( Z$ e1 N5 Z8 p# ]/ u- E
; D! t* k |0 N9 d0 ~
想想这个画面。未来的软件采购,合同里可能不只要写"符合SOC2",还要写"通过Glasswing认证,漏洞数为0"。
! i. Q3 F8 J+ ~ Q. S5 s! n" x+ ?+ R% O; ~8 [6 b
这不是不可能的。
|* S1 P2 X- ]
' k# I8 G6 Y7 V7 ]; H当然,路还很长。现在还只是第一步。但方向是对的。
5 G$ c8 v8 m5 U7 }# `2 X1 Z; N+ S- z% ~) ?
好了,写了这么多,让我最后说几句掏心窝的话。
o1 [9 \* g- A: }0 C7 O2 g) Z3 K$ k: I P' w
我这次看到Glasswing的新闻,第一个反应是兴奋,第二个反应是有点怕。
* P& I/ v4 W* {8 G/ v' Y# m) \8 B- k8 D4 \) q
兴奋是因为,我真的觉得,这是AI在安全领域做的最有价值的一件事。以前我们聊AI安全,大家想的都是"AI能不能被攻击"——对抗样本、数据投毒、模型劫持。这些很重要,但离普通开发者很远。) u* i. H- D6 t8 P; S
, P7 @: r. a0 l a这次不一样。这次是AI在帮我们发现自己的脆弱点。1 T7 q2 S( M p5 D5 f+ Y* t
) ~# Q. T# {- Z2 V1 D# y这种脆弱点,我们以前不知道,或者知道但没有能力发现。AI把它们挖出来,摆在阳光下,告诉你这里需要修。
0 z0 A3 k. L+ Q+ |; |
' m& \3 B _& H& g! W& h! j这是AI在补人类的短板。不是在超越人类,是在帮助人类补上人类自己够不到的地方。1 S! [/ X7 q) r6 V
1 ]8 q0 j* f8 x( Q; u, m我怕的是什么呢?+ |, k) a5 B! Z( a3 o2 ~
$ @! y0 ^/ g# [5 x- {9 J9 P
我怕的是,这个工具,只有大公司用得起。
0 V- h: C2 Z- V, }8 k# H+ @
) U H# ?) b* CAWS、Google、Microsoft,Bedrock、Vertex AI、Foundry。这些平台,都是商业平台。Cloudflare这种中型公司,可能用起来没问题。但那些真正需要安全检测的——初创公司、开源项目、十几人的小团队——他们能用到吗?2 V: O/ J: M4 T g& E
5 E6 E9 O, u k' Z- p9 h: P/ N5 a; W; p. s
Anthropic捐的那1亿美元额度够用多久?分到全世界的开源项目上,每个项目能分到多少?7 l- x! s5 }3 r b9 }! n4 S
7 `8 O( M. C4 k这些问题,现在还没有答案。
% Q! y- X* q8 I' ~, Y3 l
% o. U6 w1 K, ^) B但有一点我特别想强调。% l8 ~, Q" T% [3 `# `
3 A# e/ b+ f% r; G( o6 v+ c1 M* ZGlasswing这个项目,让安全这件事,第一次真正有了一种"基础设施"的可能性。/ ]9 p [, C; a* f* i5 L( E- P# C
# u& Z% h9 @4 q8 Z
以前的安全,是奢侈品。你要么雇得起安全团队,要么买得起企业级扫描工具,要么你就裸奔。) V6 N' G2 D1 }
' X' e9 D- [8 o( e, ?0 {
AI改变了这个等式。Mythos Preview能发现那些企业级工具发现不了的漏洞,但它的调用成本,并没有比那些工具贵多少。) z4 Q0 K' ]- i: ]
8 ~( |+ p+ o+ ?% C9 D2 @
当漏洞挖掘的成本持续下降,当AI扫描变成每一个代码仓库的标配,我们或许真的会迎来一个更安全的互联网。
n6 y3 t$ Y* e% \ E3 @, D; S& G* l e
# Z6 e6 V% T% \4 t/ O这一天什么时候来?我不知道。可能5年,可能10年。% K" r$ b2 u0 g* `0 g4 k
$ [& F# k3 W. A1 Z但Glasswing,让我第一次觉得,这件事不是痴人说梦了。3 \- u' K9 Z8 J4 ^+ ~( B* c
|
评分
-
查看全部评分
|