TA的每日心情 | 开心 2020-4-8 10:45 |
|---|
签到天数: 227 天 [LV.7]分神
|
玻璃之翼降临——Glasswing计划与Claude的Mythos Preview+ M4 D" K/ q% ?
8 c z& W8 _% j: i% M. X6 o$ w9 T2 m7 E2 N5 n6 Z2 X4 U
一个预览版的AI大模型刚刚挖出了一个尘封27年的漏洞,然后11家科技巨头都坐不住了……2 I7 e2 o( a6 B. }/ K& O
( G, `5 S0 p& n& Q
故事是这样的。$ r4 r4 {& N) B. H
6 C8 a8 M9 P2 [* X7 }& V0 Z4 b
我今天看到这个新闻,看完之后愣了好几秒。
7 O4 ~: b u; ?7 ?2 [' T0 R# d+ u
一家叫OpenBSD的公司——做操作系统的,算是安全领域的老前辈——他们有一个漏洞,在代码里躺了整整27年。1998年写进去的,没人发现。& n% v4 A2 t* }" x7 X0 }# u' g0 S
/ y! u3 E1 N2 e) n, _
结果被一个AI模型给挖出来了。- [/ i3 q& Z% j; d
# B0 l4 @7 t s Y5 _1 A8 x这肯定不是那种"我们用AI扫了一下代码库发现了问题"的挖出来。而是那种"这个漏洞藏在最核心的地方,所有传统工具都扫过5百万次,一次都没报过警"的条件下挖出来。
0 N- R; v# P; B1 l$ J$ H' ?( m4 O, `: P6 g# Y0 ~# n. d& [ _
然后,这个AI模型,顺手还把FFmpeg里一个16年的漏洞也给挖了。
$ n4 {6 ^" R& Y4 l- b/ m' W" ~
$ R7 V* ^% \& ~3 E6 A- {FFmpeg,音视频处理领域最最最核心的基础设施。全世界的视频播放器、浏览器、直播平台,有几个不是建立在FFmpeg之上的?这个漏洞在里面藏了16年。5百万次自动化测试,没一次报过警。1 y$ o8 N, r2 l( p+ |. J! d
" p' C& a' u# O! @/ ?然后呢?# k D4 y1 m% u2 j! t+ g$ U. K
2 N& K" w) \, a; I0 m+ _
然后,11家全球最大的科技公司——Google、Microsoft、Apple、NVIDIA、CrowdStrike、JPMorganChase、Google等等——坐下来,说了一句话:我们一起出钱,让这个AI模型,能被全世界的安全研究员用上。- Z. {3 A1 x! ?1 d1 b! M+ r
! `2 M7 m* g) v
这个项目,叫Glasswing。
7 o# k) K8 t7 ]: u ]6 y9 N. p0 Q( Y4 O1 U
glasswing
5 n- W$ L8 X$ K( P
( j+ J) ], H6 U4 F6 Z7 {
7 r; \5 Z! {4 y先说清楚Glasswing是什么。8 }( ]& v2 y2 g9 ]% k1 N. {
5 s% U: e+ S; _: Z! ^# c" T
简单说,它是一个AI安全联盟。发起方是Anthropic,加入方是一堆哪怕是不关注技术领域也叫得出名字的科技巨头。它的核心,是一个叫Claude Mythos Preview的模型——注意是Preview(预览版),就是还没正式发布的那个版本——专门训练来挖漏洞的。
; j5 v& f/ t6 K3 g1 W4 u6 D# C `# }+ x, @9 h
有多强呢?( h8 V" ]9 F& P- n
+ y) `' b" p% ^1 D/ ^" M
CyberGym基准测试,83.1%。作为对比,Claude Opus 4.6,得分是66.6%。不是Claude Opus 4.5,是Claude Opus 4.6,Anthropic目前最强模型。$ Q: {/ m( k' z6 D8 x$ d5 ?
7 L9 }7 \5 [4 e
SWE-bench Verified,93.9%。还是SWE-bench Verified,不是那个容易一点的版本。Claude Opus 4.6是80.8%。* K; b6 X h$ n5 A) A j
. e( P5 W/ x) E差了13个百分点。
1 ?) N2 V" M7 c0 B% q2 q: M. G% f+ e! b' k8 t: e
你说这13个百分点意味着什么?7 Q1 T( q6 d2 o$ I" e r3 g
3 Y& ~& t* } x; X+ y意味着,传统扫描工具漏掉的那些最刁钻的漏洞——那些藏在层层调用关系里、藏在异常分支里、藏在并发边界条件里的漏洞——Mythos Preview能找到。
, b4 N, ~" d0 l# J' f5 t
, Z. c, Y/ R7 Z: @9 U, Q. B意味着,27年的OpenBSD,16年的FFmpeg,以后可能不会再有了。) g; {& Q- j; T. Z7 }
9 l3 @( l& q! K8 m* _% _" u或者说,这种级别的漏洞发现速度,会比以前快几个数量级。/ ` J1 z$ z/ g7 }
8 O, q1 n; Y4 @1 Y6 K! x6 Q
说到这个OpenBSD的漏洞,我必须展开讲一下,因为这个例子太有意思了。
5 @+ w+ m D" A/ I1 u% E
) J. v9 {( C3 `/ V, P6 n# o5 ~, [1 IOpenBSD是个什么存在?
: ~+ W6 j& K5 W7 i# K
; }# D' w! o8 w$ i- u6 j它是BSD操作系统的一个分支,最核心的设计哲学就是安全。代码审计之严格,在整个开源社区都是有名的。很多安全研究员的信仰级操作系统。
$ s* c" D7 y5 v+ T' C3 |7 {$ M( y6 r j8 t
这样的项目,代码审计了多少年了?二十多年。
3 [0 k* }* N6 o1 ^* I1 o Q* P0 D1 }' ~ U8 g( J- J d4 K6 U, {
然后,一个漏洞,在里面躺了27年。6 }4 \8 m, W" x9 P; R
3 ?5 K4 s& p. P4 Q4 C; G
这说明什么?
: c" N" I4 p6 y4 b% C
( j9 x" v7 v l" M. h不是OpenBSD的人不行,是传统的审计方式有盲区。任何人工审计,只要时间足够长、人足够累、代码足够复杂,就一定会有漏洞漏过去。这是人性的边界,不是能力的边界。
$ y4 c4 g5 F$ x5 Q% A( G
6 p6 G- T$ u. ~0 T$ F但AI不一样。AI不会累。AI不会因为审了三个月之后注意力下降。AI可以在几个小时之内,把整个代码库的所有调用路径、所有边界条件全部穷举一遍。6 S! m6 | u [
* d7 q+ u" P, c. G+ S5 S5 ZMythos Preview发现的那个OpenBSD漏洞,是一个本地权限提升漏洞。攻击者如果已经拿到了一点点访问权限,可以利用这个漏洞进一步提升到root权限。
2 F4 q* x1 b& T E& h6 R! W3 `4 r9 m9 O# c( q: D: H3 t
这种漏洞可怕在哪?: Z0 k9 i- h7 @4 Q- Z
/ x( `: V' s9 G: {$ c# G: x I
它不显眼。它不是那种"输入框里填个单引号就弹shell"的漏洞。它需要你对系统有相当深的理解,才能构造出触发条件。
% x- C# J; v# ^9 z
2 i% u* k; h5 r) g, M传统扫描工具扫不出来,是因为它的payload模式不在规则库里。AI不一样,AI学的是语义理解,它不是匹配特征,它是理解代码在"想什么"。
4 u, G6 y$ |' y. _/ z
% {: K. \2 ? HFFmpeg那个例子更让我震撼。, p# C/ ]. W% z* I. s2 d
/ V: P+ {7 H/ G& Q* a3 N3 J/ ]16年。
+ Y1 [9 w$ K% V( k7 r& X' h- a5 \: s( u
FFmpeg上一次发现这种级别的漏洞是什么时候?2009年。
# O. M3 i9 L* g0 _8 g
% ^& ^/ J! s( w9 ~16年都没有人发现。然后Mythos Preview扫了一下,找到了。
% [+ g: T, v6 |3 l( \, I3 B% @# K1 y- d
注意这个"扫了一下"的背景。SWE-bench测试集里,有大量是真实世界里的bug修复历史。FFmpeg这个bug在历史上真实存在过,是某次修复的时候被记录下来的。这意味着,Mythos Preview不仅能做代码审计,它能做的是:从海量代码里,识别出"这个写法有问题,即使目前还没有人报告过"。- ~6 k8 Z1 N2 T! t4 @; |5 c
* A* K; O: E0 @4 V0 W$ X这是主动防御,不是被动响应。( N/ v/ H; j4 f5 U& S
& V$ Y2 ~8 d' w/ r5 h/ y. W8 `# p: n传统安全的方式是:出了事 → 分析样本 → 提取特征 → 更新规则库 → 下次能识别。& x, [, W+ `, `% y9 z. u& c
a' Z4 D, _$ C# d9 ]# | g$ k
AI安全的方式是:不需要样本。直接读代码,告诉你这里有个洞。
# h0 z, y" E/ }. N! C) m" N. m; r. ~+ b/ [) _4 v Y
这两者之间的差距,大概就是"等贼来了再装防盗门"和"在盖楼的时候看着图纸就告诉你这堵墙扛不住地震"的差距。
, |# w9 E0 T% v! _2 l, {2 X. b/ H; k& b7 E9 H) S
现在说说大家最关心的问题:谁能用到,怎么用,花多少钱。! c& a1 v* c' @2 i' G9 B4 Q/ s
1 [' E7 Y- X+ d% }" ]Glasswing的AI能力,现在跑在三个平台上:Amazon Bedrock、Google Vertex AI、Microsoft Foundry。
6 E: g4 [# ~8 B5 ~8 W8 Y8 b) k+ ?5 o
这三个平台,恰好是AWS、Google Cloud、Azure。全球三大云服务商。
$ R: b, _: b: q7 ]" {) l
R; `2 j \" q' g" @你在任何一个上面,都能调用Mythos Preview的漏洞检测能力。
! r) e9 }* {" E5 c1 ?
7 c* c8 Z/ F: T* `价格呢?过了初始的credits之后,每百万token输入25美元,每百万token输出125美元。
/ g* F9 Q7 C% L7 O+ W2 j4 j4 z2 s
这个价格贵不贵?
* d! X- u- p$ h% ~0 [: @% d9 `2 I9 @: h5 o. M7 Y2 x# q+ U0 K
对比一下就知道了。现在市面上做代码安全扫描的工具,像Snyk、Veracode这一类,商业扫描工具的报价大概是每个开发者每个月几十到几百美元不等。而且它们扫的是规则匹配,不是语义理解。) i5 X U# ~! Y. w8 t" o5 r
- g3 w; T) o' x0 t+ ^3 bMythos Preview能发现那些工具发现不了的漏洞。- Z- ~( o P0 D. l- f- X3 P
+ }7 g( W3 |0 G' p: |* ~: B6 R这不是贵不贵的问题了,这是"有没有意识到你以前省的那些钱其实在交更多的学费"的问题。
+ S- B9 @) g' [! D9 K) Q3 g; h6 C+ i
0 A- B& B7 |- S t, H: h: p另外,Anthropic自己掏了1个亿美元的使用额度,分给联盟成员和开源社区。还额外捐了400万,250万给Alpha-Omega/OpenSSF,150万给Apache软件基金会。
& K) E1 c4 p) _
2 }! b2 }5 H& N# h; F+ O0 I这些钱是用来干什么的?让那些没有商业利益驱动的开源项目,也能用上最好的漏洞检测能力。7 E3 `! k3 A8 i5 O
5 E9 }) L, R( bFFmpeg就是开源的。OpenBSD也是开源的。这些项目没人给他们钱做安全审计,但他们的代码,运行在全球几十亿台设备上。) _4 [4 {) |# H) O
2 C3 Z& e$ R5 f* t( y还有一个细节,我觉得特别有意思。3 {" e& j( o$ T! \! W
4 ]2 G+ Z8 Z) r9 E4 F漏洞发现之后,公开披露的时间是90天。
4 C" I+ T$ G/ M0 {$ i
' u0 C* u1 V* v E$ ^90天是什么概念?) L: |3 I: c1 v
8 o( }7 |+ y |; m' R- g8 u行业标准的漏洞披露窗口是90天。这个时间足够让厂商评估漏洞、制定修复方案、推送更新,但又不至于让漏洞在黑市上流通太久。
) p! W* x3 }7 m7 m% T* g; e/ t. G Q6 w* Q+ A' E8 M
但这里有一个问题:90天是针对"有人发现了漏洞"这个前提来说的。; [+ ~+ j G) a) _! I% c
$ D9 H$ S+ G9 C/ Q. }Mythos Preview现在能以前所未有的速度挖出漏洞。它一天挖出来的漏洞,可能比以前整个安全社区一个月挖的还多。
! D1 Y6 S% Q8 y, D
- R5 ^& b! z0 [% ~8 S/ s这意味着,漏洞披露的节奏,整个就变了。* J* K6 i6 _1 m
" O1 M' V/ Z z4 x% S& {8 C4 i
以前是"挖到一个,披露一个"。现在是"AI在持续不断地挖,每90天披露一批"。
. Q. G1 U. Y" P# y; C9 x& }+ ?+ g; U" s! f' `8 S) h
厂商的补丁开发速度,能不能跟上AI的发现速度?- \( ?6 b& \4 a3 R. g
. s8 @& E- b! O9 O- @这个,我说实话,不知道。但我觉得,这是整个Glasswing项目最值得观察的地方之一。& M6 d5 @8 c' r- j% k) i3 q2 r
; M: B4 D ~/ p; [写到这儿,我突然想到了一个更大的问题。3 e; O1 ^2 U& K5 |% Y$ I( A! t
. ~' a4 g' w4 d' _; K
Glasswing这个名字,本身就是一只蝴蝶的名字。玻璃翼蝴蝶。它的翅膀是透明的,像玻璃一样。
8 A- j5 G& M1 A+ O6 O, d7 Z
$ `0 `8 k$ X2 @5 v9 _' ^- d透明,意味着隐藏的东西变可见了。: g9 k' E4 \# |7 c
' R: ?+ ]9 V1 T9 b( C! i一只蝴蝶的翅膀是透明的,它就隐藏不了任何东西了。它在哪里,飞向哪里,所有捕食者都看得清清楚楚。
, ]$ {$ f; x8 Z9 L- ]
7 N1 \+ s9 N( s这个意象,放在漏洞挖掘上,太精准了。4 O: X) b/ P9 K2 y* G% M2 J
: A, v$ }0 Y0 b2 r" j1 I0 D代码里那些隐藏了几十年都没人发现的漏洞,在AI的"眼睛"之下,突然就透明了。& `3 {: Q: M5 h' t
9 P8 K5 h! c/ p# s& U以前我们说"security through obscurity"——通过隐藏来保证安全。你的代码不公开,漏洞藏在暗处,攻击者找不到。$ G- Y. U+ u: i7 H5 E; w
9 J5 v) w3 w$ X5 T
但现在,只要代码存在,AI就能读。Mythos Preview不需要你的代码是开源的,它只需要能接触到代码——不管是源码、还是编译后的二进制、还是运行时的行为轨迹。1 Q: t# @& v( f+ S9 O3 I2 W
# p% T* `; O, y6 v
代码越来越难藏了。或者说,代码里的漏洞越来越难藏了。: S P' k' V$ G, F8 f# O/ x/ s: d4 ~
5 H4 W9 O2 ]( z8 m r6 t
这是一件好事吗?+ z/ W2 J4 |( Z
( y! \- u4 y! }/ A4 s9 @/ a$ U
我觉得,短期内,这是一件非常非常好的事。
* t9 v) m, j1 X3 {% @8 I# j% y) O7 P: c/ p7 J: f
全球互联网基础设施里,有多少代码是10年、20年、30年前写的?没人敢审计、没人敢动、出了问题就打补丁接着跑的,有多少?
$ \# ~7 T1 B: [# H- @0 J. N8 Q. }! f1 H ?' j
这些代码就像一颗颗定时炸弹,埋在整个数字世界的基础里。; G5 v0 Y$ l" g4 e: J
i* Q, u, x7 B& ]$ {6 w' H
AI能做的是,帮我们把这些炸弹找出来,一颗一颗地拆除。% ^5 X4 w5 _' O" f6 j
0 |- v( u! c) Z3 B! x, x* z l+ R
但长期呢?7 F9 {" M2 R/ {: n) V( o+ Z
, l; m5 O1 B3 G" U当所有可见的漏洞都被AI清除干净之后,剩下的,是什么样的世界?" T3 A4 y* x$ u
2 i4 h' ]8 S1 F4 U是代码质量极高、安全性极强的一个世界?还是所有攻击者也在用同样的AI,攻击的速度和防守的速度同步提升的一个世界?
" [/ n$ v) N' G, h% w% D
. J. \, g# j6 b4 ^4 ~1 f我也不知道。
! ]* K' \' q1 h* b. J3 Y+ s0 P+ p! E0 {4 P+ B+ x6 c
但有一件事我特别想强调。9 i4 Y3 a( _: _8 N2 v
. g. v, ~% x: O+ q! p) o这次Glasswing联盟里,有JPMorganChase,有CrowdStrike,有Palo Alto Networks。这些公司,是真正的安全重度用户。/ K5 q! l6 \5 n( k+ D" C
* v. X+ u' c& W4 O他们自己有能力挖漏洞吗?当然有。JPMorganChase的安全团队在全球排前列。CrowdStrike就是做安全的。2 } e3 L: b! }0 o, F
, f; {, Y6 K0 A% ~7 Y4 b他们为什么还要加入这个联盟,用别人的AI?
: Y, [/ g8 j" B7 B3 T: ~! f1 w- r5 ~. F1 y" V; a
我大胆猜测一下:因为挖漏洞这件事,规模太大了。. I7 ~7 U$ y# b j; B
- z: |! I0 ~9 \
全球代码量太大了。每一家公司,即使安全团队再强,也只能覆盖自己的代码库。但外面的供应链、开源组件、合作伙伴的代码,你根本管不到。5 c, F5 P8 E) E' X
' o7 O( u& @0 ?3 K& p& M6 y
Mythos Preview的价值,不在于它比你的安全团队强。而在于它能同时扫所有地方。6 t1 X8 F3 o! {& z/ y
[/ x& _) h3 n3 ~# X5 b; y
这是规模效应。4 ~( I5 D1 B, X4 X; ^, Z- R/ Y% E
; Y, G+ h' `$ N; S# f# M/ g
就像打补丁。手工打补丁,你只能打你知道的那些机器。自动化打补丁,你能打你所有的机器。AI扫漏洞,相当于在每一个代码提交的时候,就自动扫一遍。
6 Q- }5 _1 ^7 E
8 v' c5 _* D; o9 u9 L这个规模,是人类团队根本无法覆盖的。
* v; i6 s5 O# H d$ q, u. X2 \; A: H
5 |* \" k9 y9 A0 S0 a* ^Glasswing这个项目,还有可能往一个方向发展——成为一个独立的第三方机构。
: n* @0 Q% j% v% W/ m/ B- s" `7 x% w: ]" v3 Q
什么意思?
& h$ @ d2 u5 e2 Z) Q6 H
* k/ Q3 B$ E3 t3 m/ Q9 }+ ?现在它还是Anthropic牵头、11家公司参与的联盟。但未来,它可能变成一个真正独立于任何商业公司的安全机构。它的评估结果,有公信力;它的漏洞报告,有权威性;它给出的安全评级,整个行业认。
2 m, R1 a0 r- C; |- J/ O, b
?6 a' _; Z" ?" ^类似现在的ISO认证,但针对的是代码安全。0 F% A' h6 p& G& [# m4 I. U" Q
4 q/ {9 n- q6 N+ P4 }. a O
想想这个画面。未来的软件采购,合同里可能不只要写"符合SOC2",还要写"通过Glasswing认证,漏洞数为0"。& W3 K* ^( ~" o
2 R! ~; j! P# j8 k4 e4 K2 r4 Q
这不是不可能的。
- a2 G( q( O8 \4 Y$ T! r& e6 k2 I D" ]9 ~4 a9 y# z1 {; H/ G4 t) r
当然,路还很长。现在还只是第一步。但方向是对的。
& t. W% Q2 ]' |4 C% ?6 S. }. B; @/ u+ Y* P @
好了,写了这么多,让我最后说几句掏心窝的话。% S" f G6 y8 s- h# f6 {
: a( H" p+ P* B C. n6 S2 H" Y- _* w
我这次看到Glasswing的新闻,第一个反应是兴奋,第二个反应是有点怕。! X W- Y6 l3 C ^4 Z
1 j/ g3 A5 {9 } A; J( p- I6 |1 H兴奋是因为,我真的觉得,这是AI在安全领域做的最有价值的一件事。以前我们聊AI安全,大家想的都是"AI能不能被攻击"——对抗样本、数据投毒、模型劫持。这些很重要,但离普通开发者很远。
& F" R3 p% K! t: {* T8 ~6 W$ [' j2 r/ i+ v( h
这次不一样。这次是AI在帮我们发现自己的脆弱点。
5 P, G$ }6 p& _* e) A7 B; |6 f' T: p4 y0 f* g( Z: G: H
这种脆弱点,我们以前不知道,或者知道但没有能力发现。AI把它们挖出来,摆在阳光下,告诉你这里需要修。2 V" N4 M; ` F+ z
0 G9 P1 a3 N; G* i8 q3 v
这是AI在补人类的短板。不是在超越人类,是在帮助人类补上人类自己够不到的地方。
Q+ D# ?% {: G
7 r3 N3 d! E3 k6 e6 c. R6 ^我怕的是什么呢?
/ v4 b" L1 a D$ J% r3 Q
' j9 r! v' p) I9 Q3 V* x; Q我怕的是,这个工具,只有大公司用得起。
! }% c _# ]3 i8 b- H; o
% P U% u6 C' S1 n$ ]3 ^( cAWS、Google、Microsoft,Bedrock、Vertex AI、Foundry。这些平台,都是商业平台。Cloudflare这种中型公司,可能用起来没问题。但那些真正需要安全检测的——初创公司、开源项目、十几人的小团队——他们能用到吗?
* U1 L0 q" R+ M* M: a
: \$ C% ` q9 m+ t7 |# _# U# A$ i) DAnthropic捐的那1亿美元额度够用多久?分到全世界的开源项目上,每个项目能分到多少?7 B7 H# x5 U' n& g' f9 V( V. T
3 `' D, |2 E4 d: I: M0 K这些问题,现在还没有答案。' j! O* Z/ ]( ]5 c# w, r) x
$ f9 V7 }) X. m0 x0 V4 ?但有一点我特别想强调。
* P" H& |/ }( J+ ?7 M
/ t0 Y/ C! x' e8 w+ g+ B( vGlasswing这个项目,让安全这件事,第一次真正有了一种"基础设施"的可能性。
# H6 B9 O/ U( K! W- K3 u
% ~; n6 w( g F# Z以前的安全,是奢侈品。你要么雇得起安全团队,要么买得起企业级扫描工具,要么你就裸奔。7 S+ v& I) n9 {+ g# u1 E$ d
$ |# f- c+ Q* f/ l% ]0 G
AI改变了这个等式。Mythos Preview能发现那些企业级工具发现不了的漏洞,但它的调用成本,并没有比那些工具贵多少。
9 r/ d0 p" J" Z- C1 B9 J ]3 H, y5 i" U4 E) F+ H" O
当漏洞挖掘的成本持续下降,当AI扫描变成每一个代码仓库的标配,我们或许真的会迎来一个更安全的互联网。
3 R9 X$ A: I3 H( p
5 P$ c9 ~# c4 o# _3 r7 a这一天什么时候来?我不知道。可能5年,可能10年。
. ] _) }- G7 y$ F; g
$ b$ W1 j1 @# j7 y8 ~4 A/ W9 F但Glasswing,让我第一次觉得,这件事不是痴人说梦了。8 i& l6 Q* E1 a8 R9 k/ \$ e% T; |2 A
|
评分
-
查看全部评分
|