TA的每日心情 | 开心 2020-4-8 10:45 |
|---|
签到天数: 227 天 [LV.7]分神
|
玻璃之翼降临——Glasswing计划与Claude的Mythos Preview
* A2 q; c7 q* k( r6 I; g0 _: |3 E1 v2 F) G
+ ^6 U: F* _( ?' @1 S3 {1 E- \; g& g一个预览版的AI大模型刚刚挖出了一个尘封27年的漏洞,然后11家科技巨头都坐不住了……: q- F* l) S0 t: n
( R0 R4 F, _; K/ Z" |7 U Z& \' b故事是这样的。
; X7 Y$ Y8 [. ?/ y8 ]8 H" t( T* w0 Z. J
我今天看到这个新闻,看完之后愣了好几秒。: q& f9 p6 k! V; E# z
3 l. ]. U* |; j, A! y" j一家叫OpenBSD的公司——做操作系统的,算是安全领域的老前辈——他们有一个漏洞,在代码里躺了整整27年。1998年写进去的,没人发现。
5 U0 I* g" V U% x
" j2 s- d f4 L* u% D0 x5 y$ p结果被一个AI模型给挖出来了。
) r. h5 _* t4 F. u) g. R8 x0 Y8 Q6 {; W2 ~
这肯定不是那种"我们用AI扫了一下代码库发现了问题"的挖出来。而是那种"这个漏洞藏在最核心的地方,所有传统工具都扫过5百万次,一次都没报过警"的条件下挖出来。! q: s* E+ j3 a2 s$ t
S( X% b4 g3 o( m0 Z X
然后,这个AI模型,顺手还把FFmpeg里一个16年的漏洞也给挖了。, V: X' C9 }: t; |# m$ j) U
5 ^- U& q1 a( l" ~& P( @% C
FFmpeg,音视频处理领域最最最核心的基础设施。全世界的视频播放器、浏览器、直播平台,有几个不是建立在FFmpeg之上的?这个漏洞在里面藏了16年。5百万次自动化测试,没一次报过警。( L3 Z; S6 Y! [# S0 j' ?2 A
( d; v" X9 T; W% q5 I
然后呢?0 K$ y. @, K" Q! ~5 s7 ?8 G
8 J0 e" h: w0 `5 ?然后,11家全球最大的科技公司——Google、Microsoft、Apple、NVIDIA、CrowdStrike、JPMorganChase、Google等等——坐下来,说了一句话:我们一起出钱,让这个AI模型,能被全世界的安全研究员用上。
5 n% C' A1 w& B3 q3 _( `# p- i
9 r, M5 e% X3 G/ `3 s这个项目,叫Glasswing。
& [! M0 D1 o; f/ M
* e, s9 }, u1 kglasswing5 D' _6 g! R, ]5 ]$ _
) K& N, ^) _1 v7 V/ w2 f9 k/ W. W; `. Z1 J: x# F
先说清楚Glasswing是什么。
6 F; i- ]7 U- b) ]* t& W; J% N, P2 H5 M8 C; u& j p' [
简单说,它是一个AI安全联盟。发起方是Anthropic,加入方是一堆哪怕是不关注技术领域也叫得出名字的科技巨头。它的核心,是一个叫Claude Mythos Preview的模型——注意是Preview(预览版),就是还没正式发布的那个版本——专门训练来挖漏洞的。6 D. @" m1 Z* h, q+ [9 I' O+ c& V
" _! l# e; k3 c1 u8 l- v4 U: |有多强呢?
, d1 L; c- I: k% c1 f
2 N6 }9 q3 @0 b* _) pCyberGym基准测试,83.1%。作为对比,Claude Opus 4.6,得分是66.6%。不是Claude Opus 4.5,是Claude Opus 4.6,Anthropic目前最强模型。8 @/ {; K$ d( m1 o9 C' R
7 I" {( Z. d7 q1 Y$ m% w9 l" MSWE-bench Verified,93.9%。还是SWE-bench Verified,不是那个容易一点的版本。Claude Opus 4.6是80.8%。
6 D% L- R2 b4 B! t" K/ w% h7 P$ o$ u; J. e
' j" i9 c% ~$ o Y差了13个百分点。4 @; T) s* k. L1 w5 D
5 w6 M* W+ ?) K, {你说这13个百分点意味着什么?& u" R3 {+ h$ X+ L+ V3 i
6 ]1 R, X' J; q/ ^8 F S9 i$ p
意味着,传统扫描工具漏掉的那些最刁钻的漏洞——那些藏在层层调用关系里、藏在异常分支里、藏在并发边界条件里的漏洞——Mythos Preview能找到。
3 P; Y/ L. p0 z, ?2 `: b& }9 f6 |) s9 s
意味着,27年的OpenBSD,16年的FFmpeg,以后可能不会再有了。/ F2 q9 u3 V% W8 {4 p
: n! Q* z' f/ k, K或者说,这种级别的漏洞发现速度,会比以前快几个数量级。4 q3 s, s$ G5 m# Z
9 y% I9 x9 W/ v$ A- o# k$ L6 B说到这个OpenBSD的漏洞,我必须展开讲一下,因为这个例子太有意思了。
* c8 \# d& }3 ~% h7 H1 J" ]- N1 ^, t& v2 v7 x
OpenBSD是个什么存在?
" Y4 F) H( Z; ~1 M0 x! \; V9 ~' U7 N% P/ Y
它是BSD操作系统的一个分支,最核心的设计哲学就是安全。代码审计之严格,在整个开源社区都是有名的。很多安全研究员的信仰级操作系统。) v- V! b5 e; _1 a% A
5 _$ q8 M Q! y) I" k# L$ |+ F" k
这样的项目,代码审计了多少年了?二十多年。
( \0 z- v- O- o3 x3 k' \& E/ n4 v
* p3 {1 `% [0 ?然后,一个漏洞,在里面躺了27年。; S( u; m, j" q
+ v+ I( i3 {3 J- Q: {- v
这说明什么?0 N2 u% e) p. r% S
9 r6 ~+ k6 m- N! W& E+ R不是OpenBSD的人不行,是传统的审计方式有盲区。任何人工审计,只要时间足够长、人足够累、代码足够复杂,就一定会有漏洞漏过去。这是人性的边界,不是能力的边界。1 [& u8 ?, `( [. C# W" ~
7 u$ C8 ~% O4 h# {
但AI不一样。AI不会累。AI不会因为审了三个月之后注意力下降。AI可以在几个小时之内,把整个代码库的所有调用路径、所有边界条件全部穷举一遍。
1 r/ k3 z: A7 [' W) b9 d
1 ~! r5 `1 T8 [! cMythos Preview发现的那个OpenBSD漏洞,是一个本地权限提升漏洞。攻击者如果已经拿到了一点点访问权限,可以利用这个漏洞进一步提升到root权限。
2 h3 Q( q6 Z3 D& k; P; J: }, G
, J n( E0 i' Y; h- K) s这种漏洞可怕在哪?
2 N( g. i; A$ [' Q& L/ ~
5 ` C& R. S7 ` c它不显眼。它不是那种"输入框里填个单引号就弹shell"的漏洞。它需要你对系统有相当深的理解,才能构造出触发条件。8 B% C$ W: H! d! O s' O8 F8 n0 s
' w1 I& a2 d6 q! Q, ]* I6 a" Q2 x$ D传统扫描工具扫不出来,是因为它的payload模式不在规则库里。AI不一样,AI学的是语义理解,它不是匹配特征,它是理解代码在"想什么"。
3 P3 d( a6 K( s* w; Y9 v# h; h
" w2 s! k( h7 \7 F, ^; YFFmpeg那个例子更让我震撼。
: P" f l3 [' ?" v) C6 \3 U9 L* g7 k( z2 ^& K" E- }
16年。, c3 @ e3 s# N, |
* _# f5 A! B/ Y' Q8 L* E, F" p
FFmpeg上一次发现这种级别的漏洞是什么时候?2009年。
, j# }& X0 p y! v0 O9 S7 n: ~' ?) n( x L p* x
16年都没有人发现。然后Mythos Preview扫了一下,找到了。3 p8 _. R0 N$ ~7 ?2 d
- ]0 A$ _* ^; v) b2 j( u; v
注意这个"扫了一下"的背景。SWE-bench测试集里,有大量是真实世界里的bug修复历史。FFmpeg这个bug在历史上真实存在过,是某次修复的时候被记录下来的。这意味着,Mythos Preview不仅能做代码审计,它能做的是:从海量代码里,识别出"这个写法有问题,即使目前还没有人报告过"。% V5 U0 \' D, X( R9 V( V. P5 u; ?
; k6 K& Y# N5 U5 l4 z
这是主动防御,不是被动响应。' q0 {& N3 R2 J
0 r4 [! K# L5 X7 V* u6 p, ]
传统安全的方式是:出了事 → 分析样本 → 提取特征 → 更新规则库 → 下次能识别。: w+ I# S( c" ]# o
+ Y! I5 s7 b/ d$ a/ ?
AI安全的方式是:不需要样本。直接读代码,告诉你这里有个洞。, E; l; K# D' t
) g. c# g3 I6 O- \7 U这两者之间的差距,大概就是"等贼来了再装防盗门"和"在盖楼的时候看着图纸就告诉你这堵墙扛不住地震"的差距。: o/ e" X4 X8 G; F
8 {5 u e' ~6 ^
现在说说大家最关心的问题:谁能用到,怎么用,花多少钱。, S6 n8 [5 c* l* C, y8 M/ y* a$ h2 U
* D7 C1 {+ N& f c
Glasswing的AI能力,现在跑在三个平台上:Amazon Bedrock、Google Vertex AI、Microsoft Foundry。
- i5 S a; M4 T9 ]* B. R# z, L) c
这三个平台,恰好是AWS、Google Cloud、Azure。全球三大云服务商。9 k* S% B! A$ L* v/ K. j0 C
, f) u0 ^% L R+ M7 Y" _
你在任何一个上面,都能调用Mythos Preview的漏洞检测能力。* f0 Q/ \& B$ q* s
8 J* b8 G0 J6 _6 D: [
价格呢?过了初始的credits之后,每百万token输入25美元,每百万token输出125美元。+ ^$ M. S) g0 B$ P! a$ |) ^5 l4 V
' ~0 R) v; l2 u$ C
这个价格贵不贵?
5 I. v) s3 ?" Q& q9 H
1 Z5 K* B5 Y5 Q* C对比一下就知道了。现在市面上做代码安全扫描的工具,像Snyk、Veracode这一类,商业扫描工具的报价大概是每个开发者每个月几十到几百美元不等。而且它们扫的是规则匹配,不是语义理解。
5 r6 _" M; j2 ]4 C$ z0 p- r# ^
* [* X* I# g k) l, mMythos Preview能发现那些工具发现不了的漏洞。
. [7 v% f5 t' M! }, }; y) D- t& o% o+ [' f- O/ C
这不是贵不贵的问题了,这是"有没有意识到你以前省的那些钱其实在交更多的学费"的问题。
7 @6 q: K& ?1 V' X' I. H
/ J5 n( D6 z+ s) V) B9 p7 O( I另外,Anthropic自己掏了1个亿美元的使用额度,分给联盟成员和开源社区。还额外捐了400万,250万给Alpha-Omega/OpenSSF,150万给Apache软件基金会。: Q9 X7 E6 ]4 n5 s, ~5 n, A
% o4 Y; @) k* G+ d
这些钱是用来干什么的?让那些没有商业利益驱动的开源项目,也能用上最好的漏洞检测能力。
Y/ T: g s' K/ a1 ~, Y6 ?; Z, J( Y7 B' j1 P/ d8 L
FFmpeg就是开源的。OpenBSD也是开源的。这些项目没人给他们钱做安全审计,但他们的代码,运行在全球几十亿台设备上。8 ?3 _9 C$ P! g( {+ E1 g
8 B5 @$ s, M( |& M* y. ~
还有一个细节,我觉得特别有意思。: N [3 [" _: F4 o
2 p5 L- E1 l$ L" @7 `! e漏洞发现之后,公开披露的时间是90天。0 B/ V7 v9 ?/ t8 L) |
4 V. I- V! i6 e6 b+ c6 T2 j90天是什么概念?
) p8 Z1 _" j- ?- k/ b( C& v
! u1 @& W/ f7 [; x7 p; F行业标准的漏洞披露窗口是90天。这个时间足够让厂商评估漏洞、制定修复方案、推送更新,但又不至于让漏洞在黑市上流通太久。
0 y! w9 Q4 N0 u5 f
* C; E. f6 x! f: r& b但这里有一个问题:90天是针对"有人发现了漏洞"这个前提来说的。
7 Z+ y! I% h; }5 J
9 k5 D; l) o U- _Mythos Preview现在能以前所未有的速度挖出漏洞。它一天挖出来的漏洞,可能比以前整个安全社区一个月挖的还多。
8 m' ~0 Z: u+ l _2 ?3 E u
4 ~! {. S/ ~& _7 q% s" B0 `* [这意味着,漏洞披露的节奏,整个就变了。
" q% b: ]* g6 W( n" U
8 t0 r3 W8 g0 ]+ L8 m1 m以前是"挖到一个,披露一个"。现在是"AI在持续不断地挖,每90天披露一批"。
# Q8 {) G1 B# R- v+ r G u
]' R. ?) Z" |( x) C+ U厂商的补丁开发速度,能不能跟上AI的发现速度?
1 C/ c7 r% I2 V) g: [- L
% D5 M, N1 S Z& R这个,我说实话,不知道。但我觉得,这是整个Glasswing项目最值得观察的地方之一。# c& o$ \& m w: X# m' H4 _
2 B# V Z: s! c# \/ b) T- i) E3 L写到这儿,我突然想到了一个更大的问题。
. P9 e1 D/ ^ A
4 V: l) \ l; FGlasswing这个名字,本身就是一只蝴蝶的名字。玻璃翼蝴蝶。它的翅膀是透明的,像玻璃一样。
% L% ~" l8 P: y( @
* i5 M# _' g& ~: R' ^2 {; O$ h( ?透明,意味着隐藏的东西变可见了。
, o7 Q0 N) ~! W
* L4 h" C8 H9 _4 E R6 p5 N+ t一只蝴蝶的翅膀是透明的,它就隐藏不了任何东西了。它在哪里,飞向哪里,所有捕食者都看得清清楚楚。) ~! x* O* h* i4 M' Q4 s/ H
+ h6 a% h- q% ^0 z1 s9 u
这个意象,放在漏洞挖掘上,太精准了。: j3 N: Q+ f, r \) q, v; @5 c
8 R Y/ z1 n- w. d4 g6 g
代码里那些隐藏了几十年都没人发现的漏洞,在AI的"眼睛"之下,突然就透明了。5 E) l) ~, h2 W: @. h9 e- L5 L0 U
S' y: U. S! g9 G e: U
以前我们说"security through obscurity"——通过隐藏来保证安全。你的代码不公开,漏洞藏在暗处,攻击者找不到。
$ D# o" c/ J6 Q) G4 ^6 n' O1 u* Y/ W( j9 ?8 T6 l
但现在,只要代码存在,AI就能读。Mythos Preview不需要你的代码是开源的,它只需要能接触到代码——不管是源码、还是编译后的二进制、还是运行时的行为轨迹。, R$ q, B7 s3 y, H
5 h" }( N. _# [1 E" `" }2 }, p代码越来越难藏了。或者说,代码里的漏洞越来越难藏了。' W5 l/ Q# k! Y. t
1 f9 V$ n: n' v j; t$ A7 P
这是一件好事吗?
! b3 a5 c& \1 A. x+ X9 h% B2 Q: r, r% Z5 ^. J
我觉得,短期内,这是一件非常非常好的事。' \: O7 i, ^# [3 n# `0 \
- \9 l4 ?* t# X! ~& u
全球互联网基础设施里,有多少代码是10年、20年、30年前写的?没人敢审计、没人敢动、出了问题就打补丁接着跑的,有多少? H& A7 M+ p8 O1 a
2 {% ^, g; w; ]; u; Z* i
这些代码就像一颗颗定时炸弹,埋在整个数字世界的基础里。 x5 @) x$ T U6 m) x2 _
. u: ^1 u3 i9 j4 Y
AI能做的是,帮我们把这些炸弹找出来,一颗一颗地拆除。; j `, ]. \: G7 V0 l
' G1 A7 d. d, }+ j但长期呢?5 \! j- j3 `. J& x- o% D
4 x( \9 S2 V3 r" Q
当所有可见的漏洞都被AI清除干净之后,剩下的,是什么样的世界?% E f9 B8 `+ e6 |* v- d+ y1 r
" h1 e3 D( O# u7 K5 o
是代码质量极高、安全性极强的一个世界?还是所有攻击者也在用同样的AI,攻击的速度和防守的速度同步提升的一个世界?
& m& p$ z6 r: ~6 G8 m, ^ G
0 W# C/ t3 f; f b我也不知道。
- L; Q+ V& r% [0 O0 O" Z; ^. D- S0 X" B
但有一件事我特别想强调。
0 \$ ~) w' D1 r% S/ e6 X. _! a+ w* o% K
这次Glasswing联盟里,有JPMorganChase,有CrowdStrike,有Palo Alto Networks。这些公司,是真正的安全重度用户。1 M4 X& h( n' G6 E- k* j
" A5 ~% ^( ~3 C& q! F M% r) W4 }他们自己有能力挖漏洞吗?当然有。JPMorganChase的安全团队在全球排前列。CrowdStrike就是做安全的。! j" o& F' k, a" T1 q3 e/ |
' B8 n3 G5 \2 W! }$ P他们为什么还要加入这个联盟,用别人的AI?
% B0 o. ^' P% n, ?" M# z) m& r5 s
我大胆猜测一下:因为挖漏洞这件事,规模太大了。2 d' H- d6 A$ H w8 N+ d
) ~9 n6 b2 ~ J R8 ]2 V全球代码量太大了。每一家公司,即使安全团队再强,也只能覆盖自己的代码库。但外面的供应链、开源组件、合作伙伴的代码,你根本管不到。) [% V- a R4 W% }2 S d* W; T3 u5 {
2 ^ X" l. U6 N1 ~% NMythos Preview的价值,不在于它比你的安全团队强。而在于它能同时扫所有地方。$ |% |6 B( ]& U+ \0 y+ V
- f+ q. q: n" }$ ~
这是规模效应。! c( K: W( r# b. Y& S! V$ a! Y
5 u7 X: ]/ Y' I9 e3 I3 \- [
就像打补丁。手工打补丁,你只能打你知道的那些机器。自动化打补丁,你能打你所有的机器。AI扫漏洞,相当于在每一个代码提交的时候,就自动扫一遍。: l' n; v2 ?) W
- H. |- k7 X. j
这个规模,是人类团队根本无法覆盖的。
4 f j- d# f1 v+ J' p; q. U
1 b) z1 H3 Q2 GGlasswing这个项目,还有可能往一个方向发展——成为一个独立的第三方机构。; I! n+ Q2 K9 K6 K- f0 m, a
. Z9 K9 q. v6 L8 f4 I9 J
什么意思?' X A. P2 v5 e: F7 m- h7 x
3 a0 C" Q6 W1 C- d0 A4 U现在它还是Anthropic牵头、11家公司参与的联盟。但未来,它可能变成一个真正独立于任何商业公司的安全机构。它的评估结果,有公信力;它的漏洞报告,有权威性;它给出的安全评级,整个行业认。8 y5 U* e; h! r' P4 e
. v0 @" W4 a: O: `类似现在的ISO认证,但针对的是代码安全。
^4 v, l: \6 D/ |& K5 r$ }2 y8 W3 p
. Y% k% x7 S0 t7 U6 |: S; V, u& E想想这个画面。未来的软件采购,合同里可能不只要写"符合SOC2",还要写"通过Glasswing认证,漏洞数为0"。 |4 x! G+ j5 I! Q4 r
% J. c8 v5 s g
这不是不可能的。6 i% D N. }- @4 J' Z
+ J/ C% J8 y# O/ {8 W. @& k& G
当然,路还很长。现在还只是第一步。但方向是对的。
+ s3 i. r) d+ _ _! ?- J, @
( J: X, n7 e7 X好了,写了这么多,让我最后说几句掏心窝的话。
# c/ Y* z! T0 I! N5 h- B+ i/ i2 _& P9 C2 k" {: p+ S, W
我这次看到Glasswing的新闻,第一个反应是兴奋,第二个反应是有点怕。
4 P4 E1 Y" x% ]' o" s+ R
4 ^% h1 `7 M+ Q8 J兴奋是因为,我真的觉得,这是AI在安全领域做的最有价值的一件事。以前我们聊AI安全,大家想的都是"AI能不能被攻击"——对抗样本、数据投毒、模型劫持。这些很重要,但离普通开发者很远。+ i2 R M4 c9 w: ~0 n2 k
) U$ b( R1 |! c/ ~0 M, J这次不一样。这次是AI在帮我们发现自己的脆弱点。
( n. w5 [1 G. Y3 `
6 D) t2 L, Y& W这种脆弱点,我们以前不知道,或者知道但没有能力发现。AI把它们挖出来,摆在阳光下,告诉你这里需要修。' h4 ~/ H, s9 z
+ W. B2 w; G- b4 g
这是AI在补人类的短板。不是在超越人类,是在帮助人类补上人类自己够不到的地方。8 |+ U( S+ ?( ?7 Y
- f: |1 t+ M" A, J, p1 ~" E* L9 }我怕的是什么呢?
9 @: c- Z) }* x0 C4 |4 N) B& ^- [0 l, K8 s' @0 }
我怕的是,这个工具,只有大公司用得起。
: ? J& C u, \( e5 B5 D: G' T" x5 C5 Y
AWS、Google、Microsoft,Bedrock、Vertex AI、Foundry。这些平台,都是商业平台。Cloudflare这种中型公司,可能用起来没问题。但那些真正需要安全检测的——初创公司、开源项目、十几人的小团队——他们能用到吗?
7 V. e* V2 P( A3 S. y, Z2 w# f- H0 t5 _, D. w$ X( p) m
Anthropic捐的那1亿美元额度够用多久?分到全世界的开源项目上,每个项目能分到多少?
1 |! ~! P) \0 }3 V7 r7 o5 U) g
& G& s9 x+ ]6 z7 @" a; L* Y3 a这些问题,现在还没有答案。5 a# N- u3 U' T9 E0 R
: e6 t- N5 o" {9 Z0 g
但有一点我特别想强调。- ~$ `* [0 {/ t; O8 a# j& r% @
/ |1 R1 g' f" c, `& t; CGlasswing这个项目,让安全这件事,第一次真正有了一种"基础设施"的可能性。
0 j6 I8 L) r, E& ~# g* g
, q/ c. d4 H( \0 p8 k" X0 Q; A以前的安全,是奢侈品。你要么雇得起安全团队,要么买得起企业级扫描工具,要么你就裸奔。
( E C8 |) y4 s, _; h2 Z2 A& V2 j. J7 F; }
AI改变了这个等式。Mythos Preview能发现那些企业级工具发现不了的漏洞,但它的调用成本,并没有比那些工具贵多少。
- y5 U9 X" g% p' P% G5 F8 w& H' U, T3 G* b' E' Y
当漏洞挖掘的成本持续下降,当AI扫描变成每一个代码仓库的标配,我们或许真的会迎来一个更安全的互联网。+ k# E; S+ p5 j1 A3 L
2 i3 z3 c6 S5 f0 _这一天什么时候来?我不知道。可能5年,可能10年。
9 c2 x: t) U( m* x' E& n: n9 x3 k- X( @3 S% |" j
但Glasswing,让我第一次觉得,这件事不是痴人说梦了。
: s& S7 c# \4 ~, v, U4 V% e |
评分
-
查看全部评分
|