TA的每日心情 | 开心 2020-4-8 10:45 |
|---|
签到天数: 227 天 [LV.7]分神
|
玻璃之翼降临——Glasswing计划与Claude的Mythos Preview
* l' L, X& [- W4 I4 P" N3 q# F! d9 M7 j- C/ R& k. U
$ i" C% f. ?3 ]9 r. i一个预览版的AI大模型刚刚挖出了一个尘封27年的漏洞,然后11家科技巨头都坐不住了……
! x# [: j/ h2 E
: K: c5 |: q V$ P( {故事是这样的。+ A7 i, r4 f: I* g2 G
& M+ S: s$ I- `' m& g6 F我今天看到这个新闻,看完之后愣了好几秒。: R/ H5 u+ j% k ?
0 Z6 Z6 v, J. L; j, r/ N& Z
一家叫OpenBSD的公司——做操作系统的,算是安全领域的老前辈——他们有一个漏洞,在代码里躺了整整27年。1998年写进去的,没人发现。6 g& J4 W; e0 ^# u
V; i p% I' [( W! p0 @- B
结果被一个AI模型给挖出来了。
2 D5 Z" F @% |/ q8 H g% G, I2 e! T4 z
这肯定不是那种"我们用AI扫了一下代码库发现了问题"的挖出来。而是那种"这个漏洞藏在最核心的地方,所有传统工具都扫过5百万次,一次都没报过警"的条件下挖出来。& c# M' `9 \- N
* a6 W- p$ E+ F/ j& y# o
然后,这个AI模型,顺手还把FFmpeg里一个16年的漏洞也给挖了。; u" `# \ P! W: K& k- g4 \
2 p: r( R/ Y- |' Q
FFmpeg,音视频处理领域最最最核心的基础设施。全世界的视频播放器、浏览器、直播平台,有几个不是建立在FFmpeg之上的?这个漏洞在里面藏了16年。5百万次自动化测试,没一次报过警。
# S. k+ B. c# s/ A1 o" T2 T8 T1 o; O. y% |. r1 V5 B; O
然后呢?
) W) y- n. ?) P% O" |8 b& @& ~3 @# c3 B. a M# Z9 |
然后,11家全球最大的科技公司——Google、Microsoft、Apple、NVIDIA、CrowdStrike、JPMorganChase、Google等等——坐下来,说了一句话:我们一起出钱,让这个AI模型,能被全世界的安全研究员用上。
- ~9 ?1 d5 h# l/ f$ _; i& k. a$ u+ Z8 j, n
这个项目,叫Glasswing。( Z9 Z# m4 Z9 j" |% b+ O
$ e2 _$ `! J" d$ `- q. d! J
glasswing
* `) z9 G0 u8 S4 {& E$ J0 d
' i8 Q# ]& Y% @# s7 m! U
2 Q/ j, G7 w5 V m$ V9 j# L8 f! S先说清楚Glasswing是什么。( B( l' W" B1 F& Z
7 |. ?# M) y, V% v o( `1 O" x简单说,它是一个AI安全联盟。发起方是Anthropic,加入方是一堆哪怕是不关注技术领域也叫得出名字的科技巨头。它的核心,是一个叫Claude Mythos Preview的模型——注意是Preview(预览版),就是还没正式发布的那个版本——专门训练来挖漏洞的。" O6 f; n4 y: }! U: x' X
. b( W- K4 G7 u/ y; s, v
有多强呢?
- T. ?% l# l: b' Y( j5 Q( U8 h7 |) Z% _
CyberGym基准测试,83.1%。作为对比,Claude Opus 4.6,得分是66.6%。不是Claude Opus 4.5,是Claude Opus 4.6,Anthropic目前最强模型。
' \0 t4 M$ y) k: d- m$ K: k# |# ?. Y- h
SWE-bench Verified,93.9%。还是SWE-bench Verified,不是那个容易一点的版本。Claude Opus 4.6是80.8%。
# I& [' M2 q$ [; v/ m1 N
3 p. ^ I4 H5 n) D) y差了13个百分点。
( u4 D& m. f/ w. s6 b- f" r6 {! |" I/ {+ K: w7 o% U
你说这13个百分点意味着什么?
) H, J( b# B |$ H$ O, g9 K4 \6 Z x T n
意味着,传统扫描工具漏掉的那些最刁钻的漏洞——那些藏在层层调用关系里、藏在异常分支里、藏在并发边界条件里的漏洞——Mythos Preview能找到。
0 T" j9 a6 Y, o# f- I' R- T2 H+ _% L" T6 p2 w) W8 g& J
意味着,27年的OpenBSD,16年的FFmpeg,以后可能不会再有了。
( V6 Y4 {4 Q1 @& n/ ]0 K
# R* ]& g$ d* {& p8 D3 C# p或者说,这种级别的漏洞发现速度,会比以前快几个数量级。
' P8 O2 m8 [* J. _5 v, W( J& z" ~
& _0 B% o. a3 ]2 N' H$ P4 m说到这个OpenBSD的漏洞,我必须展开讲一下,因为这个例子太有意思了。% V% m/ e* r0 _, S
) {* [: s% Y- R3 A* c6 IOpenBSD是个什么存在?
\9 C7 C9 m5 R" c' H: y
* T4 U, c* `1 j5 j8 m ?它是BSD操作系统的一个分支,最核心的设计哲学就是安全。代码审计之严格,在整个开源社区都是有名的。很多安全研究员的信仰级操作系统。) y0 t+ X6 J; g6 U
" e$ t6 k1 e) I$ d9 u1 v
这样的项目,代码审计了多少年了?二十多年。
" t- r& Y- d" b* v6 N; \
& {3 ?( u" w; d! t" F+ s然后,一个漏洞,在里面躺了27年。
" N9 U1 [2 P& _5 ]5 r: z0 ]3 ^$ O1 [, C' ]! g; p- v
这说明什么?) k' ?2 C3 W: u. C) O0 F
" i& S- r1 y1 K0 f7 i( o( W; t
不是OpenBSD的人不行,是传统的审计方式有盲区。任何人工审计,只要时间足够长、人足够累、代码足够复杂,就一定会有漏洞漏过去。这是人性的边界,不是能力的边界。( B, o" v1 m4 K( M0 o
7 f S& n7 q9 m: N" ^; H4 {8 j
但AI不一样。AI不会累。AI不会因为审了三个月之后注意力下降。AI可以在几个小时之内,把整个代码库的所有调用路径、所有边界条件全部穷举一遍。! H! i7 i3 ~( S2 {. d9 F6 h2 @2 Q
4 Z, l! D# }0 n/ B7 t4 n$ z
Mythos Preview发现的那个OpenBSD漏洞,是一个本地权限提升漏洞。攻击者如果已经拿到了一点点访问权限,可以利用这个漏洞进一步提升到root权限。
% i+ i& H) Y3 M% T* e" j+ r
0 }% G4 U5 z. M# R这种漏洞可怕在哪?
- D# x! f8 k6 n0 q4 [) b0 V2 S: E- |& D3 M- c5 \1 N5 D/ u
它不显眼。它不是那种"输入框里填个单引号就弹shell"的漏洞。它需要你对系统有相当深的理解,才能构造出触发条件。* ~6 k% h n& ]9 ^1 D4 Z* o& @
S- E. l8 G1 p8 E# Z8 R1 U# U0 m传统扫描工具扫不出来,是因为它的payload模式不在规则库里。AI不一样,AI学的是语义理解,它不是匹配特征,它是理解代码在"想什么"。
# Y9 s X: k* I- v ?
. O$ T0 u5 y0 L9 S$ `FFmpeg那个例子更让我震撼。
, Z- t2 u8 S+ x9 ?( g
. }. h$ v7 o: m& N16年。
Z) s# u( Y: v5 t* C! O0 R$ \3 z# N9 t5 X
FFmpeg上一次发现这种级别的漏洞是什么时候?2009年。
: V6 N8 S2 ^6 q4 \% s
/ y6 }3 ^; u3 V6 S% D# S$ F! L16年都没有人发现。然后Mythos Preview扫了一下,找到了。
/ o( A1 J( G; V8 L7 U# A6 j2 z, B1 v4 _. B; ] F/ f9 O
注意这个"扫了一下"的背景。SWE-bench测试集里,有大量是真实世界里的bug修复历史。FFmpeg这个bug在历史上真实存在过,是某次修复的时候被记录下来的。这意味着,Mythos Preview不仅能做代码审计,它能做的是:从海量代码里,识别出"这个写法有问题,即使目前还没有人报告过"。
& x1 T! E/ l& G6 y5 C
+ D$ F0 s- z* k7 b5 h9 E这是主动防御,不是被动响应。
S; ]( Y5 v ]; ?) W' s4 v0 q$ }& k0 ^
传统安全的方式是:出了事 → 分析样本 → 提取特征 → 更新规则库 → 下次能识别。9 J4 z" J, {6 U# Q
' D8 o) g8 @, F a: NAI安全的方式是:不需要样本。直接读代码,告诉你这里有个洞。- w1 s9 T- V8 U+ V% N2 D
( j" P) l8 J" N5 {! \3 d这两者之间的差距,大概就是"等贼来了再装防盗门"和"在盖楼的时候看着图纸就告诉你这堵墙扛不住地震"的差距。
' x6 ~5 \8 [5 i/ }' i
( u; v* v& b) t$ U5 b/ [+ m2 `现在说说大家最关心的问题:谁能用到,怎么用,花多少钱。& T* y' [( a3 j( k$ B
) X6 D' c6 w" c) p6 W! h% GGlasswing的AI能力,现在跑在三个平台上:Amazon Bedrock、Google Vertex AI、Microsoft Foundry。7 K, \8 T8 `% s/ ~
' }" c J; D, A V5 w( I这三个平台,恰好是AWS、Google Cloud、Azure。全球三大云服务商。! z" G0 J- h9 d$ m4 f& w
" b2 i9 y2 [; v7 v8 b! F: H( V3 p6 g5 c' f
你在任何一个上面,都能调用Mythos Preview的漏洞检测能力。
2 W( q( W7 L! ^0 D
' G7 r. |+ S R |) T* {( ?价格呢?过了初始的credits之后,每百万token输入25美元,每百万token输出125美元。* J2 X, P; u0 Q$ o: }6 F/ t! G
1 \* b: \* _6 \) E v( E, B" T
这个价格贵不贵?9 a- d6 v' g2 Y0 a7 d& X9 Z6 U
6 o& E s" Y' J' n z# m c
对比一下就知道了。现在市面上做代码安全扫描的工具,像Snyk、Veracode这一类,商业扫描工具的报价大概是每个开发者每个月几十到几百美元不等。而且它们扫的是规则匹配,不是语义理解。
0 A6 m) B- l7 e. ~! Y l! @: M3 O4 m3 t" N- h% W
Mythos Preview能发现那些工具发现不了的漏洞。
/ S5 v2 J: C+ j ]; u9 ?! @$ S2 C$ ]) E/ \
这不是贵不贵的问题了,这是"有没有意识到你以前省的那些钱其实在交更多的学费"的问题。& M8 c1 J/ W; Z9 _4 X
) J- u/ Z; z, W; j5 E% n4 e( o4 c
另外,Anthropic自己掏了1个亿美元的使用额度,分给联盟成员和开源社区。还额外捐了400万,250万给Alpha-Omega/OpenSSF,150万给Apache软件基金会。
, z _2 }: [% K6 a, u
. D6 J z, D+ o1 j- P) S, `! _这些钱是用来干什么的?让那些没有商业利益驱动的开源项目,也能用上最好的漏洞检测能力。2 J* M! U+ g. \) Q- W8 x
2 n! b1 b9 k9 h4 Q6 A
FFmpeg就是开源的。OpenBSD也是开源的。这些项目没人给他们钱做安全审计,但他们的代码,运行在全球几十亿台设备上。+ m0 s6 n7 K' ]1 p5 ~
' v5 u6 c |% G7 F7 b: U还有一个细节,我觉得特别有意思。
# \( p) S9 G8 U* S1 c- B' E& _) S- w1 @' i( |3 [$ c4 ^
漏洞发现之后,公开披露的时间是90天。0 p8 [0 z" k; ?0 U
$ b) l8 h! p. N
90天是什么概念?
9 E. v+ S' n, a
5 {5 p5 A. u' d' z8 N7 b% M行业标准的漏洞披露窗口是90天。这个时间足够让厂商评估漏洞、制定修复方案、推送更新,但又不至于让漏洞在黑市上流通太久。. r+ X9 I5 i/ a9 k, l
8 P' ~6 c. V n5 m6 _9 n
但这里有一个问题:90天是针对"有人发现了漏洞"这个前提来说的。8 x/ Y5 u+ g1 q6 z0 s" f
- g5 h% J; B9 K+ J) Z* gMythos Preview现在能以前所未有的速度挖出漏洞。它一天挖出来的漏洞,可能比以前整个安全社区一个月挖的还多。
5 s& E6 g- z9 V/ L( a J$ y5 D6 }+ ]" `+ u( g4 s
这意味着,漏洞披露的节奏,整个就变了。% \1 g% v, O; k' |: `) Z! F: o
! W# k: l9 ^! R3 d以前是"挖到一个,披露一个"。现在是"AI在持续不断地挖,每90天披露一批"。* G9 R- o' z4 Z, @0 `. f
" {* F, ]3 [* H厂商的补丁开发速度,能不能跟上AI的发现速度?: w) u+ {1 `- _+ Z! T! D; N
3 L4 r# N( g$ \, I; U
这个,我说实话,不知道。但我觉得,这是整个Glasswing项目最值得观察的地方之一。8 k: d2 q5 `% T+ T! K6 w
: r" H* V+ b/ U! k$ x3 x8 ?
写到这儿,我突然想到了一个更大的问题。
' A3 W, h8 C3 n8 _$ s8 A+ x
" e" W/ E7 z3 B8 d2 d: jGlasswing这个名字,本身就是一只蝴蝶的名字。玻璃翼蝴蝶。它的翅膀是透明的,像玻璃一样。" O5 n8 G3 ? b: f; Q: k
/ t3 B, H' A, T4 J透明,意味着隐藏的东西变可见了。0 s$ S v) D! K; Z; [
' H& y. K( u$ a* q7 a6 F
一只蝴蝶的翅膀是透明的,它就隐藏不了任何东西了。它在哪里,飞向哪里,所有捕食者都看得清清楚楚。
) A+ |9 { c* X# l7 e1 B" m8 B" B& k: ^3 x
这个意象,放在漏洞挖掘上,太精准了。# D; A0 {4 G, ~
- H* W4 ~" ?9 O5 ~; Z4 b2 \8 ]代码里那些隐藏了几十年都没人发现的漏洞,在AI的"眼睛"之下,突然就透明了。
( W! Z5 A- O! ]9 E/ v9 j) ~ C9 j% \& V- P$ F+ D* E3 n7 b
以前我们说"security through obscurity"——通过隐藏来保证安全。你的代码不公开,漏洞藏在暗处,攻击者找不到。# M# c" N M$ G1 n7 X- ]
( z; {( q0 m* H& v1 `6 _# o但现在,只要代码存在,AI就能读。Mythos Preview不需要你的代码是开源的,它只需要能接触到代码——不管是源码、还是编译后的二进制、还是运行时的行为轨迹。+ G0 x6 {0 g% V$ J7 b
% v4 m% u8 I1 f8 J代码越来越难藏了。或者说,代码里的漏洞越来越难藏了。) Q- y" T9 i. X
- u% K% F0 R) W' Q% V2 z- X. E4 _
这是一件好事吗?
: X" ?/ z# \8 u( z3 h7 C# {% X. v& C" G& H
我觉得,短期内,这是一件非常非常好的事。
' |; B& x% Y$ ]# S& X9 Y2 B: ]& K3 G8 y" p$ P1 O
全球互联网基础设施里,有多少代码是10年、20年、30年前写的?没人敢审计、没人敢动、出了问题就打补丁接着跑的,有多少?
: y3 o; y( M; i" ~" U( |# B7 p' i. q1 V, z& t( A
这些代码就像一颗颗定时炸弹,埋在整个数字世界的基础里。% I4 D. f$ N/ ^; F" A( U ]) S
; T! x t A) R4 D' {AI能做的是,帮我们把这些炸弹找出来,一颗一颗地拆除。
) d7 k' S- _! k9 s v. g
% x& R8 [5 H ]$ q8 }: k' F( U但长期呢?
5 }- H; x) l- P( |3 [
5 N1 k, h# ?: b8 C5 @8 E* `当所有可见的漏洞都被AI清除干净之后,剩下的,是什么样的世界?. Z1 r' o1 b" P, _. u+ ~2 J
% z9 Q$ u) A/ p$ m/ o$ C是代码质量极高、安全性极强的一个世界?还是所有攻击者也在用同样的AI,攻击的速度和防守的速度同步提升的一个世界?5 ]' J# e9 e' ^$ j- n
% Y8 P3 M4 I& r3 N+ I3 G: ?
我也不知道。
1 Y% s& i- S9 g/ {% h1 _0 S
4 l% D7 F' u7 X% d- r2 g4 `但有一件事我特别想强调。( i; x7 c3 W' Z* l
/ ?1 {9 i6 Z9 Q! [' n7 \9 t8 _) O
这次Glasswing联盟里,有JPMorganChase,有CrowdStrike,有Palo Alto Networks。这些公司,是真正的安全重度用户。# Y8 S# h! a0 R. A9 S4 O. l/ P- [
, ?/ P% ]& t$ N9 _他们自己有能力挖漏洞吗?当然有。JPMorganChase的安全团队在全球排前列。CrowdStrike就是做安全的。
( R1 |( G0 V- o1 }
" A% Z1 {% b) T5 f' e他们为什么还要加入这个联盟,用别人的AI?
8 s) F! t* [ ?+ F x2 x. U# Q' V9 p
* i ^: A$ S5 d) D我大胆猜测一下:因为挖漏洞这件事,规模太大了。$ P0 ^) w. @4 a4 o; f
0 `: G( j3 K& @
全球代码量太大了。每一家公司,即使安全团队再强,也只能覆盖自己的代码库。但外面的供应链、开源组件、合作伙伴的代码,你根本管不到。
8 y |* y: p+ h1 V J/ _5 \ e& R
Mythos Preview的价值,不在于它比你的安全团队强。而在于它能同时扫所有地方。
$ F9 d& E" u G5 W' q- b2 K7 P8 z
这是规模效应。 a2 ]: H0 r3 T9 S2 w, M- B
' `0 y/ _, a. p0 C, i& u1 { W
就像打补丁。手工打补丁,你只能打你知道的那些机器。自动化打补丁,你能打你所有的机器。AI扫漏洞,相当于在每一个代码提交的时候,就自动扫一遍。, e. v4 m8 S% t8 ?1 k
1 c1 `! I/ j8 w% K, X1 r3 A这个规模,是人类团队根本无法覆盖的。
2 z9 s( J2 n1 W$ M6 B. K1 i- U
" q$ E; c9 ?- Q9 Z$ l- m# kGlasswing这个项目,还有可能往一个方向发展——成为一个独立的第三方机构。" \: r/ {! S4 a$ J1 l
) ~( j1 z4 w! \1 @& Y/ M5 f9 \6 e什么意思?
, N k* l: m* O3 S" v, l, Q
& i0 T- a% T* m0 v/ e) k现在它还是Anthropic牵头、11家公司参与的联盟。但未来,它可能变成一个真正独立于任何商业公司的安全机构。它的评估结果,有公信力;它的漏洞报告,有权威性;它给出的安全评级,整个行业认。
1 d- H& b# q) z& |5 G3 k" o5 k9 I( S" P* U$ o( v! e) O/ U
类似现在的ISO认证,但针对的是代码安全。2 }8 b8 ~( O7 j
9 k0 l7 Q) n/ V- P5 `6 R! p( S想想这个画面。未来的软件采购,合同里可能不只要写"符合SOC2",还要写"通过Glasswing认证,漏洞数为0"。; I: k M4 ]: ~: P% A! u$ b* ?# D
/ r V8 ~6 d. n$ q1 A; x2 v
这不是不可能的。0 b5 n' K/ |$ B( {, w& f
" Q. u6 ^ _% _+ [2 g
当然,路还很长。现在还只是第一步。但方向是对的。
9 A& C: r$ |1 F# R" u9 v# F9 i0 ]4 e" q, c
好了,写了这么多,让我最后说几句掏心窝的话。
8 \/ m3 f; M+ T/ E9 N- F: `" n" Q( c2 q. O' `0 Y& l0 K5 p
我这次看到Glasswing的新闻,第一个反应是兴奋,第二个反应是有点怕。: b8 V/ d$ j5 y: e3 w% e
. x& D* G8 Q: I$ K; C8 ~
兴奋是因为,我真的觉得,这是AI在安全领域做的最有价值的一件事。以前我们聊AI安全,大家想的都是"AI能不能被攻击"——对抗样本、数据投毒、模型劫持。这些很重要,但离普通开发者很远。
0 ~8 Z5 f( R: s( o
# A% {5 s$ d* O/ J7 K3 t这次不一样。这次是AI在帮我们发现自己的脆弱点。
. i/ `& i+ d; K4 \4 ]! q/ \
0 c: T( q6 g3 Z& K \这种脆弱点,我们以前不知道,或者知道但没有能力发现。AI把它们挖出来,摆在阳光下,告诉你这里需要修。
& T* X4 F3 ~4 |% |! Y* G5 y
6 Z2 z* c9 {3 y, U这是AI在补人类的短板。不是在超越人类,是在帮助人类补上人类自己够不到的地方。
0 S j1 R, E4 E+ M) c3 J0 m+ h' E
: }- U# o5 H6 f; W, v a7 n) Z! _我怕的是什么呢?5 i9 Z1 X' c! L" {8 u7 k% G
( z5 L5 s; m0 v
我怕的是,这个工具,只有大公司用得起。2 P v6 h% V: b" Y; m: z6 w
* x4 ^7 L3 w# e% h% p
AWS、Google、Microsoft,Bedrock、Vertex AI、Foundry。这些平台,都是商业平台。Cloudflare这种中型公司,可能用起来没问题。但那些真正需要安全检测的——初创公司、开源项目、十几人的小团队——他们能用到吗?
" X# j# N, d3 o/ g; g- I& O$ r1 ?# ~$ _
Anthropic捐的那1亿美元额度够用多久?分到全世界的开源项目上,每个项目能分到多少?
' d' p, P7 s2 p
W& Z& Y2 R0 M! @这些问题,现在还没有答案。
6 G: B) x) }3 Z% S; j) O
Y6 B3 b) y" m! D" Z% p( { O但有一点我特别想强调。4 {: _7 @# l9 f d5 o) h
7 F0 ?0 p) T ]4 z8 D. j
Glasswing这个项目,让安全这件事,第一次真正有了一种"基础设施"的可能性。8 |; e+ O& {4 |, E5 u
: @1 K. o+ l! |6 m3 [# d
以前的安全,是奢侈品。你要么雇得起安全团队,要么买得起企业级扫描工具,要么你就裸奔。- W" U2 ?7 T4 Q) M
- N. H$ U5 M% oAI改变了这个等式。Mythos Preview能发现那些企业级工具发现不了的漏洞,但它的调用成本,并没有比那些工具贵多少。3 Y9 d) x1 Z5 x5 c N' q
! M2 |4 o6 c& _+ V7 [当漏洞挖掘的成本持续下降,当AI扫描变成每一个代码仓库的标配,我们或许真的会迎来一个更安全的互联网。. a4 t4 i' E$ Y y" l
6 [% a/ s- L }& q这一天什么时候来?我不知道。可能5年,可能10年。: u4 T2 i# Z( F; ?- [8 |
, d8 X! i/ X8 }; x) J但Glasswing,让我第一次觉得,这件事不是痴人说梦了。" v; n) L9 q2 g' o* z% d) ]+ S
|
评分
-
查看全部评分
|