TA的每日心情 | 开心 2020-4-8 10:45 |
|---|
签到天数: 227 天 [LV.7]分神
|
玻璃之翼降临——Glasswing计划与Claude的Mythos Preview
]2 K( d5 C" G5 B- ^ h
$ p1 @# a- Y5 o! u* z% O) U
) \* ~7 e4 _' y+ b1 i一个预览版的AI大模型刚刚挖出了一个尘封27年的漏洞,然后11家科技巨头都坐不住了……
~ U8 }0 L4 o9 K0 l. g. G" `% r
故事是这样的。
2 t( x8 p4 q2 M: s; G% d, l: d( i( C8 Y) G7 I
我今天看到这个新闻,看完之后愣了好几秒。
/ k, \9 H# A/ _/ u, @8 c1 L# L5 N$ J, `% G
一家叫OpenBSD的公司——做操作系统的,算是安全领域的老前辈——他们有一个漏洞,在代码里躺了整整27年。1998年写进去的,没人发现。" R- u) o# c3 i- q1 I) F5 A
2 N* a3 `; H+ S/ \0 I
结果被一个AI模型给挖出来了。2 g1 r }. d% a. \; v) ?) C6 }. v) T( n
; N' W: f0 @1 L3 r$ K" I* Q8 Q
这肯定不是那种"我们用AI扫了一下代码库发现了问题"的挖出来。而是那种"这个漏洞藏在最核心的地方,所有传统工具都扫过5百万次,一次都没报过警"的条件下挖出来。
/ q4 w$ e6 k S( l; r0 z1 M5 P- x. y+ H( C( ?
然后,这个AI模型,顺手还把FFmpeg里一个16年的漏洞也给挖了。7 B2 w; V% z' _" e
3 d- d8 M3 z7 F6 o5 G# z/ jFFmpeg,音视频处理领域最最最核心的基础设施。全世界的视频播放器、浏览器、直播平台,有几个不是建立在FFmpeg之上的?这个漏洞在里面藏了16年。5百万次自动化测试,没一次报过警。
4 ^. Q$ Z$ ?: I/ T
: w `# b# ^" g% y" P然后呢?: d$ p% i: |+ D i0 c& D7 a5 r
/ H& d) f" P4 l: S# H8 G* |然后,11家全球最大的科技公司——Google、Microsoft、Apple、NVIDIA、CrowdStrike、JPMorganChase、Google等等——坐下来,说了一句话:我们一起出钱,让这个AI模型,能被全世界的安全研究员用上。
$ D; G$ w9 F5 _6 m
- x0 q* f7 K. m; A# a+ Q* l8 S2 R这个项目,叫Glasswing。
1 j. B% x' O/ e6 P; d. v) v% I5 W$ O7 B: u
glasswing
$ v: Y7 o3 g& n/ w% P
/ f3 N7 d! k* Y, m5 N5 @2 l% t! [# B
先说清楚Glasswing是什么。
) ]! _" S7 P8 U
& v7 `. v- z* H9 F6 @5 d4 @% x简单说,它是一个AI安全联盟。发起方是Anthropic,加入方是一堆哪怕是不关注技术领域也叫得出名字的科技巨头。它的核心,是一个叫Claude Mythos Preview的模型——注意是Preview(预览版),就是还没正式发布的那个版本——专门训练来挖漏洞的。
3 y; T y+ @# L; j2 `
$ J5 G& r6 [7 E6 ]9 X( e- v有多强呢?
) F5 v$ [9 ]5 V' x# V. k1 }# J
$ ]* w( y. h: @( h& `0 d! hCyberGym基准测试,83.1%。作为对比,Claude Opus 4.6,得分是66.6%。不是Claude Opus 4.5,是Claude Opus 4.6,Anthropic目前最强模型。- `; Q/ d' S q) V/ E
% W: v% ?, G) H6 ?9 _' J
SWE-bench Verified,93.9%。还是SWE-bench Verified,不是那个容易一点的版本。Claude Opus 4.6是80.8%。
$ e2 Z3 G8 |& t8 j( N9 e
/ Y# Q1 J& Y2 T5 h& W差了13个百分点。3 d0 \+ V: W3 k# M! P
% }$ H; ^' m# s4 e* _你说这13个百分点意味着什么? B% e! \% U' M
& ^3 ?* ]! g8 {) `7 d9 h意味着,传统扫描工具漏掉的那些最刁钻的漏洞——那些藏在层层调用关系里、藏在异常分支里、藏在并发边界条件里的漏洞——Mythos Preview能找到。
" W# Y9 v" ~, n# H. i
1 I. T( E" }1 |! {6 _" f9 z- X意味着,27年的OpenBSD,16年的FFmpeg,以后可能不会再有了。& I$ W- a% @! u
/ M9 F% h F5 o1 S. j5 b
或者说,这种级别的漏洞发现速度,会比以前快几个数量级。
( E) X5 ? ?8 o7 d: i0 ?5 @0 u: g2 d/ i# e
说到这个OpenBSD的漏洞,我必须展开讲一下,因为这个例子太有意思了。
- X( ~! g7 @; Z( W$ ~5 a" I1 j! T
1 n0 j K0 O, D# e0 R5 pOpenBSD是个什么存在?
; ^ n" c- F1 R! _* z4 e j+ \% i
它是BSD操作系统的一个分支,最核心的设计哲学就是安全。代码审计之严格,在整个开源社区都是有名的。很多安全研究员的信仰级操作系统。, T2 s( P {' y- s- L/ ^) J4 `
/ P" ]7 Y Z4 I/ g- u" K- J" A1 ^
这样的项目,代码审计了多少年了?二十多年。
/ C; y& A1 K3 Q' X9 p/ p! o
1 s7 o! N1 [0 O6 m2 A. K, \然后,一个漏洞,在里面躺了27年。9 J# F/ ^ I6 k1 ^; Y
4 ^6 n8 f! ^0 B+ t
这说明什么?0 l/ u6 X5 z# v# \. k( G% r' {
+ F( ~$ t; j" ?, b不是OpenBSD的人不行,是传统的审计方式有盲区。任何人工审计,只要时间足够长、人足够累、代码足够复杂,就一定会有漏洞漏过去。这是人性的边界,不是能力的边界。6 r9 p6 S" {4 U! T' h
1 V" |9 P2 u4 @ W% z @- K
但AI不一样。AI不会累。AI不会因为审了三个月之后注意力下降。AI可以在几个小时之内,把整个代码库的所有调用路径、所有边界条件全部穷举一遍。/ v9 a. K; L/ g* W
) L6 k# T) t y5 Y* F, N8 @
Mythos Preview发现的那个OpenBSD漏洞,是一个本地权限提升漏洞。攻击者如果已经拿到了一点点访问权限,可以利用这个漏洞进一步提升到root权限。/ t, ]" F! t3 m- R0 `# W% p
, R7 p) I$ K' L/ D8 j
这种漏洞可怕在哪?- m# B( w3 F: e/ s" p2 T& I# P; I, p
* v# }2 S7 U0 `% ?5 p- X; T' a7 s它不显眼。它不是那种"输入框里填个单引号就弹shell"的漏洞。它需要你对系统有相当深的理解,才能构造出触发条件。& o- D \# d! c# b
5 r4 K$ s' G' B1 ~$ Q6 D2 ^
传统扫描工具扫不出来,是因为它的payload模式不在规则库里。AI不一样,AI学的是语义理解,它不是匹配特征,它是理解代码在"想什么"。$ e4 l) `" D: \7 S8 v+ w- i- G
2 @; p: u1 X; G- }. LFFmpeg那个例子更让我震撼。( H6 n2 ~/ g7 ~
3 q7 d( t3 ]3 S16年。* o3 p+ L T0 c# Z, x
$ s; q$ ]/ P! M- f6 ?
FFmpeg上一次发现这种级别的漏洞是什么时候?2009年。- Y+ V" i+ [. `( u1 S9 _
4 w# q, }3 K+ @' W4 m* \" t
16年都没有人发现。然后Mythos Preview扫了一下,找到了。
- m- t0 Z3 ~/ l) ~( I
$ w" a' V* S; n. I z. _9 \) M注意这个"扫了一下"的背景。SWE-bench测试集里,有大量是真实世界里的bug修复历史。FFmpeg这个bug在历史上真实存在过,是某次修复的时候被记录下来的。这意味着,Mythos Preview不仅能做代码审计,它能做的是:从海量代码里,识别出"这个写法有问题,即使目前还没有人报告过"。* G0 e. ]+ b- G% U# n" c% ?
& H9 q' {6 L& f6 _1 h这是主动防御,不是被动响应。
/ b; @- w3 N& b# R! q
! d0 y4 ^, _( s& [$ N传统安全的方式是:出了事 → 分析样本 → 提取特征 → 更新规则库 → 下次能识别。
# ^/ X w" g) B& |8 |7 O& o& ~' V2 U# e. U, Q3 _! p
AI安全的方式是:不需要样本。直接读代码,告诉你这里有个洞。# t m; }* F; u+ Q/ K* W
% ~/ `: U1 y* j' F$ n6 Y5 E6 R6 N
这两者之间的差距,大概就是"等贼来了再装防盗门"和"在盖楼的时候看着图纸就告诉你这堵墙扛不住地震"的差距。+ L/ b7 |: @2 e. G; E
9 Y7 V" O# {" W7 o$ b现在说说大家最关心的问题:谁能用到,怎么用,花多少钱。
; F" B9 s$ b: n0 ~' n) q* F/ Q, d, I+ d7 V
Glasswing的AI能力,现在跑在三个平台上:Amazon Bedrock、Google Vertex AI、Microsoft Foundry。
* ?# d& e" F! @; ?+ v, y, k9 f0 f; p, V6 x
这三个平台,恰好是AWS、Google Cloud、Azure。全球三大云服务商。) i3 p* k" ~, T5 k3 W, P
5 C5 ^* y) o0 z- w1 O3 `- x你在任何一个上面,都能调用Mythos Preview的漏洞检测能力。9 q/ N- s% S# ~/ H. V6 K) T
3 L$ E' y9 e. w5 A; G
价格呢?过了初始的credits之后,每百万token输入25美元,每百万token输出125美元。& l1 c0 u g# Y
, f& v6 z- L& z; W
这个价格贵不贵?
/ [2 V& F/ q4 L2 M( w( |0 X
7 H8 J! T5 S5 q对比一下就知道了。现在市面上做代码安全扫描的工具,像Snyk、Veracode这一类,商业扫描工具的报价大概是每个开发者每个月几十到几百美元不等。而且它们扫的是规则匹配,不是语义理解。
% h0 X1 f3 w- r4 k5 G: L
% |( g- Q7 W7 ~* C UMythos Preview能发现那些工具发现不了的漏洞。) P' S* `8 W% R) P
, p0 ?2 S- t0 y. g* p
这不是贵不贵的问题了,这是"有没有意识到你以前省的那些钱其实在交更多的学费"的问题。
) N; a5 s7 J6 C8 C0 V1 c1 v* R% A0 N% ^7 O" o
另外,Anthropic自己掏了1个亿美元的使用额度,分给联盟成员和开源社区。还额外捐了400万,250万给Alpha-Omega/OpenSSF,150万给Apache软件基金会。
4 G. k* I% b. Z8 A, J3 q8 M/ _/ Q% i C0 F; P% S
这些钱是用来干什么的?让那些没有商业利益驱动的开源项目,也能用上最好的漏洞检测能力。
0 z3 S4 {- y1 g1 }
( z" A$ n% h ~* b0 t y% X5 YFFmpeg就是开源的。OpenBSD也是开源的。这些项目没人给他们钱做安全审计,但他们的代码,运行在全球几十亿台设备上。
+ |6 T1 G* U& \2 n0 ~; d/ H$ }9 G$ }: `% p
还有一个细节,我觉得特别有意思。
/ [9 e: e( C% E* ]+ m8 ~3 f6 \: v' {; M. r S9 }! U
漏洞发现之后,公开披露的时间是90天。- k: X! X* Q! i( \, A6 i5 F4 h
- u* \& q. T6 ^+ v; o0 w90天是什么概念?
* `& O8 @; \8 `2 @4 }& R X6 d% Q# N" `5 d5 |) c. Z6 F% _
行业标准的漏洞披露窗口是90天。这个时间足够让厂商评估漏洞、制定修复方案、推送更新,但又不至于让漏洞在黑市上流通太久。
% _2 X, Z, W) h4 ~
5 y" \7 u* x- T$ I) V! N/ t/ n* ?但这里有一个问题:90天是针对"有人发现了漏洞"这个前提来说的。' A3 Q# W5 J. t9 g) O
! d) y& ^# U6 u3 |+ j5 L' IMythos Preview现在能以前所未有的速度挖出漏洞。它一天挖出来的漏洞,可能比以前整个安全社区一个月挖的还多。! H* y5 A# @- i: R2 r
, Q, @2 O* U0 p, x6 o2 J
这意味着,漏洞披露的节奏,整个就变了。
. W. q% ~+ o! B! `. O+ }
! Q6 L6 u x+ S% }2 F8 r- K以前是"挖到一个,披露一个"。现在是"AI在持续不断地挖,每90天披露一批"。5 N* g5 ^# o# j. t% W7 H
; N- a, {* N) X7 {$ C
厂商的补丁开发速度,能不能跟上AI的发现速度?( n) [$ V3 b) F8 c: x
F4 e, V7 h# v' x! v& o这个,我说实话,不知道。但我觉得,这是整个Glasswing项目最值得观察的地方之一。' l: m, O, k q( X" w7 |+ O3 f
- I( V) _2 U0 n0 v" M2 p/ D
写到这儿,我突然想到了一个更大的问题。# L$ U* W% G: Y( U2 A5 \1 H0 ?( [
4 @8 x2 @ I; Z- x7 |, J4 Z0 cGlasswing这个名字,本身就是一只蝴蝶的名字。玻璃翼蝴蝶。它的翅膀是透明的,像玻璃一样。# D% x. m% R8 Y2 ?, l+ u
" u* P* d/ M. q; y F4 ` S+ {透明,意味着隐藏的东西变可见了。
1 I" M7 k7 \1 r# W" M$ N( V9 n! j8 d9 Z E# a6 B
一只蝴蝶的翅膀是透明的,它就隐藏不了任何东西了。它在哪里,飞向哪里,所有捕食者都看得清清楚楚。
5 f+ _7 \' Q2 P" L5 \6 p4 U9 k/ m. u- m9 W) i/ x+ I
这个意象,放在漏洞挖掘上,太精准了。6 f2 N+ f; B8 M$ t' k
0 T, k u. _1 z3 }& x6 D代码里那些隐藏了几十年都没人发现的漏洞,在AI的"眼睛"之下,突然就透明了。
6 _! p3 {6 J8 G' b! S" p0 V; [. [8 Z( [' n* h+ d
以前我们说"security through obscurity"——通过隐藏来保证安全。你的代码不公开,漏洞藏在暗处,攻击者找不到。
9 G# I. @4 a7 c+ M# O- t
. E/ \6 [, t' T. R5 K但现在,只要代码存在,AI就能读。Mythos Preview不需要你的代码是开源的,它只需要能接触到代码——不管是源码、还是编译后的二进制、还是运行时的行为轨迹。
* o6 `6 z2 B5 f' G3 B5 L6 h) ~" l- u% w+ s& W
代码越来越难藏了。或者说,代码里的漏洞越来越难藏了。, E1 i3 r- r3 @9 A/ U4 s. `
; _) E# N- V0 p
这是一件好事吗?" R ]) N2 M% Q% Y8 x7 t% H
& B" q; i$ g% C& v C( v3 Z我觉得,短期内,这是一件非常非常好的事。; v3 ]5 S, s( Y; G- u
% t9 g8 X: ~- E全球互联网基础设施里,有多少代码是10年、20年、30年前写的?没人敢审计、没人敢动、出了问题就打补丁接着跑的,有多少?& z2 }$ x) Y: H& Z5 M; l) \
" i: R& P" p# P, G- P8 t& T这些代码就像一颗颗定时炸弹,埋在整个数字世界的基础里。
- W$ `- |& \! W r3 `4 Q+ Q: Z- H5 L8 T
AI能做的是,帮我们把这些炸弹找出来,一颗一颗地拆除。
% K* ~4 u9 ]3 K6 Z
, j8 n. \$ P' ^* e& L3 r; o但长期呢?
8 A9 T* i1 T1 ~) R
( [* f! t: H' O X( e; u2 o当所有可见的漏洞都被AI清除干净之后,剩下的,是什么样的世界?8 S7 L: |$ G+ V6 i7 S
6 h# \" R( X8 V6 |0 T3 I是代码质量极高、安全性极强的一个世界?还是所有攻击者也在用同样的AI,攻击的速度和防守的速度同步提升的一个世界?
9 j* s" z( S4 {" a6 k$ e' A) G/ j& \% R. D! E0 A4 N- |
我也不知道。
! V5 C) l) \ }% _9 N
- n4 e! p0 b. K4 P$ l2 h$ c但有一件事我特别想强调。9 Y+ j! Y7 `! S6 V( N9 F& L
- p3 ^, C* o! `- Y! O8 _" i8 B这次Glasswing联盟里,有JPMorganChase,有CrowdStrike,有Palo Alto Networks。这些公司,是真正的安全重度用户。
9 M. r+ d% R8 F b1 p% L) F, T& G& w" B5 j
他们自己有能力挖漏洞吗?当然有。JPMorganChase的安全团队在全球排前列。CrowdStrike就是做安全的。9 n, {% N, i) S$ @2 A1 k
' a7 q/ ~6 _1 Y. ~2 h
他们为什么还要加入这个联盟,用别人的AI?9 J5 O' D2 j+ r/ W' h& L* d
# P) F' w% m/ `+ L5 q% T我大胆猜测一下:因为挖漏洞这件事,规模太大了。. z* @. O& S; Y# e+ C
% f4 o+ [) }1 @9 u
全球代码量太大了。每一家公司,即使安全团队再强,也只能覆盖自己的代码库。但外面的供应链、开源组件、合作伙伴的代码,你根本管不到。* r: M$ @1 D8 V& b. M. i
( q# k5 [8 t0 e8 m% l
Mythos Preview的价值,不在于它比你的安全团队强。而在于它能同时扫所有地方。
: d# V1 H- C+ {$ ?* K
7 ~, ]2 Y' S6 A这是规模效应。
% O9 ~3 b2 g% i( Z% C9 w1 E2 r5 c1 g. G; D; M( X. I' e% Q7 ~
就像打补丁。手工打补丁,你只能打你知道的那些机器。自动化打补丁,你能打你所有的机器。AI扫漏洞,相当于在每一个代码提交的时候,就自动扫一遍。
4 I( [/ e7 A; a) Z: e* ?7 A5 U8 }% }) O2 {9 Z, ?4 {2 J
这个规模,是人类团队根本无法覆盖的。 ^0 u9 m4 ], e9 @
0 C0 O. \1 P% y& W" M: R% j ^
Glasswing这个项目,还有可能往一个方向发展——成为一个独立的第三方机构。
* {' r& J! _" |, {! e! O" f m5 x' k* }3 ^) Q
什么意思?5 F# j$ V% p( c% G! [; F+ Y$ k1 |
# m; Y; S+ z1 g l3 [0 J现在它还是Anthropic牵头、11家公司参与的联盟。但未来,它可能变成一个真正独立于任何商业公司的安全机构。它的评估结果,有公信力;它的漏洞报告,有权威性;它给出的安全评级,整个行业认。% C) i+ n2 X( s% q9 Q
) J2 G: W6 h9 l: H3 @ Q7 K
类似现在的ISO认证,但针对的是代码安全。5 `) ^9 f" S8 `5 d. p- h
) B8 w* S, b: t7 M
想想这个画面。未来的软件采购,合同里可能不只要写"符合SOC2",还要写"通过Glasswing认证,漏洞数为0"。
# t0 R& b$ A# t9 Z3 J0 m2 k
4 B! k. L5 f% U# Q+ b这不是不可能的。" |% a) M: W0 ~) I" h" S- ]& W! k1 M' d
4 I- _ O2 c( J' h. R1 H" j8 H当然,路还很长。现在还只是第一步。但方向是对的。" S; ~4 k$ _# x3 k2 V
! A1 A; }( q' N! \' h x& S/ ]4 i9 N好了,写了这么多,让我最后说几句掏心窝的话。
+ D/ x9 {+ s7 a; G1 i9 {6 M2 m) Z
我这次看到Glasswing的新闻,第一个反应是兴奋,第二个反应是有点怕。0 R0 h7 D I5 N K% L
- c) T/ P1 a1 t+ D8 S6 n' C兴奋是因为,我真的觉得,这是AI在安全领域做的最有价值的一件事。以前我们聊AI安全,大家想的都是"AI能不能被攻击"——对抗样本、数据投毒、模型劫持。这些很重要,但离普通开发者很远。2 Z$ p# G2 O% }9 |
& n7 r" ^4 s4 m
这次不一样。这次是AI在帮我们发现自己的脆弱点。5 n2 D. E0 |6 [" ?) q; H
1 E2 O8 \0 M- E0 N" R
这种脆弱点,我们以前不知道,或者知道但没有能力发现。AI把它们挖出来,摆在阳光下,告诉你这里需要修。
1 u# S, R+ L+ E9 u2 w p3 m; G) F4 t& q4 h
这是AI在补人类的短板。不是在超越人类,是在帮助人类补上人类自己够不到的地方。
$ O4 G! C, I& F/ H" l9 Y7 {4 g$ j w. |- c, T5 g- ]6 h# w
我怕的是什么呢?& J# K: O" D: M+ |
1 t7 u7 M3 r: n我怕的是,这个工具,只有大公司用得起。
3 E( x# h+ Y9 c8 k% f- u# d- z8 ~% w1 Y% m
AWS、Google、Microsoft,Bedrock、Vertex AI、Foundry。这些平台,都是商业平台。Cloudflare这种中型公司,可能用起来没问题。但那些真正需要安全检测的——初创公司、开源项目、十几人的小团队——他们能用到吗?% Z% b. C4 L) R' k( W2 q
: p& Z7 ?5 O1 O2 x( {0 e4 xAnthropic捐的那1亿美元额度够用多久?分到全世界的开源项目上,每个项目能分到多少?
6 F1 o+ l- R& m$ E; U5 h- B
; r% Q, u# u; ^: h: F$ `这些问题,现在还没有答案。
" h# s& V' u/ h) V7 \8 V! V3 N( E, w2 |2 R! z
但有一点我特别想强调。
) B4 p7 g9 V9 n$ C5 O$ C/ h8 D" u0 i% s9 y! p
Glasswing这个项目,让安全这件事,第一次真正有了一种"基础设施"的可能性。
5 R D R9 V6 |. b% t* O7 A" |# A( C6 i5 B( x' I8 ?
以前的安全,是奢侈品。你要么雇得起安全团队,要么买得起企业级扫描工具,要么你就裸奔。
, L% R7 F% j: P
3 e: O9 S% U S. z' AAI改变了这个等式。Mythos Preview能发现那些企业级工具发现不了的漏洞,但它的调用成本,并没有比那些工具贵多少。
1 C; A- \. p+ y9 s/ e5 u; }# L( l5 ^' w- |
当漏洞挖掘的成本持续下降,当AI扫描变成每一个代码仓库的标配,我们或许真的会迎来一个更安全的互联网。
$ O% `$ S4 R$ @( `+ g3 S8 n# y7 m8 G9 _6 b
这一天什么时候来?我不知道。可能5年,可能10年。& O: e8 x+ p n: p7 h1 R
, Z! X* y1 V8 ^7 Z* Y* \* U' e
但Glasswing,让我第一次觉得,这件事不是痴人说梦了。
3 v5 X: Z4 R+ W/ _7 L b" j* X& } |
评分
-
查看全部评分
|