“AGI 时代已至？” 拜登前 AI 顾问深度解读 DeepSeek 崛起与...

xiejin77

7 S8 y8 f0 K. ~  x! o/ z9 _( R你是否感觉到，人工智能（AI）的发展正在以一种前所未有的速度改变着我们的世界？甚至，那个曾经只存在于科幻小说中的“奇点”——通用人工智能（AGI）——似乎也并非遥不可及。2025年3月4日，一场在《纽约时报》“The Ezra Klein Show”播客上进行的对话，为我们理解这个正在加速到来的未来，提供了一个至关重要的视角。

4 K! b1 N1 c8 H9 p5 T; p对话的一方，是知名主持人 Ezra Klein；另一方，则是 Ben Buchanan，一位兼具深厚学术背景和丰富政府经验的 AI 专家。Buchanan 不仅是乔治城大学安全与新兴技术中心（CSET）的研究员，更曾在2023年担任白宫科技与国家安全委员会的人工智能特别顾问，直接参与了拜登政府的 AI 政策制定。更重要的是，他亲眼见证了 AI 技术的飞速进步，尤其是来自中国 AI 力量的崛起。

在这场长达数小时的深度对话中，Buchanan 抛出了一个又一个重磅观点：AGI 比我们想象的更近；它将对国家安全、网络安全、就业市场等领域产生颠覆性影响；而以 DeepSeek 为代表的中国 AI 公司的崛起，更是为这场全球 AI 竞赛增添了新的变数。
! y1 g/ d. B# ]: ~7 H2 s
DeepSeek，这家来自中国的 AI 公司，在访谈中被 Buchanan 多次提及。它不仅仅是一家普通的公司，更是中国 AI 技术实力快速提升的一个缩影。Buchanan 承认 DeepSeek 的工程师“才华横溢”，其算法效率令人瞩目。但与此同时，他也毫不掩饰对中国 AI 发展的担忧，认为美国必须采取措施，包括芯片出口管制，来确保自己在 AGI 领域的领先地位。
0 r" z! o. G4 H; c% b. X
6 A9 z" o  \' b" l
这场对话，就像一面镜子，折射出 AGI 时代复杂的图景：技术突破的激动人心、地缘政治的紧张博弈、社会变革的潜在风险……它让我们不得不思考：面对 AGI 这个“潘多拉魔盒”，我们准备好了吗？

9 b- I+ e  p; U: _谁是 Ben Buchanan？
- {1 d6 A: A" C3 A7 m( l在深入对话内容之前，我们有必要先了解一下这位“主角”。Ben Buchanan 可不是那种只会纸上谈兵的学者，他可是真正在政策一线摸爬滚打过的实干家。他目前在乔治城大学的安全与新兴技术中心（CSET）担任研究员，要知道，CSET 可是美国顶尖的智库之一，专门研究那些可能颠覆国家安全的新兴技术。更重要的是，Buchanan 在 2023 年还担任过白宫科技与国家安全委员会的人工智能特别顾问，直接参与了拜登政府的人工智能政策制定。
" w" {3 {" F  M0 Q7 y1 J
2 P% O" W) O; c* `4 o6 \除了这些光鲜的头衔，Buchanan 还写过一本名为《人工智能的黑客帝国：权力、偏见与意识形态》的书。这本书深入探讨了网络攻击如何成为地缘政治的新常态，以及人工智能在其中扮演的关键角色。可以说，Buchanan 的研究横跨了网络安全、人工智能政策和国家安全这几个关键领域，这使得他对 AGI 的发展及其影响有着远超常人的深刻见解。

正是 Buchanan 这种跨越学术与政策的背景，让他成为了讨论 AGI 问题的最佳人选。他的观点既有学者的严谨，又有政策制定者的务实。因此，他对 AGI 的判断和预测，绝不是空穴来风，而是有着深厚的理论和实践基础的。

) [5 V! Y$ r) gAGI：不是“狼来了”，而是真的来了！
访谈一开始，Buchanan 就抛出了一个惊人的观点：AGI 就要来了，而且比大多数人想象的要快得多！他认为，那些“极其强大的 AI 系统”很可能在未来两三年内就会出现，甚至有可能在特朗普总统的第二个任期内（如果他当选的话）就成为现实。虽然 Buchanan 本人并不喜欢“通用人工智能”（AGI）这个有点科幻色彩的术语，但他认为这些系统将具备 AGI 的许多关键特征，也就是说，它们将在各种各样的认知任务上达到甚至超越人类水平。
, P3 M( l5 V  y6 w
听到这里，你可能会觉得这又是一次硅谷式的技术炒作。但 Buchanan 的信心可不是凭空而来的，他有自己的“情报来源”：一是来自 AI 实验室和政府内部人士的报告，这些人可是亲眼见证了 AI 技术的飞速进步；二是 AI 产品的快速迭代，像 OpenAI 的 Deep Research 等工具已经展现出了让人瞠目结舌的能力；三是 Buchanan 本人在白宫工作期间观察到的趋势，这些趋势都指向一个明确的方向：AGI 正在加速到来。

8 m3 r. }. g) W0 Z; ?Buchanan 反复强调，AGI 的到来绝不是“狼来了”的故事，而是真真切切、迫在眉睫的现实。他认为，许多人，尤其是政策制定者，仍然低估了 AGI 的发展速度和潜在影响，这是一种非常危险的认知偏差。他呼吁人们必须认真对待 AGI 的到来，并为此做好充分准备，否则后果不堪设想。

国家安全的“新战场”：AGI 时代的战略博弈
- X1 M! {3 w# `+ w) U* K" ]5 H在 Buchanan 看来，AGI 不仅仅是一个技术问题，更是一个关乎国家安全的战略问题。他反复强调，美国必须在 AGI 领域保持领先地位，这对于维护美国的国家安全至关重要。他认为，AGI 将对未来的军事、情报、经济等领域产生深远影响，哪个国家掌握了 AGI，就将在这些领域拥有巨大的优势，甚至可能改写全球力量对比。

Buchanan 特别提到了中国，认为中国是美国在 AGI 领域的主要竞争对手。他担心，如果中国率先实现 AGI，可能会在网络战、情报分析等关键领域获得不对称优势，从而对美国构成战略威胁。他举例说，AGI 可以极大地提升网络攻击和防御的能力，如果中国在这方面取得领先，美国的关键基础设施和国家安全将面临前所未有的挑战。

为了应对这种潜在威胁，Buchanan 支持美国政府采取强硬措施，包括出口管制，以限制中国在 AGI 领域的发展。他承认，这可能会加剧两国之间的紧张关系，但这就像当年美国为了赢得太空竞赛而采取的措施一样，是必要的。他甚至将 AGI 比作太空竞赛时期的太空技术，认为美国必须像当年赢得太空竞赛一样，赢得 AGI 的竞赛。
1 W: U8 D$ S) R) M$ S' |- ]9 Y3 S5 i
% f/ h3 j2 k; O5 jBuchanan 的观点反映了美国政府的一种主流看法，即 AGI 是一种具有战略意义的技术，必须将其置于国家安全的框架内来考虑。这种观点也反映了中美两国在科技领域的竞争日益激烈，而 AGI 已经成为这场竞争的核心战场。这场竞争不仅仅是技术上的较量，更是关乎未来世界秩序的博弈。

网络安全的“潘多拉魔盒”：AGI 时代的攻防困境
. G/ X' ?5 b; J* i$ j1 gAGI 的发展将对网络安全产生深远影响，这就像打开了一个“潘多拉魔盒”，既带来了机遇，也带来了前所未有的挑战。Buchanan 指出，AGI 可以用于提升网络攻击和防御的能力，这使得网络安全领域的攻防对抗变得更加复杂和激烈。
. n1 _4 a" _* {0 [/ `% f  ^. Z
' v4 E2 J0 N$ B( I9 S; T' a一方面，AGI 可以帮助攻击者更快、更有效地发现软件漏洞，并利用这些漏洞发动攻击。想象一下，一个由 AGI 驱动的黑客，可以不知疲倦地扫描全球的网络，寻找任何可能的漏洞，这简直就是网络防御者的噩梦。AGI 还可以用于分析大量数据，从中识别出有价值的情报，从而提升网络间谍活动的能力。Buchanan 担心，在过渡时期，由于许多旧系统缺乏 AI 防御能力，它们将更容易受到网络攻击。
. \1 s( i; j9 h6 u" t8 }# `$ g+ x
( [' v  L' s  Z另一方面，AGI 也可以用于提升网络防御能力。AGI 可以帮助开发者编写更安全的代码，减少软件漏洞的数量。AGI 还可以用于实时监测网络流量，及时发现并阻止网络攻击。Buchanan 提到，拜登政府曾推动国防高级研究计划局（DARPA）开展“AI 网络挑战赛”，旨在测试 AI 在网络攻防中的能力。

然而，Buchanan 也特别提到了 AI 实验室本身的安全漏洞，他认为这些实验室可能成为国家间谍活动的目标。这不难理解，这些实验室掌握着最先进的 AI 模型和技术，其价值不言而喻。他认为，保护 AI 实验室的安全，与保护国家关键基础设施同等重要。
: J! k$ O. h$ c! ^1 B
4 x: t7 p; m6 e) F, Y8 O6 t0 i3 ^AGI 在网络安全领域的应用，就像一把双刃剑，既可以用于防御，也可以用于攻击。这使得网络安全领域的攻防对抗更加复杂和激烈，也对传统的网络安全观念和防御体系提出了巨大的挑战。未来的网络安全，将不仅仅是人与人之间的对抗，更是 AI 与 AI 之间的较量。
: k0 n" y% u% J  G) D& H
就业市场的“大地震”：AGI 时代的社会冲击
* I& n. F5 ?- b5 S, f- kAGI 不仅将对国家安全和网络安全产生深远影响，还将对劳动力市场和社会结构带来巨大的冲击，甚至可能引发一场“大地震”。Buchanan 和 Ezra Klein 都认为，AGI 将对劳动力市场产生重大影响，许多认知工作岗位可能被取代或部分取代。
! Q4 }) t) \2 n) r3 n( Q$ u! l
他们特别提到了那些从事重复性、规则性工作的岗位，比如营销、文案、初级编程等。这些工作很容易被 AGI 自动化，从而导致大量失业或就业结构调整。试想一下，一个能够自动生成营销文案、编写代码、甚至进行数据分析的 AI，将会对多少人的饭碗造成威胁？Buchanan 举例说，许多正在大学学习市场营销专业的学生，未来可能会面临严峻的就业形势，因为 AGI 已经可以胜任许多市场营销工作。
/ @8 t" Z' q7 {: T
  J' G$ c% U3 E8 F, K) U. DBuchanan 和 Klein 对如何应对这种潜在的社会和经济冲击表示担忧。他们认为，政府需要为此做好充分准备，但目前缺乏具体的应对措施。他们讨论了一些可能的解决方案，如加强职业培训、提供基本收入保障等，但都承认这些方案存在局限性，难以完全解决 AGI 带来的就业问题。

- p7 v/ x) l2 n: W( `AGI 对劳动力市场的影响，不仅仅是一个经济问题，更是一个社会问题。大规模失业可能导致社会不稳定，加剧社会不平等。因此，如何应对 AGI 带来的就业冲击，是政府和社会各界面临的一个重大挑战。这不仅仅是技术问题，更是关乎社会公平正义的重大议题。
5 ?8 t. S0 O! q6 [3 I8 \6 @3 E0 |
美国政府的“两难境地”：政策的困境与挑战
0 Q+ I7 ~  I9 w$ y面对 AGI 带来的种种挑战，美国政府的应对策略和政策选择至关重要，但又陷入了两难境地。Buchanan 详细介绍了拜登政府在应对 AGI 方面所做的努力，并对特朗普政府的政策方向表达了担忧。

拜登政府曾试图通过一系列行政命令和机构设置来应对 AGI 的挑战。例如，拜登签署了一项关于人工智能基础设施的行政命令，旨在加速能源和数据中心的建设，以满足 AGI 发展的需求。拜登政府还成立了美国人工智能安全研究所，旨在加强政府与 AI 企业之间的合作，共同应对 AGI 的安全风险。此外，拜登政府还采取了出口管制措施，限制向中国出口先进的 AI 芯片，以减缓中国在 AGI 领域的发展速度。
8 w, g* c8 E& Z+ f# G8 u2 _
然而，Buchanan 也承认，拜登政府的这些措施只是初步的，而且存在局限性。他认为，政府的行动速度往往滞后于技术的发展，而且在制定具体政策方面存在困难。他特别提到了开放权重模型（类似于开源模型）的问题，认为这些模型可能被滥用于恶意目的，但政府尚未找到有效的监管方法。
% h' \  K1 q* N' @$ K+ a( a
Buchanan 对特朗普政府的政策方向表示担忧。他认为，特朗普政府更倾向于“加速主义”，即强调 AGI 的发展速度和机遇，而忽视其潜在风险。他担心，这种政策取向可能导致美国在 AGI 的安全和监管方面放松警惕，从而带来不可预测的后果。
, @, j  a! c/ @; ^0 L  Q& [' f
' H2 L3 U8 [; B+ ^7 \Buchanan 强调，政府需要在 AGI 的发展中平衡安全与机遇。他认为，适当的安全措施实际上可以促进技术的应用和发展，就像铁路发展早期的安全标准一样。然而，如何把握监管的尺度，避免过度监管扼杀创新，是一个难题。这就像走钢丝，既要保证安全，又要追求速度，稍有不慎，就可能跌入深渊。

DeepSeek：中国的“挑战者”与美国的“警惕”
3 B* p& Q6 X8 {+ L3 u访谈中，Buchanan 多次提到了中国的 AI 公司 DeepSeek，并表达了对中国在 AGI 领域快速发展的担忧。他对 DeepSeek 的看法，体现了美国政府对中国 AI 发展的复杂心态：既承认其技术实力，又试图限制其发展。

Buchanan 承认 DeepSeek 的工程师非常“有才华”，并且他们的系统在不断进步。他特别提到了 DeepSeek 在算法效率方面取得的进展，认为这表明中国在 AI 技术方面具有很强的竞争力。

然而，Buchanan 并不认为 DeepSeek 的进展像媒体炒作的那么夸张。他认为，DeepSeek 仍然受到计算能力的限制，其 CEO 曾表示，公司发展的最大障碍是无法获得先进芯片。他认为，DeepSeek 的进展并没有改变美国对 AGI 发展的基本分析，也没有动摇美国在 AGI 领域的领先地位。
) l- h* z$ q5 c: [* V4 _( s
1 c5 b* A. A2 a- Q  BBuchanan 强调，美国应该继续通过芯片控制来限制中国的发展。他认为，DeepSeek 的出现提醒美国，芯片控制非常重要，中国是 AGI 领域一个值得尊敬的竞争对手，美国不能掉以轻心。
, P! I; \0 Q; @+ ]/ v
Buchanan 不认同 DeepSeek 证明美国 AGI 发展范式（依赖大量计算资源）错误的观点。他认为，美国需要同时在技术前沿和效率提升两个方面都取得领先。他认为，DeepSeek 的技术进步主要来自算法效率的提升，这与美国公司（如 Google、Anthropic、OpenAI）的做法类似。
' o2 _" f; a" K6 t* {* b
# S- E/ ^7 t/ j$ rBuchanan 对 DeepSeek 的看法，反映了美国政府对中国 AI 发展的复杂心态：既承认其技术实力，又试图通过各种手段来限制其发展。这种心态也反映了中美两国在 AGI 领域的竞争日益激烈，这种竞争将对未来的科技格局和地缘政治产生深远影响。这不仅仅是一场科技竞赛，更是一场战略博弈。
) @' {  d. g7 c& w2 ?3 b7 E! |
6 ]0 E3 Q* ~% x. V6 x; e* d, n) @“开放”与“封闭”的十字路口：AGI 时代的伦理困境
AGI 的发展不仅带来了技术和战略上的挑战，还带来了深刻的伦理和社会问题。Buchanan 对开放权重模型（类似于开源模型）的潜在风险表示担忧，这反映了 AGI 时代开放与安全之间的复杂关系。

开放权重模型是指那些将其模型权重公开的模型，类似于开源软件，但更侧重于模型权重本身。这种开放性可以促进技术的创新和传播，但同时，就像一把双刃剑，也可能被恶意行为者滥用。例如，开放权重模型可能被用于开发生物武器、发动网络攻击或制造虚假信息。

Buchanan 认为，需要持续监控开放权重模型的发展，并在必要时采取措施来限制其潜在风险。然而，他也承认，如何监管开放权重模型是一个难题，因为这涉及到技术、伦理和法律等多个方面的问题。这就像一个“潘多拉魔盒”，一旦打开，就很难再关上。
3 @2 H. q/ W+ v4 f9 Y" C0 P" `+ H  r
开放权重模型的争议，反映了 AGI 时代的一个核心问题：如何在促进技术创新的同时，确保其安全和负责任地使用？这是一个复杂的权衡，没有简单的答案。我们需要在开放与安全之间找到一个平衡点，但这绝非易事。
  _+ U; t- r$ b  g, z7 H
7 F& S1 F3 }' R, p6 p能源的“紧箍咒”：AGI 时代的资源挑战
AGI 的发展需要消耗大量的能源，这不仅是一个技术问题，也是一个环境和社会问题。Buchanan 认为，美国应该加速能源基础设施的建设，以满足 AGI 发展的需求，并促进清洁能源的发展。
5 l1 i- [5 V  B% z! e$ A
" r7 j* K6 {' K( \5 H. a# y5 {1 O" E他指出，AGI 的训练和运行需要大量的计算资源，而这些计算资源需要消耗大量的电力。如果 AGI 的发展依赖于传统的化石能源，将加剧气候变化和环境污染。因此，他认为，美国应该大力发展清洁能源，如太阳能、风能、地热能等，以满足 AGI 发展的需求，并实现可持续发展。

Buchanan 的观点表明，AGI 的发展不仅仅是技术问题，还涉及到能源、环境、气候变化等多个方面。这需要政府、企业和社会各界共同努力，制定全面的战略来应对这些挑战。AGI 的发展，不能以牺牲环境为代价。
$ H/ I' w& I$ g. d4 _
* r: s. [( b" o1 u+ E4 k: z( l. R0 ~结语：AGI 时代的机遇与挑战并存
Ben Buchanan 在《纽约时报》的这篇访谈，就像一面镜子，照出了 AGI 时代的机遇与挑战。他的观点既有对 AGI 快速发展的紧迫感，也有对 AGI 带来的挑战的深刻担忧。
5 @9 C% E8 j" v- i: }# Y
: C& j. G* g* C  W! QBuchanan 强调，AGI 的到来可能比我们想象的更快，其影响也将更加深远。他认为，AGI 将对国家安全、网络安全、劳动力市场、社会结构等多个方面产生重大影响。他呼吁政府、企业、研究机构和社会各界都需要为 AGI 的到来做好充分准备，包括制定合理的政策、加强技术研发、应对潜在的社会和经济冲击等。
5 f+ u3 ]# I6 D+ ^. z9 A) L1 ?
5 L" b3 i: L6 x2 R* gBuchanan 的观点也反映了前白宫顾问视角下AGI 时代的一些核心问题：

国家安全与技术竞争： AGI 将如何重塑地缘政治格局？哪个国家将成为 AGI 时代的领导者？
5 A0 Z9 {, C# x5 m网络安全与攻防对抗： AGI 将如何改变网络安全的格局？如何应对 AGI 带来的网络安全挑战？
2 h. `' N+ w! J) i; N& T劳动力市场与社会结构： AGI 将如何影响就业和收入分配？如何应对 AGI 带来的社会冲击？
, z7 M2 _" U+ s开放与封闭的博弈： 如何在促进技术创新的同时，确保其安全和负责任地使用？
能源与环境的挑战： 如何满足 AGI 发展的能源需求，并实现可持续发展？
这些问题没有简单的答案，需要全球合作来应对 AGI 带来的挑战。同时，我们也需要对 AGI 的发展保持警惕，避免其被滥用或带来不可预测的风险。AGI 的到来既是机遇也是挑战，我们需要以开放的心态、审慎的态度和负责任的行动，来迎接这个充满不确定性的未来。这不仅仅是一场技术革命，更是一场关乎人类未来的深刻变革。
9 P( c! r) h8 L- N/ M1 j2 \- u
) E' R2 Z, m: L  H/ ^参考链接： https://www.nytimes.com/2025/03/ ... t-ben-buchanan.html
4 U- V* V$ G1 ?1 T( }
纽约时报这个链接可能要付费，需要原文的话可以群里喊我，我扔群里。

孟词宗

他认为，那些“极其强大的 AI 系统”很可能在未来两三年内就会出现，甚至有可能在特朗普总统的第二个任期内（如果他当选的话）就成为现实。

$ j, F; s5 H1 q# \4 k% h看了原视频 https://www.youtube.com/watch?v=Btos-LEYQ30 ，貌似没有括弧里的这个注解。而且访谈发生在3月4日，川总2.0都已经一个多月了。这属于 AI 幻觉的一种？

xiejin77

孟词宗 发表于 2025-3-6 00:44
2 v) v: t$ `) A6 V& C# L看了原视频 https://www.youtube.com/watch?v=Btos-LEYQ30 ，貌似没有括弧里的这个注解。而且访谈发生在3 ...

5 g! X# X' D$ K8 L4 V5 f3 i孟老师慧眼如炬，这话是我加的，本来想调侃一下。但是您一提醒，这看起来却很像AI的幻觉。

1 _, J# N% U; |- X. a原文是：
6 C" k/ y2 {+ @" [: Vbut better. They thought it would take somewhere from five to 15 years to develop. But now they believe it’s coming in two to three years, during Donald Trump’s second term。
" C2 ]3 C- K0 g/ w5 @. r4 i
% o- M) U% X8 z/ E! X[attach]原始文章[/attach]