爱吱声

标题: 从公益到AGI：OpenAI的蜕变之路 [打印本页]
作者: xiejin77    时间: 2024-12-30 12:20
标题: 从公益到AGI：OpenAI的蜕变之路
. b7 v# K' \2 G" z
OpenAI，这家站在人工智能浪潮之巅的公司，自成立以来就备受瞩目。它以开发“安全且有益”的通用人工智能 (AGI) 为使命，并将其定义为“在大多数具有经济价值的工作中胜过人类的高度自治系统” 1。OpenAI 的发展历程充满了变革与挑战，其从最初的非营利组织转型为营利性公司，以及与微软的深度合作，都引发了业界广泛的关注和讨论。% d% \6 N* n/ e! @4 W
/ q7 y: M2 s, [% O: Z
正好数值分析老师问起来，我顺手查找整理了一下OpenAI 从公益性质到 AGI 的发展历程，但愿能有所帮助。
% ~6 W8 x$ |& ^- P/ v- t
) r0 Z$ W. v1 V8 y, X: e$ w# ^* IOpenAI 的创立与初心2 U5 G# X4 [: T/ ~# \. M
OpenAI 成立于 2015 年 12 月，由一群科技界的领军人物发起，包括 Sam Altman、Elon Musk、Ilya Sutskever、Greg Brockman 等 1。最初，OpenAI 的目标是构建安全、有益于全人类的 AGI，并以非营利组织的形式运营，致力于“以最有可能造福全人类的方式推进数字智能，而不受产生经济回报需求的限制” 2。
  H! h  I) f- e" e' P  x3 v; ~) u
OpenAI 的创始人们认为，强大的 AI 技术，最终将发展为 AGI，它拥有重塑社会和带来巨大福祉的潜力，同时也存在必须安全解决的风险 4。为了避免 AI 被少数强大的公司或政府垄断，OpenAI 选择以非营利组织的形式运营，并承诺公开分享研究成果和专利，以促进 AI 技术的集体进步 5。
) @9 k4 `3 o9 u8 S; Q5 Y# l; A" z
在成立初期，OpenAI 的工作重心主要放在研究上，发表了涵盖机器学习和人工智能各个方面的论文 6。他们进行了从游戏 AI 工具包到机器人研究的各种实验，并发表了多篇论文 6。OpenAI 坚信 AI 应该成为个人意志的延伸，并本着自由的精神，尽可能广泛而均匀地分布 3。& H# N' Q6 T  g0 k/ r2 i- [
; d; s& B: H3 h! c, m, U7 |& ~: j( @
OpenAI 的创立并非一蹴而就，而是源于创始团队对 AI 发展趋势的深入思考和对 AI 安全的共同关注 7。早在 2014 年和 2015 年，Elon Musk 和 Sam Altman 就分别表达了对超级 AI 潜在威胁的担忧 7。他们认为 AI 的发展不可避免，但必须确保其安全和合乎伦理的使用 7。为此，Altman 甚至提议发起一个类似“曼哈顿计划”的 AI 项目，旨在创造第一个用于个人赋能和全球福祉的通用 AI 7。' c; Y6 g5 c3 y  J

  A# r4 K2 J7 F2 yOpenAI 的这种创立精神和对 AGI 安全、负责任的开发理念，在吸引人才方面发挥了重要作用 8。许多顶尖 AI 研究人员被 OpenAI 的使命所吸引，选择加入这个致力于推动 AI 发展，造福全人类的团队 8。! J# h9 n. a+ B9 K* W

! e3 E# f" d4 U% G1 a% M& T早期投资者的影响
3 n3 L9 V2 f. v/ [2 ^虽然 OpenAI 以非营利组织起步，但其雄心勃勃的目标也吸引了众多知名投资者的支持。OpenAI 的早期投资者包括 Reid Hoffman、Peter Thiel、Jessica Livingston 和 Elon Musk 等 1。他们承诺提供 10 亿美元的资金，但截至 2019 年，实际筹集到的资金仅为 1.3 亿美元 1。这些投资者为 OpenAI 提供了重要的资金支持，但也对 OpenAI 的发展方向产生了一定的影响。
8 H8 Q' M; M: b- D
" t$ K& K* L/ T例如，Elon Musk 曾提议将 OpenAI 与特斯拉整合，但他对 OpenAI 的愿景与其他董事会成员存在分歧，最终导致他离开了公司并撤回了部分资金 9。$ [0 q! m1 I, K% i& E
$ h- [1 `; F8 c4 S6 K4 M
从非营利到营利：OpenAI 的转型
" o+ ^: z; ^3 Y5 s# X0 P随着 AI 技术的快速发展和研究的深入，OpenAI 意识到构建 AGI 需要比预期更多的资源，特别是巨大的计算能力 4。最初设想的 10 亿美元捐款目标也远未实现，截至 2019 年，OpenAI 非营利组织收到的总捐款约为 1.305 亿美元 4。为了维持运营并保持竞争力，OpenAI 在 2019 年宣布成立一个“利润上限”的营利性子公司 OpenAI LP 10。
% z$ j  |; r- s7 t5 ^# `9 h
; d# g( p- V' W根据 OpenAI 的“利润上限”结构，投资者的回报上限为其初始投资的 100 倍 11。超过此上限的所有剩余价值将返还给非营利部门 11。这一结构旨在激励投资者和员工以平衡商业利益与安全和可持续性的方式研究、开发和部署 AGI，而不是专注于纯粹的利润最大化 4。
: Y, ^2 {% Y0 d' J9 F8 m- @" C5 Z5 q: L  E
然而，这种“利润上限”的模式也面临着挑战。潜在投资者认为利润上限是一个障碍，现有的结构也无法满足股东对财务回报的期望 11。此外，OpenAI 也面临着巨大的财务压力，据统计，OpenAI 预计今年将亏损 50 亿美元，而收入仅为 37 亿美元 11。( ]' L+ X/ R1 |

" E+ t4 j! \3 m4 M, Q最终，OpenAI 决定转型为一家完全的营利性公司，以 Delaware Public Benefit Corporation (PBC) 的形式运营 11。这意味着 OpenAI 将更加注重盈利，但同时也会将社会效益作为其公司目标之一 11。& b' h6 m8 ]+ N, W
# f) j  j% c/ _+ F& i2 U6 B
这一转型引发了业界的广泛关注和讨论。一些人担心 OpenAI 会因此偏离其最初的使命，将利润置于社会效益之上 12。Mozilla 就对 OpenAI 的转型提出了批评，认为 OpenAI 已经不再是一个以公益为目标的组织 13。但也有人认为，新的结构可以帮助 OpenAI 吸引更多投资，加速 AGI 的发展 14。8 F/ f! d' O1 n; y" M
  [$ \0 S; ?6 _% a
与微软的合作3 s$ w1 ]: A8 g; M* u, G( J
在 OpenAI 寻求更多资金支持的过程中，微软成为了其重要的合作伙伴。2019 年，微软向 OpenAI 投资 10 亿美元，并成为其独家云计算提供商 15。这笔投资为 OpenAI 提供了强大的计算资源，使其能够进行更大规模的 AI 研究和开发。
( {, C3 x1 J; V+ u
; \" l4 w% u% ?' T! V! {- y微软与 OpenAI 的合作对双方都带来了巨大的利益。OpenAI 得以利用 Azure 云平台的强大计算能力来训练和部署其 AI 模型，而微软则可以将 OpenAI 的 cutting-edge 技术整合到其产品和服务中，例如 Bing 搜索引擎和 Microsoft 365 Copilot 15。, q2 f- [# n- B6 h6 a
. }( y3 D4 o6 t/ M+ J* o. h
然而，这种深度合作也引发了对 OpenAI 是否会过度依赖微软的担忧 16。为了降低风险和成本，微软也开始寻求与其他 AI 公司的合作，例如 Anthropic 和 Google 17。7 v2 D6 [# {  `/ F7 V1 e+ e; z( b
& Z3 }8 P: f  m. }/ o: y
微软与 OpenAI 的合作也对 AI 行业的竞争格局产生了深远的影响。微软将 OpenAI 的技术整合到其产品中，例如 Bing 搜索引擎，可能会改变 AI 搜索的模式，吸引更多用户 18。同时，这也引发了关于创新和排他性之间平衡的讨论 18。微软倾向于专有系统，而 OpenAI 则朝着开源模型发展，这两种不同的理念如何在合作中得到协调，将是未来发展的重要课题 18。
2 o9 ]' A6 x1 y3 h
0 T( R2 P( d  J2 F0 X9 vOpenAI 的 AGI 发展路线图
9 _/ `, U+ N& n1 E) DOpenAI 的 AGI 发展路线图经历了多次调整，反映了其对 AGI 的理解和发展策略的演变。最初，OpenAI 将 AGI 定义为“在大多数具有经济价值的工作中胜过人类的高度自治系统” 1。
6 t+ A" ?! w3 @, g( |4 j& B5 n
2024 年，OpenAI 内部提出了一个新的五阶段 AI 发展路线图，将 AI 的发展分为五个阶段：
& _7 ^5 h) W0 p% p$ w
, c9 }  q( Z. ~2 G; w. g7 ~3 D9 NLevel 1 Stage AI: Chatbots: AI with conversational language.- g+ l: E+ W% @( Y( u4 m
Level 2 Stage AI: Reasoners: Human-level problem solving.+ S+ {/ K9 g" K5 Q% e3 w
Level 3 Stage AI: Agents: Systems that can take actions.; [) A$ r+ U3 A8 E
Level 4 Stage AI: Innovators: AI that can aid in invention.
! A$ G. |& M4 b" ALevel 5 Stage AI: Organizations: AI that can do the work of an organization19., E/ H9 i  Q( f% @$ J
这一路线图表明 OpenAI 正在逐步推进 AGI 的发展，并更加注重 AI 的实际应用 19。OpenAI 认为，第一个 AGI 只是智能连续体上的一个点，AI 的发展将会持续下去，并可能在很长一段时间内保持过去十年的发展速度 20。- v1 P5 J) G$ ^

. p% ?! P' ~& Z: c8 }; F+ O这个五阶段路线图也与行业发展趋势相符 21。为了迎接每个阶段的到来，OpenAI 建议企业和组织采取相应的措施，例如培训团队学习如何与 AI 系统沟通、整理数据以供 AI 使用、以及将业务流程系统化 21。: c( U) l; p/ K2 x) W4 z
1 c$ Z* K' i+ e- A) |
值得注意的是，OpenAI 对 AGI 的定义发生了微妙的转变。从最初强调经济效益，到如今更关注 AI 的综合能力和发展阶段，OpenAI 对 AGI 的理解更加全面和 nuanced 1。这可能是因为 AGI 本身的复杂性以及对其发展路径的不断探索所致。9 l0 c+ ?0 X% r- n+ R  M

6 W1 |4 }3 q# P" C6 n- }  ~8 Z, ?3 C伦理与安全挑战
% o* k7 U$ x( \  P- a$ N9 MOpenAI 在追求 AGI 的过程中，也面临着伦理和安全方面的挑战。一些 AI 安全研究人员对 OpenAI 的发展方向表示担忧，认为 OpenAI 过于注重 AI 能力的提升，而忽视了安全和伦理问题 22。例如，OpenAI 的一些 AI 安全专家，如 Dario Amodei 和 Paul Christiano，已经离开了公司 7。
% p5 [$ o% W3 w8 }: s' w. r8 ~: L( O/ D
OpenAI 承认 AGI 发展带来的潜在风险，例如，一个未 alignment 的超级智能 AGI 可能会对世界造成严重危害；一个拥有 decisive 超级智能领导权的独裁政权也可能做到这一点 20。因此，OpenAI 也在积极探索如何确保 AGI 的安全性和 beneficiality，例如，他们认为广泛分享 AGI 的好处、获取途径和治理方式至关重要 20。! k8 L. }* v2 J! S+ S& a1 m. m+ _" W
/ F) d; C. \% p& {3 W
OpenAI 的产品和服务) M/ H7 [9 _+ E, {6 ?: I) Y/ u
OpenAI 目前提供一系列产品和服务，这些产品和服务都与其 AGI 使命密切相关，并体现了其商业化程度的不断提高 23。主要产品和服务包括：; U7 q) j( Z: [: o, A& c' q

; k$ L* q9 D5 Q8 j6 JGPT 系列大型语言模型: 用于生成文本、翻译语言、编写不同类型的创意内容，并以信息丰富的方式回答问题。GPT 系列是 OpenAI 最具代表性的产品之一，其强大的自然语言处理能力使其在各个领域都有着广泛的应用前景。0 o  `' _, e( f8 b, ~, ?/ b: \1 j
DALL-E 系列文本到图像模型: 用于根据自然语言描述创建逼真的图像和艺术作品。DALL-E 的出现，使得 AI 可以根据人类的语言指令进行创作，这为艺术创作和设计领域带来了新的可能性。9 w# Z  v9 a) |3 G- ^+ l( I
Sora 文本到视频模型: 用于根据文本提示生成逼真的视频。Sora 是 OpenAI 在 2024 年发布的最新产品，其强大的视频生成能力再次展现了 AI 技术的巨大潜力。2 |, h( A# z) j6 }7 X2 V
OpenAI Codex: 用于将自然语言翻译成代码。Codex 可以帮助程序员更高效地编写代码，提高软件开发效率。
% C4 d* J& M+ v4 g. eChatGPT: 用于进行对话式交互。ChatGPT 的出现，使得 AI 可以与人类进行更加自然流畅的对话，这为客服、教育等领域带来了新的应用场景。
! ?; l$ J! i* J( ~Assistants API: 用于在应用程序中构建 AI 助手。Assistants API 可以帮助开发者将 OpenAI 的 AI 技术整合到自己的应用程序中，为用户提供更加智能化的服务。
/ B$ M' G! A2 s. K业界对 OpenAI 的评价
4 C" E* z2 s3 P; H# {OpenAI 的发展方向引发了业界的不同评价。一些人赞赏 OpenAI 在 AI 技术方面的突破和创新，但也有人对其商业化方向表示担忧 12。' X: E; x0 I/ n

: S0 V0 L2 O6 p* Y3 D# e例如，Mozilla 总裁 Mark Surman 认为 OpenAI 已经不再是一个公益组织，其真正的长期目标是利润 25。但也有人认为，OpenAI 的商业化运作可以加速 AI 技术的发展，并最终造福全人类 26。
# ?& K% }, }, Z( V3 H0 `* o  b# d+ `8 H% o/ f! s
OpenAI 的 o3 模型也引发了业界的广泛关注。一些专家认为，o3 模型的推理能力比其他任何模型都强，尽管其运营成本较高，但这并不重要，因为技术成本会随着时间推移而下降 27。但也有人质疑 o3 模型是否真的达到了 AGI 的水平，认为其在某些问题类型上仍然缺乏鲁棒性 27。
3 f7 S' g- r$ N8 n( ^* T5 X+ n- Q$ l2 z" @0 d
OpenAI 的转型也引发了关于其内部管理和人员变动的讨论。例如，联合创始人 John Schulman 离开了 OpenAI，加入了另一家 AI 初创公司 Anthropic 28。这些变动可能反映了 OpenAI 内部对 AGI 发展路径和公司战略的不同看法。: N! e/ _$ o+ K; @0 b

1 }, P" _' @7 [+ _2 m5 U结论与展望/ I/ c! _8 b* s
OpenAI 从最初的非营利组织转型为营利性公司，其发展历程充满了变革与挑战。OpenAI 在 AI 技术方面取得了显著成就，但也面临着商业化和伦理方面的质疑。
6 m3 ]( e/ t+ x) l) t8 H% _  j
5 `. R' c% v4 _- X) k6 V2 HOpenAI 的转型对其“确保通用人工智能造福全人类”的使命提出了新的挑战。一方面，营利性的模式可以为 OpenAI 带来更多资金和资源，加速 AGI 的发展；另一方面，也可能导致 OpenAI 更加注重商业利益，而忽视社会效益和伦理问题。
; p7 c2 v/ v0 G7 p' J
! X: O9 z: k' H+ d, [: N未来，OpenAI 需要在技术创新和社会责任之间找到平衡点，才能真正实现其使命。这需要 OpenAI 积极回应业界的质疑，加强与 AI 安全研究人员的合作，并制定更加完善的伦理准则。
0 V/ c' N3 P7 E
, c. [" p# y7 o+ y$ z7 pOpenAI 的发展历程也反映了 AI 领域发展的大趋势：AI 技术正在快速发展，并逐渐走向商业化应用。在这个过程中，如何平衡技术发展与社会责任，将是所有 AI 公司都需要面对的重要课题。
1 i2 e' {3 q' M4 Y' y2 L$ O# ]" p! R. f7 F
OpenAI 发展历程
. N* Z9 o, E" o% g' z$ ]事件        时间        描述        影响! V. h% N/ k2 z, Z% \1 T
成立        2015 年 12 月        由 Sam Altman、Elon Musk 等人创立，以非营利组织的形式运营。        奠定了 OpenAI 的发展基础。
7 S* Z8 [0 Z& f4 G0 x5 L$ p) y3 F; e微软投资        2019 年        微软向 OpenAI 投资 10 亿美元，并成为其独家云计算提供商。        为 OpenAI 提供了强大的计算资源，但也引发了对 OpenAI 是否会过度依赖微软的担忧。
* o3 ~$ W) m$ P' M4 P: g2 P# U' v转型为营利性公司        2019 年        OpenAI 成立“利润上限”的营利性子公司 OpenAI LP。        引发了业界对 OpenAI 是否会偏离其最初使命的讨论。
/ s  n8 l# v7 M6 J+ @发布 ChatGPT        2022 年 11 月        发布对话式 AI 模型 ChatGPT，引发了全球对生成式 AI 的广泛关注。        加速了 OpenAI 的商业化进程。
5 L; S7 S/ E1 M, f" n' ~& u发布 Sora        2024 年        发布文本到视频模型 Sora，进一步拓展了 AI 的应用领域。        巩固了 OpenAI 在 AI 领域的领先地位。
" e. Q" A5 A5 |; n5 Y. \提出新的 AGI 发展路线图        2024 年        内部提出了一个新的五阶段 AI 发展路线图，将 AI 的发展分为五个阶段：聊天机器人、推理器、代理、创新者和组织。        表明 OpenAI 正在逐步推进 AGI 的发展，并更加注重 AI 的实际应用。1 y# K+ D  }' S) ^6 k" s
转型为 Public Benefit Corporation        2024 年        OpenAI 宣布计划转型为 Public Benefit Corporation，以平衡盈利和社会效益。        引发了业界对 OpenAI 未来发展方向的新一轮讨论。
* q, ]: P# Y2 w: K引用的著作
$ [! ^! K7 A  D1. OpenAI - Wikipedia, 访问时间为 十二月 30, 2024， https://en.wikipedia.org/wiki/OpenAI
6 z' R% L! U& J6 {- l6 u2. OpenAI Charter, 访问时间为 十二月 30, 2024， https://openai.com/charter/
+ |/ Z; W% |8 |* Q- m3. Introducing OpenAI, 访问时间为 十二月 30, 2024， https://openai.com/index/introducing-openai/
& J/ J. L8 q! r3 [4. Our structure | OpenAI, 访问时间为 十二月 30, 2024， https://openai.com/our-structure/
0 Z0 {) v5 M# G# I9 |! [- f5. OpenAI Founders' Journey - A Transformer Organization, Transformed - CoffeeSpace Blogs, 访问时间为 十二月 30, 2024， https://www.coffeespace.com/blog ... company-transformed
0 \# h6 ^5 a: O6. Why OpenAI's Structure Must Evolve To Advance Our Mission, 访问时间为 十二月 30, 2024， https://openai.com/index/why-our ... dvance-our-mission/# W2 F8 R* t& v# P% S" d
7. Timeline of OpenAI - Issa Rice, 访问时间为 十二月 30, 2024， https://timelines.issarice.com/wiki/Timeline_of_OpenAI% {. b" q9 x* X8 [: l; [
8. OpenAI in the Context of Steward-Ownership — Blog Post 1 on the “OpenAI Saga” - Medium, 访问时间为 十二月 30, 2024， https://medium.com/@purpose_netw ... i-saga-dd07fea9eecd1 Q& y; c' y6 p) t) f! d
9. The secret history of Elon Musk, Sam Altman, and OpenAI | Semafor, 访问时间为 十二月 30, 2024， https://www.semafor.com/article/ ... m-altman-and-openai
) Y! g& P- g8 G! U10. The OpenAI Mission - Greg Brockman, 访问时间为 十二月 30, 2024， https://blog.gregbrockman.com/the-openai-mission' q4 ^! D$ G: v  f) Z( V# O5 u0 F
11. OpenAI switching to a for-profit company to raise more cash as it continues to lose money, 访问时间为 十二月 30, 2024， https://www.tomshardware.com/tec ... inues-to-lose-money
& H; ^# h# |: h# \3 Y& A/ J5 ?12. OpenAI's Bold Leap: Transitioning to a For-Profit Public Benefit Corporation | AI News, 访问时间为 十二月 30, 2024， https://opentools.ai/news/openai ... benefit-corporation% N; r: k) _( V4 f. g1 o9 A/ |
13. OpenAI looks to convert from nonprofit roots and become for-profit company | PBS News, 访问时间为 十二月 30, 2024， https://www.pbs.org/newshour/nat ... -for-profit-company- d* V1 j# j) [3 i: M& C  [
14. OpenAI Ditches Non-Profit for a Profitable Future: Here's Why It Matters | AI News, 访问时间为 十二月 30, 2024， https://opentools.ai/news/openai ... eres-why-it-matters) g! u9 q6 E8 {1 I8 J/ m# m2 m
15. Microsoft and OpenAI: The Multi-Billion-Dollar Partnership That's Revolutionizing AI, 访问时间为 十二月 30, 2024， https://bravenewcoin.com/insight ... -revolutionizing-ai
6 `: R5 @- V4 H5 S3 H! |16. OpenAI Microsoft Partnership: Signs of Fraying in the Tech Bromance, 访问时间为 十二月 30, 2024， https://inside-machinelearning.c ... rosoft-partnership/' Z' {: m3 z! U0 i4 \+ B0 c% Y
17. Microsoft Ends Exclusive AI Romance with OpenAI: New Partnerships Take Center Stage!, 访问时间为 十二月 30, 2024， https://opentools.ai/news/micros ... s-take-center-stage5 S3 U% j; o+ @6 d2 R9 ^
18. The Tension Between Microsoft and OpenAI: What It Means for the Future of AI - Unite.AI, 访问时间为 十二月 30, 2024， https://www.unite.ai/the-tension ... r-the-future-of-ai/0 T2 g! K& E& |2 W/ `
19. OpenAI's 5-Stage AI Roadmap, Explained Using the “3 Levels of AI Adoption and the 6 Levels of Autonomous Companies” | by The Last AI - Medium, 访问时间为 十二月 30, 2024， https://medium.com/@The_Last_AI/ ... els-of-e295693cc105
; k' v% H$ ]& {20. Planning for AGI and beyond | OpenAI, 访问时间为 十二月 30, 2024， https://openai.com/index/planning-for-agi-and-beyond/  B1 {' l' ?, @
21. OpenAI's Leaked AGI Roadmap — Explained - The AI Exchange, 访问时间为 十二月 30, 2024， https://news.theaiexchange.com/p ... i-roadmap-explained
& k; m  W" ~4 H9 \  F22. 'World isn't ready': OpenAI expert departure raises alarms on AGI readiness, 访问时间为 十二月 30, 2024， https://etedge-insights.com/tech ... r-agi-safety-risks/
$ ?+ h" H2 j! u. D0 k0 q' q23. API platform - OpenAI, 访问时间为 十二月 30, 2024， https://openai.com/api/
5 c$ y( W- E9 |24. Product | OpenAI, 访问时间为 十二月 30, 2024， https://openai.com/news/product/! y; N( i6 z4 |4 T) }' i4 B
25. OpenAI looks to shift away from nonprofit roots and convert itself to for-profit company, 访问时间为 十二月 30, 2024， https://apnews.com/article/chatg ... f51796244e0072e2dfb9 [  O" f0 \0 }/ J% O8 i
26. OpenAI's $100 Billion AGI Benchmark: A Game-Changer or a Profit Pitfall? - OpenTools.ai, 访问时间为 十二月 30, 2024， https://opentools.ai/news/openai ... or-a-profit-pitfall4 M+ ^% V6 A. {2 D9 V
27. Influencers Discuss Arrival of AGI As OpenAI's O3 Model Ignites AI Hype, 访问时间为 十二月 30, 2024， https://www.hotelnewsresource.com/article134622.html
9 H1 u! ]$ o/ }' D4 i" i28. OpenAI's For-Profit Shift: Restructuring and Executive Movements Reshape AI Landscape, 访问时间为 十二月 30, 2024， https://complexdiscovery.com/ope ... shape-ai-landscape/



欢迎光临 爱吱声 (http://www.aswetalk.net/bbs/) Powered by Discuz! X3.2