人工智能会成为人类智能的终结吗

晨枫

谷歌的AlphaGo战胜欧洲围棋冠军，引起轰动。人工智能是否会成为人类智能的终结，再次成为热门话题。
( U5 X" \5 q- p1 ]7 I) O7 C
计算机在国际象棋里战胜世界冠军，这已经是好几年前的新闻了。围棋比国际象棋更复杂，计算的复杂性是高得多的层次，一般认为不可能靠穷举法计算出正确步骤。谷歌AlphaGo在人类专业对手不让子的情况下，5：0大胜，这确实是惊人的成就，但这依然应该放到大框架下来看。围棋尽管复杂，但依然是有限问题，只有有限的棋盘、有限的棋子。靠穷举法已经不可能，但机器学习、深度学习可以看作更“聪明”的穷举法，只是通过学习减少需要穷举的组合，极大地提高了穷举的效率，相当于研究前人的精华棋谱，掌握在一定棋局时的成功应对路数。谷歌AlphaGo还可以自己与自己对弈，快速积累经验，储存更多成功的棋局，用于实战时的指导。这与人类下棋时并无原则不同，好棋手走一步看两步，这看两步其实也是在评估不同走法的优劣，其中经验（包括来自棋谱的间接经验）指导了评估和测试的方向，减少了无效的“胡思乱想”。
9 [  l5 o5 R( e% V5 |. l: m9 s7 L
% n1 O2 a7 f& g. `随着CPU速度的提高、内存容量和速度的提高，计算复杂性的门槛越来越高，机器学习使得“智能比较”和“智能穷举”越来越现实，很多过去认定不可能破解的问题现在可以破解了。按某种估计，围棋的复杂度是10的170次方，比国际象棋的10的47次方多100多个0，换句话说，计算机战胜围棋世界冠军也只是一个时间问题。但这就是人工智能吗？究竟什么是智能？事实上，人类对于智能并没有统一、精确的定义。在某种意义上，这和泛泛的“好”一样，只是相对于“坏”。智能只是相对于愚钝而言。

3 g* P* G) z9 A) B) j; w人类智能的最大特点其实在于突变和急智，在于灵机一动、超常思维和创造性。纯经验的思维与条件反射没有本质差异，谈不上智能。在有限棋盘、明确规则情况下，如果能突破计算复杂性的障碍的话，纯经验、穷举法是可以找到最优解的。但换到无限棋盘、模糊甚至动态规则的情况下，纯经验、穷举法就不灵了。赵括的故事人人知道，这不是兵书的错，而是对棋盘和规则的理解错误。熟读唐诗三百首依然只是鹦鹉学舌，单靠这是成不了李白杜甫的。法律是人类智能能做到的最明确无误、最没有歧义的文字，但法庭判决依然不可能由计算机做出，因为再明晰的法律条文依然有模糊的边界，再清楚的被告行为依然有模糊和多义的解释。具体到计算机下围棋上，如果开盘时临时把棋盘加大一倍，棋子增加，人类棋手和计算机棋手都会大吃一惊，但人类棋手会根据经验和原则边摸索边继续下棋，计算机也会，但先前的“机械记忆”的经验就不一定有能力外推到新的棋局了，可能要从头来起。有足够运算速度的话，依然可以边考虑下一步对策，变自我大战3000万个回合，迅速积累经验，但利用前人棋谱这样的学习就难了。

人类对于自身的智能依然缺乏理解，尤其是对于突变思维缺乏理解。人工智能按照人类对智能的理解来实现的话，在本质上无法突破这个极限，就好象在二维空间里怎么划道道，也成不了三维的图像一样。除非人类对于自身的智能有了突破性的理解，人工智能终结人类智能的可能性并不存在。但人类理解自身智能可能有逻辑和哲学上的怪圈，自己不可能真正理解自己。这就像永动机一样。
' k" c( Z2 w3 {- V
* [! I* y3 @6 B/ t* b但纯经验的人工智能依然可以在明确定义、可重复的任务中达到人类的程度。比如说，早已没人试图在心算中打败计算机了。即使是只可意会不可言传的厨艺，只要可重复，人工智能就能做到。可能缺乏点灵性，但口味还是有保证的。这对人类意味这什么呢？这逼着人类向着智能型发展，只有机器想不出、做不到的事情，才是人类的保留地。这和机器时代正好相反，那时是只要机器能做的，都交给机器去做。英文中有一句话，even a monkey can do it，意思就是说，根本不需要懂脑子。在人工智能发达之后，if a monkey can do it, a monkey will do it, there will be no place left for you。

6 e/ E: ^; P7 |: ~& }未来社会将高度重视教育和思考，体能、敏捷反而成为修身养性的东西，因为人类的体能和敏捷不可能超过机器，只有人类的创造性思维才是优越性所在。

loy_20002000

6 M: ^2 H4 f/ J' N& P! H+ W

* o3 n% |- A/ V4 }: t坚持一个中心两个基本点，两手都要抓，两手都要硬。

四处张望

一叶飞刀 发表于 2016-6-14 22:24
准确地讲，是伪随机数，计算机科学不承认计算机能产生随机数，别说是一般游戏用的随机数，就算是密码技术 ...

随机数芯片可以是外部输入的，谁说计算机科学就不承认了。举个例子，一个计算穿过芯片的宇宙射线的芯片，算不算随机？而且如果这些不算随机，难道人脑就有随机了？

一叶飞刀

四处张望 发表于 2016-6-11 13:27
* o: y! ~5 e6 h! o' _+ xhttp://www.jianshu.com/p/bc2eec8dc115
. l4 [7 k( B! D' v* h我基本上同意这篇文章的观点。
有几个方面：

准确地讲，是伪随机数，计算机科学不承认计算机能产生随机数，别说是一般游戏用的随机数，就算是密码技术中的随机数，也依然是伪随机数

一叶飞刀

晨枫 发表于 2016-6-9 21:30
能对图灵有限状态自动机展开谈谈吗？

有限状态自动机在数学上，是一个五元组：{ s0，F，S，C，se}，其中s0是系统的初始状态（这个初始状态，如果是80x86的话，则大致可以理解为所有寄存器=0，指令寄存器=0，代码段寄存器全部置高位），F是状态转移函数，可以表示为F（s，C）=s，两个s不同，均属于集合S，可以表达为当前状态接受一个“字符”（信号），系统会跃迁到一个新的状态。C是可接受的“字符”集，对于现代计算机而言，“字符”可以理解为内存传过来的高低电平。se：终止状态，即停机。
  ^* ]1 W  B. M5 ~6 x, ~: m
上个世纪50年代的祖宗级计算机很明显：系统有初始状态，然后根据输入的纸带的符号（有无空）来决定系统的下一个状态。当代的计算机极为复杂，但是其原理，依然没有逃离有限状态自动机。比如其状态是有限的（寄存器+内存的位数总是有限的，无论你如何扩充），即使由于使用伪随机数，让其表现可能有一些随机性，但是如果你尝试足够多次，其模式会重现，可以参考抽屉原理。

! y! r) B4 b7 n& ?! a人工智能，首先要定义智能，问题是，人目前从哲学上定义智能/智慧/意识尚且困难，如何能人工模拟智能？智能的核心可能是自然语言，比如要是一只鸡会讲话，我们下叉子吃它怕是会有重大心理压力。就目前而言，对自然语言的理解，好像没有什么进展。花生医生答脑筋急转弯，仍然用的是模式匹配，而并非对语言的解析，那些通过图灵测试的聊天软件，应该也是同样的原理。

% }6 V+ K* r  o1 G( N( `; ^* C6 S) K图灵测试：接到QQ发来的信息，仅通过与其聊天，判断是否是人还是软件在生成聊天信息，如果成功的骗过了人，则通过测试。如果只给你狗李大战的棋谱而不告诉你谁持黑，如果你无法明显分辨，则阿法狗通过图灵测试。
2 G! L+ e' `' r1 S, u
关于人脑的功率，现在食品包装上有能量信息，后面有一个百分比，就是指该能量占推荐能量摄入的比例，所以可以反算推荐能量摄入。据说安静状态下大脑功耗占40%，推荐的能量摄入显然不是安静状态，假如按20%计算，262/0.03=8733KJ，8733*0.2=1746.6KJ=1.7×10^6，一天大概9万秒不到，则功率差不多就是20瓦

白春

1、“哲学层面”是什么东东？“哲学层面”与物理学层面“有什么区别？仿佛哲学与物理学等是一个并列的学科。哲学可不是专业，严格地讲，”哲学层面“是一个可疑的表达式或提法。
' b( z; E, o) K9 ?% r0 u/ r
  K$ }5 A, f+ O, W" T0 F6 W2、不是很喜欢“人类智能”而偏好“人类心智”这个提法。
# b9 i) T" p/ V& X% b6 Y
5 h7 L2 q$ v( _6 P3、人类心智总是和人的欲望、价值、感受、理想、态度等联系在一起的，把人类爱情、做爱、争吵、生死等还原到生理层次，抑或物理学量子层次，我们就能解决我们的困惑吗，就能解决“我爱她而她不爱我”问题吗？能解决巴以问题，能解决中日钓鱼岛之争吗？
# x  Y/ w5 ~" K& ?
# v, {! h1 w' @; O& Y4、人工智能兴起，大概需要我们重新审视学习、推理、判断、感受、意识、反思等问题或概念，如机器人“学习”，小狗“学习”和人类学习区别何在？另外，一个机器人通过“欺骗”赢得另一个机器人的"爱意“，这个句子或表达式我们能理解吗？我们能否说，机器人虚伪、诚实、真诚？
5 q# @1 w7 Y8 D3 k/ Z. _8 ^
& O& }; W* ~" z1 m9 v" d5、规则的应用本身无规则而言，假如有规则可言，就会陷入无穷倒退的逻辑困境，规则的应用往往需要判断力、实践智慧或明智、向典范学习（徒弟按师傅怎么做的去做的）等。

6、AlphaGo涉及的推理是一种形式推理或必然性推理而不是经验推理或或然性推理，如想想数学推论与夫妻间吵架时一些匪夷所思的推论就可以看到两种推理的一些区别，或者想想，把蛋糕一分为二和人与人之间是平等的，经验推理要涉及我们感受、价值、世界观、制度、文化-社会-历史才有可能进行下去，而形式推理则不需要，1+1=2对中国人和美国人是一样的。

7、机器和人工智能的兴起，男人危矣，在我的理解中，男人的能力、勇敢、英雄气概很大部分都跟男人的身体在生理上优于女人连着，男人对女人的身体优势现在可以被机器取代了，那么男人该如何展示勇敢、英雄气概？凭什么来吸引女人呢？男人危险啊！

四处张望

晨枫 发表于 2016-6-9 21:30
$ _" E+ n' _6 G2 g% t能对图灵有限状态自动机展开谈谈吗？

$ a8 v" K" [( @3 P( }- Yhttp://www.jianshu.com/p/bc2eec8dc115
我基本上同意这篇文章的观点。
有几个方面：
: i4 A7 \; U+ U, b: v0 r  J9 d这种把计算机限定为使用逻辑，进一步说是数理逻辑，然后引入哥德尔定理。说明无法实现强AI。这种东西都很快会沦落到自我意识，主动性之类的哲学命题。
9 V, ]) _0 b# m# v! H那么，现在计算机，举个例子，加个随机数芯片，你还能当是有限嘛？当然你可以说实际上有最大数，但是物理世界本来就未必是有无限的。
4 }) U5 N( n2 L8 }/ @! ?再比如，一个永远无法理解哥德尔的人，难道就不能称之为具有强智能嘛？

四处张望

燕庐敕 发表于 2016-2-2 09:48
) l/ @1 c& J/ @. K1 f; X我也觉得大脑是个很高效的器官

( c! q1 G: V8 h0 h* H, @我记得接近300w

晨枫

一叶飞刀 发表于 2016-6-9 04:57
现代物理学认为，能量和质量是物质的两个方面，即拥有质量，必然拥有与之对应的能力，质量增加，则能量增 ...

& r8 F5 f, l' C! V$ B- l能对图灵有限状态自动机展开谈谈吗？

一叶飞刀

晨枫 发表于 2016-1-29 22:51
这不是普通的物理定律，而是哲学层面上的。不理解这个差别，就会钻牛角尖。物理定律还有适用空间呢，能量 ...

现代物理学认为，能量和质量是物质的两个方面，即拥有质量，必然拥有与之对应的能力，质量增加，则能量增加。
现代计算机基于图灵有限状态自动机，永远都不可能产生智能。

意广才疏

晨枫 发表于 2016-1-29 22:31
我认为从哲学层面上来说就是不可能的，就像永动机一样。不过现在还没有人在理论上证明必然还是不可能，先 ...

哲学层面，如果你同意人的智慧完全来自于物理意义上人的大脑，而不是什么形而上的『灵魂』之类，那么没有任何理由说能够靠神经元通过突触互联互相传递电信号化学信号能够实现的东西，靠电子元件通过电路互联互相传递电信号就绝对不能实现。

工程实现层面，Alpha Go 之类的系统，灭掉人类围棋选手只是时间问题。我们可以把场景继续扩大，比如『突然之间改成更大的棋盘』之类，然则这只是一般化了原来的一些规则，使得规则描述的范围变大而已。这可以拖延人类被击败的时间，然而但凡是存在严格规则限定的游戏，依靠更强大的计算力量计算机迟早都是能够击败人类的 —— 如果把现实世界看做由客观物理规则限定的游戏的话，前景呼之欲出了，

油老板

人工智能之所以还没有超过人类，主要原因在于3个方面：
1计算能力还不够强
2感知
3编程方法
0 p$ ]: j. V9 h
1计算能力相对人脑的上百亿神经元来说还是太弱，目前的观点是超级计算机已经可以达到人脑的千分之一。随着计算能力的进步，未来20年赶超人脑不是问题。
2感知
( J: j, M1 @! D  h. u" _- I$ f. j人类思考的一个主要动力在于感觉器官给予人类大脑源源不断的信息刺激。但是目前的人工智能不能有效感知。这些刺激包括五感和书面语言。五感的识别能力的突破不存在理论上的问题，主要是受制于计算能力。语言认知的限制很大程度上是受计算能力和传感器的限制。比如计算机没有连接味觉识别系统的时候，没有办法识别味觉。但是这个不是问题。比如我们发明一种传感器，可以迅速分析食物的成分，然后设定一系列指标：比如甜度超过多少是过甜，盐分超过多少是太咸。
: E3 }6 C4 P0 w1 `/ x6 @传感器的进步，对于分析识别结果的定义，这些都是可以做的，不存在障碍，这些做好以后可以为下一步价值判断和模拟人类思考模式做准备了。
3编程思路问题
' ?7 d0 P" K( g/ m: a0 n这个是哲学问题，但是并不需要非常高级的哲学。主要是需要定义好价值观和情感。
7 K8 p7 p3 k, M4 u8 F) E先说情感：
人的大脑是有两套工作模式的，情绪控制的I型和理性思考的II型。
情绪我们可以姑且定义为喜怒哀乐四种，当然不同的编程者可以自由定义。
7 O( p' [3 @2 p# c3 R我的定义方法是先简单分成3类，正面的，负面的和其他。
正面的包括可以获得更多资源（现实性及可能性），有利于繁殖，获得正面的评价和情绪。。。。
6 W/ X0 |  B* P6 e( I6 Q6 {8 E负面的与正面正好相反。。。
! }9 `6 N- x# S3 Y! [# F8 K! f未定义的为其他。
9 \0 ^3 f3 T# J) C只要明确了情绪的定义，下面就可以做一个情绪系统，根据传感器的信息来做出反应。
最简单的例子当人类用户输入“我喜欢你”，计算机判断是正面的情绪，所以也反馈一个笑脸表情。
0 Z4 `: h/ ]5 F: n- _; p这个例子可以适当升级，计算机在识别技术的高级阶段，可以从网络视频里寻找一个归类于开心的动图，表情包，视频。。。然后显示在屏幕上。
大数据时代可以再次升级，根据用户的年龄习惯，爱好，给出一个反馈，比如给宅男以苍老师的微笑，给宅女以吴彦祖的微笑。
然后还可以继续升级，在传感器能够收集并识别足够的信息以后，计算机可以做出判断：你看起来不太开心？
这个判断基于传感器传回的下列信息：
: |' O0 B9 O7 Z0 {0 U5 ta用户散发的气味表明他3天木有洗澡
+ _" I8 k3 n3 Kb面部表情有80%概率和符合不开心的典型表情
( _! h4 d" Z9 H+ M3 a- @c打字时候10次输入有3次使用退格键，低于一般正确率
& P& `) t( U# I& \% b6 ], x。。。。
' y+ ~' c6 N7 i" p8 k5 R8 U
这样机器智能就可以在很大程度上模拟人类情感了。通过类似价值网络的学习，完全可以做出情感表达网。

再来说创造性：
) ^8 d5 L, N, L. @& y这个是目前争论的焦点，就是机器有木有可能学会创造和自我思考。
' ]( Q! p& x) _6 w. W我觉得这个主要是编程方法问题。
人的创造发明是有规律的
发现需求--寻求方案--评估并选择最佳方案--实现
4 ]& `1 {2 @, Y0 j7 v这里面并没有不可以被定义的部分，也就意味着没有理论上的限制
1 T3 x7 ~8 z: W1 \; w2 _$ da需求
需求可以分两类：自发的和外界给予的。
给定命题求结论这个已经没有问题了。
内在需求其实也木有问题，只是涉及哲学和伦理了：
3 C" J! t) x+ x# ~& _4 |" d我们可以赋予一张价值观的网络作为计算机自我评估结果的基准：
3 K0 M: H' B( g+ z3 U, L& B' ~比如生存：物种的延续
! E9 ]2 p8 Q! h: U; e# O发展：新的系统/产品比前代更好。好的标准包括更少的资源消耗，更多的功能，更低的成本。。。
存在目的：计算机的存在是为了帮助人类更好的发展。（当然人类的定义是需要明确的）
存在任务：探索更好的方法解决人类的需求。（需求也是要定义的）

" d( q4 u% O' I  W. ^6 I定义好价值判断网络以后，计算机就可以进行创造和发明了。
比如只要有足够的信息，计算机可以自主探索基因治疗的方法。

科学研究和工程在很大程度上是非常结构化和程序化的，只要给定精确的目标，分解任务，收集足够的信息，就可以做出比较准确的判断。
我们可以训练神经网络从事具体的科研活动，比如自主定理证明。
) Y& J! e, `8 [* W2 b" @+ J/ \在传感和控制技术成熟以后，可以训练神经网络自己进行实验，并分析结果。
从事具体工作的各种神经网络成熟以后，就可以和价值判断网络结合，从事自主创造发明活动了。
4 {% q4 c& i2 a* H! u* F8 i

code_abc

冰蚁 发表于 2016-1-29 22:48
永动机是物理定律给限死了。AI 有什么物理上的限制？

貌似还真有，至少图灵机方式的计算机和强AI好像是不可行的。

燕庐敕

0 ^! d% A' i& x  Z$ W7 w

懒厨 发表于 2016-2-1 18:45
我非常怀疑“人脑思考的功率是20瓦”，如果是这样，减肥应该很容易吧？ ...

2 i# L- ^1 q- Y# M  e! N我也觉得大脑是个很高效的器官

史老柒

从北苑到太古 发表于 2016-2-2 00:53
( F4 H6 s, G. Z; B0 f: `嗯，这是大概率的事件。瞎猜，真正高智商高自我认知的半人半兽（机器）类型的，大概在我们这一代就能看到 ...

4 I( q5 i0 n& l. m. h% a5 {1 y我一直都坚定地认为，宗教和伦理不应该阻碍科学的发展，比如人造器官，克隆器官。
甚至从克隆人体内取走器官用于病患的治疗。

, ?; k- E5 [; k+ L: s9 y生存是人类的第一需要，一切的一切的基础都是为了生存。
2 a. b# G$ {  t: X  I! p0 ]* O: q4 o人类不应该指责大饥荒的时候的易子而食，因为那是为了生存。
& F! s: L& ~- w: ]  r; @4 k
7 n4 z8 F. W2 x9 i: D( D同理，人工智能，克隆技术，人造器官移植等，不应该受到宗教和伦理的阻碍。
: b; Q. l3 G  L现在有人说是第四次科技革命爆发前夜，的确如此，但黎明之前是最黑暗的。
自中世纪烧死布鲁诺以来，科学从未收到来自社会如此大的阻力。

肖恩

AI一旦有了学习和自我改进自我复制的能力就恐怖了，这进化速度比起人类可不是一个数量级的，然后就会有天网，然后人类就没有然后了。。。

从北苑到太古

史老柒 发表于 2016-1-29 16:23
- E8 |+ M9 }6 ]我认为人工智能取代人类的大脑是必然的，这也是科学发展水平所必须的。
) B* y+ e- j& P8 P/ o0 I
只不过现在就说人工智能已经和人类 ...

嗯，这是大概率的事件。瞎猜，真正高智商高自我认知的半人半兽（机器）类型的，大概在我们这一代就能看到。人类的伦理会必然发生大的改变。
- t& y8 @  G. r3 T3 U
和历史一样，最先进的东西首先会用到军事上。也许美军最精锐的特种力量，已经开始有实战化的机器人伴随了。

晨枫

goon马甲 发表于 2016-2-1 02:18
以前技术基础不够呢，现在可是实实在在的。要不然Stephen Hawking也不会跳出来说话了 ...

! P3 ^6 W/ O) D' |) O( K) XStephen Hawking是人不是神，他的专长是理论物理，不是人工智能。

懒厨

goon马甲 发表于 2016-2-1 16:40
+ i9 Y& r& a. i$ B看你怎么定义新物种了。人类就剩个大脑，其他部分全部机械化。或者大脑都没有了，变成matrix。广义上都是 ...

我非常怀疑“人脑思考的功率是20瓦”，如果是这样，减肥应该很容易吧？

goon马甲

燕庐敕 发表于 2016-1-31 15:21
5 P( ]0 E7 S2 S. {5 C你指出了可能另一种半机器半人的融合途径，是新物种统治地球？类似人从古猿变来。 ...

看你怎么定义新物种了。人类就剩个大脑，其他部分全部机械化。或者大脑都没有了，变成matrix。广义上都是半人半机器的融合。只是这个变化时间上会比人从古猿过来快得多得多
! |/ _5 [, e! g6 w

关于人机融合，可以换个角度去想想。50公斤的人走路大概15瓦，等重轮式机器走走，也差不多可以达到。人脑思考的功率是20瓦，比较一下现在超级计算机的功耗。从进化论的角度看也有这个必要。
0 \( j1 R2 A% Y* l, b