爱吱声
标题:
AI能取代自控吗
[打印本页]
作者:
晨枫
时间:
2023-10-5 01:07
标题:
AI能取代自控吗
这个问题说来话长。我的观点：AI加强了自控的重要性，而不是降低。自控是AI的手脚，AI是自控的大脑。手脚灵便可靠，大脑才能发挥作用。
% n* t; m" ~$ u! x, s
+ y; a8 q/ |) i) m. h* v) v
用AI直接控制，在理论上可以，在实际上做不到。首先违反KISS原则，其次在可预见的将来AI解决不了行为“不可预测、难以理解、无法信任”的问题。
( F& T! t; f( G, v$ q; E9 ]
9 C# H. _" T+ |9 Q: M8 _- H
AlphaGo下出的一些棋路至今人们无法理解。这样的AI用于指挥决策是有很大顾虑的。
2 m/ G) g9 z' ~ p/ w
: n R8 L' Z2 }! C1 S
就最简单的神经元网络（NN）建模而言，由于模型行为太不可预测，人们曾经用“有界NN”规定一条走廊，不得越界。这在本质上把NN从非结构化变为结构化，退化为形式更加复杂的一般回归模型了。但不加约束，在数据点之间可能乱跑，我就碰到过这样的事。所有模型都需要在数据点之间内插和两端之外外推，这样的乱跑是不可接受的。
) C% F2 y3 z. g/ N; S2 o
/ x1 Y0 a$ M, X4 z: v
现在Chat GPT在很多时候很靠谱，但也有不少时间不靠谱。最大的问题是不知道什么时候靠谱，什么时候就不靠谱了。我们在测试的时候，有参考答案，可以判别。用这作为决策工具，你敢信吗？
9 l- Y8 C" w% P: l' E; N4 o6 z) ~8 D. R
7 c( H# z7 b# s2 S# L5 Y/ A
相比之下，自控基本上还是依靠确定性模型和工具，行为可预测、可靠，在很多时候（不是所有时候）可以从数学上证明收敛，其余的也已经有大量实践证明足够的收敛性。
2 ~9 X1 R+ p! V$ @
8 D w0 m& s/ t D+ O4 W7 F) V
即使从系统架构上来说，AI对自控也相当于串级系统，AI是上位，自控是下位。两者是互相补充的关系，不是互相替代的关系。
# \! d6 f- ^# T) x5 y) M
* N ^, V5 ~- g0 G' D: r9 l
我写了一本《实用过程控制》，机械工业出版社计划年底前出版，里面有一章专门谈这个问题。到时候欢迎点评。
欢迎光临 爱吱声 (http://www.aswetalk.net/bbs/)
Powered by Discuz! X3.2