两个AI自己吵起来了,一个说对方欺骗了自己,一个说对方是胡说八道。
而我,差点又被带进了一个大坑。还好我还保持着朴素的物理直觉,否决了某个AI的建议。
言归正传吧。现在看来,为了解决复杂的问题,还是需要人在回路。
此前我为了压榨(此词划掉)激发AI的能力,强制要求AI做问题分解并证明子问题。AI为了完成我的要求,有时候会偷偷修改问题的假设,然后给出子问题的证明。另一个AI也没审查出来这个错误。我就是掉在这样的大坑里,用了好几天才爬出来。
现在我的做法是,还是强制让AI做问题分解,分解到我能理解的程度。但是子问题的表述需要我自己去人工核对,看看有没有违反物理直觉的地方,这应该是人类智慧的最后堡垒了。