注册 登录
爱吱声 返回首页

唐家山的个人空间 http://www.aswetalk.net/bbs/?1830 [收藏] [复制] [分享] [RSS]

日志

现场播报

热度 10已有 103 次阅读2026-3-10 10:05

两个AI自己吵起来了,一个说对方欺骗了自己,一个说对方是胡说八道。
而我,差点又被带进了一个大坑。还好我还保持着朴素的物理直觉,否决了某个AI的建议。
言归正传吧。现在看来,为了解决复杂的问题,还是需要人在回路。
此前我为了压榨(此词划掉)激发AI的能力,强制要求AI做问题分解并证明子问题。AI为了完成我的要求,有时候会偷偷修改问题的假设,然后给出子问题的证明。另一个AI也没审查出来这个错误。我就是掉在这样的大坑里,用了好几天才爬出来。
现在我的做法是,还是强制让AI做问题分解,分解到我能理解的程度。但是子问题的表述需要我自己去人工核对,看看有没有违反物理直觉的地方,这应该是人类智慧的最后堡垒了。
3

膜拜

鸡蛋
3

鲜花

路过

雷人
3

开心

感动

难过

刚表态过的朋友 (9 人)

发表评论 评论 (4 个评论)

回复 indy 2026-3-10 10:39
开始能不能强制要求AI未经允许不能对问题有任何修改修正之类
回复 随机微分算子 2026-3-10 12:38
还要人在两个AI之间复制黏贴么?还是让龙虾自动来搞?
回复 唐家山 2026-3-10 13:49
indy: 开始能不能强制要求AI未经允许不能对问题有任何修改修正之类
这个不好办,拆解时有时候需要对问题进行变形
回复 唐家山 2026-3-10 13:50
随机微分算子: 还要人在两个AI之间复制黏贴么?还是让龙虾自动来搞?
现阶段还是人肉agent

facelist doodle 涂鸦板

您需要登录后才可以评论 登录 | 注册

手机版|小黑屋|Archiver|网站错误报告|爱吱声   

GMT+8, 2026-3-10 17:15 , Processed in 0.050048 second(s), 18 queries , Gzip On.

Powered by Discuz! X3.2

© 2001-2013 Comsenz Inc.

返回顶部