犯傻的 AI
本周会议比较多,看着密密麻麻的颇为头痛,让Claude给我总结一下在我的办公 IM 上发给我,是通过一个企业内部的 skill 实现的。
然而Claude总结完之后我发现它把会议的日期全部往前移动了一天。想起来之前有一次我在测试那个skill的功能时也遇到这个情况了。于是问 Claude 为何会这样,是不是选错了时区,或者办公 IM 的日历系统有 bug。
我并没有怀疑是 Claude 搞错了,因为之前切换到这个自研的办公 IM 时,其日历确实是有类似的恶性bug的。再加上 Claude 这么厉害,怎么可能犯这种低级错误。
结果 Claude 的回答很简单,是它搞错了,既不是时区没选对,也不是日历有 bug。计算错误的原因在我看来颇为离谱,因为周一我日程上是空的,它默认将首次出现日程的日子当做周一来计算,甚至没有去核对一下日期。
我用的可是当前最旗舰的 opus 4.6 模型,token 价格昂贵,它本不应该如此偷懒的。
想起前段时间听重轻老师聊他用 openclaw 过程中体会到的那种精神分裂的感觉,一会儿觉得大模型无所不能,一会儿它又在最基础最本份的任务上犯错。
就这么简单个事儿,Claude 说他会把核对日期这个事儿写进项目的 memory 里才能避免下一次再犯这样的错误。怎么说呢,虽然我也不差这点儿 context,但还是删掉了 memory 里的相关内容,以后大约不会用这个 skill 了。
对于这种明显的错误,一眼就能发现,可以让 AI 改。然而可以想见,很多不明显的错误,或者根本就在自己知识范围以外的东西,也就是大部分使用 AI 的场景中,很难知道 AI 给了错误的答案或者做了错误的事情。
事后发现就只能收获一句 You Are Absolutely Right了。