【轻松一刻】带幻觉的AI并非真正风险

*改编自GMP专家Ian Thrussell分享的素材。

AI为什么会有幻觉？

AI不懂，只是一味地猜。

它选最“靠近”的词，不是最靠谱的话。

文字有空，它就填。

数据有缺，它就编。

它没有“不知道”这个选项——  

宁可胡说，绝不沉默。

其实，我们也有份

我们问得模糊，它答得空洞。  

我们问得诱导，它答得偏颇。  

我们问得复杂，它答得拼凑。

于是，垃圾进，垃圾出。

提示词不是随口一句——

就像平时谈工作，也从不是随口一句。

想用好AI？  

先学会提问。

如何识破幻觉？

太自信的答案，可疑。  

“永远”“绝对”“毫无风险”——  

怎么可能？

太具体的答案，可疑。  

精确数字，往往查无出处。

太流畅的答案，可疑。  

复杂问题不该如此“丝滑”。

说到底，太完美的答案，可疑。

防不住，但能管

我们无法消灭幻觉。  

必须假设它一定会发生。

只要记得，没有证据就没有信任。

逼它亮证据：来源何在？推理何来？

锁定它的边界：提个好问题，给靠谱资料。  

但至关重要的，是“人在回路”

交叉验证，一追到底！

带幻觉的AI并非真正风险，

缺乏明辨式思维的人才是。

识林^®版权所有，未经许可不得转载

点击绑定/注册识林，获取最新全球监管动态

【关于识林-常见问题与解答】