AI 为什么会一本正经地胡说?聊聊幻觉

系列第六期,约 90 秒的手绘动画:AI 说得自信,不代表说得对。

AI 为什么会一本正经地胡说?

聊聊「幻觉」

① 一个例子

有模有样,却是编的

提问:推荐三篇关于城市热岛效应的论文
Chen, L. & Park, J. (2019). Cooling the Concrete Jungle: Green Roofs and Urban Heat. Journal of Urban Climate Studies.查无此文
Oke, T. R. (1982). The energetic basis of the urban heat island. Quarterly Journal of the Royal Meteorological Society.确有此文
Müller, A. (2021). Heat Islands in Megacities: A 50-City Survey. Urban Climate Letters.查无此文
* 第 1、3 条为虚构示例
② 为什么会这样

它的本职是接下一个词,不是查事实

「这篇论文发表在《____》上」下一个词的概率(示意)
城市气候学报
38% 环境科学
31% 气候研究通讯
22%
没见过的,就挑一个听起来最像的补上,语气照样自信
③ 哪些时候最容易出现

越具体、越冷门,越要小心

精确数字

金额、日期、统计数据

引用出处

论文、链接、法条编号

冷门人事

小众人物、内部细节

最新消息

训练截止之后的新事

④ 怎么减少:从 AI 这边

让它有据可查

给资料

用 RAG 把相关资料放进去(第四期)

让它查

接上联网搜索等工具(第三期)

允许说不知道

提示词里写明:不确定就直说

要求标出处

每个结论注明来自哪里

⑤ 怎么减少:从我们这边

自己也要留一手

关键信息,去原文核对
给的链接,点开看看
重要数字,自己算一遍
重大决定,别只听 AI 一家之言
⑥ 最重要的一点

说得自信

≠

说得对

语气是生成出来的,事实要靠核对。
一句话总结

幻觉不是故意撒谎,
是在「合理地编」。

给它资料+让它去查+自己核对→少踩坑

下一期(系列最终回):提示词、RAG、微调,怎么选?

0:00 / 1:26

    空格键播放/暂停,← → 切换章节,点击画面也可暂停。配音使用你设备自带的中文语音,音色因设备而异。