LLM 和 Agent 的区别?

一段约 90 秒的手绘动画:LLM 会说,Agent 会做。

会说
会做

LLM 和 Agent 的区别?

一个会说,一个会做

① 什么是 LLM

LLM:预测下一个词的机器

今天天气
LLM
不错 , 适合 出门 散步 。
下一个词的概率(示意)↓
不错
62% 很好
21% 晴朗
9% 其他
8%
一次调用 = 一段输入 → 一段输出
② LLM 的边界

只有文字进、文字出

看不到实时信息知识停在训练截止那天
动不了外部世界不能自己上网、跑代码、发邮件
没有长期记忆只记得这次上下文里的内容
说完就停不会主动接着做下一步
③ 什么是 Agent

Agent:以 LLM 为大脑的一套系统

工具

搜索、代码执行、API、读写文件

LLM负责思考和决策

记忆

保存任务状态、历史结果和偏好

规划

把大任务拆成一步步小任务

循环

反复运行,直到任务完成

④ Agent 的核心

一个会自己转起来的循环

思考Think
行动Act
观察Observe
判断Done?
完成 ✓跳出循环
1

思考:现在该做什么?

2

行动:调用一个工具

3

观察:读取工具返回的结果

4

判断:做完了吗?没做完就回到 1

↻

这套模式常被称为 ReAct(推理 + 行动)

⑤ 同一个任务
任务:查一下明天上海会不会下雨,会的话提醒我带伞
只有 LLM
我无法获取实时天气数据。建议你打开天气 App 查看,如果有雨记得设个闹钟提醒自己。
到此为止:只能给建议
Agent
思考需要明天的天气,先查一下
行动get_weather("上海", "明天")
观察{ 降雨概率: 0.8 }
思考概率很高,需要设提醒
行动create_reminder("带伞", "明早 7:30")
完成 ✓已提醒你明早 7:30 带伞
* 工具名和数据均为示例
⑥ 对照表
维度LLMAgent
工作方式一问一答多步循环,自己决定下一步
接触外部世界不能,只处理文字能,通过工具调用
记忆限于上下文窗口可接外部记忆、保存任务状态
谁控制流程人模型自己(在设定的边界内)
出错时说错话(幻觉)做错事,需要权限控制和人工确认
一句话总结

LLM 负责想,
Agent 负责把事做完。

Agent =LLM+工具+记忆+规划+循环

Agent 能做得多好,仍然取决于背后的 LLM。

很多人把 LLM 和 Agent 混着说。
0:00 / 1:27

    空格键播放/暂停,← → 切换章节,点击画面也可暂停。