5

第五章

给它
工具

从"回答问题"
到"采取行动"的飞跃。

到目前为止,你和 AI 的每次互动都遵循同一个模式:你打字,AI 回复。一个精致版的自动补全。但如果 AI 能做事呢?不只是告诉你天气怎样,而是去查天气预报。不只是写代码,而是去运行代码。不只是建议你搜什么,而是自己去搜索然后把结果带回来。

信任问题

当你给 AI 工具时,你递给它一个工具箱然后说:"这些是你能做的事。你自己决定什么时候用。"它可以搜索网络、运行代码、读取文件、调用 API。AI 并没有变得更聪明——它变得有了连接。这引出了一个与技术无关、却和你息息相关的问题:AI 应该在多大程度上自行决定,而不先问你?

答案取决于三件事。风险——最坏能坏到什么程度?可逆性——能撤销吗?以及信任——你对这个工具有多了解?一个你用了上百次的计算器,比一个你从没测试过的新插件更值得信任。

核心洞察

不是非此即彼。最好的 AI 工作流在低风险、可逆的任务上给予自由,在高风险、不可逆的任务上保持人类介入。你的工作是设计这条边界。

你会在哪里划线?设定你自己的自主权级别。

Trust Thermometer

How much autonomy would you give?

1 / 8
low stakes

Scenario

Your AI agent wants to: summarize an article you're reading

Share this course
工具把 AI 从顾问变成了助手——从一个告诉你该怎么做的人,变成了一个真的去做的人。

你已经给了 AI 双手。接下来,我们把这些工具串成一个能自主追求目标的东西——规划、执行、从错误中恢复。是时候构建智能体了。

Would You Let It?

New tool unlocked!