# How I use LLMs

- Channel: [Andrej Karpathy](https://www.youtube.com/channel/UCXUPKJO5MZQN11PqgIvyuvQ)
- Published: 2025-02-27
- Source video: [Watch on YouTube](https://youtube.com/watch?v=EWvNQjAaOHw)
- Read on ReadTube: https://www.read.tube/p/videos/EWvNQjAaOHw
- Language: Simplified Chinese

## Summary

**如何使用大语言模型**

大语言模型不只是聊天框，它们已经演化成一整套可调用搜索、推理、代码执行、多模态和个性化记忆的工具体系。卡帕蒂通过大量亲身案例说明，应根据任务选择合适模型、是否开启思考、是否接入搜索或数据分析，并始终警惕幻觉与上下文浪费。

这段视频以“如何把大语言模型当作实用工具来用”为主线，系统展示了卡帕蒂日常如何在不同场景中选择和组合模型。他先解释聊天界面本质上是在维护一条上下文中的令牌流，并强调模型本身只是一个经过预训练与后训练的自足实体：默认没有计算器、浏览器或外部工具，能做的只是根据上下文继续生成令牌。因此，用户最重要的习惯是：切换话题就新开对话，尽量保持上下文干净，并且始终知道自己正在用哪个模型、处于哪个付费层级，因为不同层级对应不同能力、价格和幻觉风险。

视频接着按能力逐层展开。第一层是基础问答与写作，适合处理那些不太新、且在互联网上出现频繁的信息，例如咖啡因含量、常见药品成分、旅行建议等；但他反复提醒，这类答案本质上是概率性回忆，应该在高风险场景里核实原始来源。第二层是“思考模型”，即通过强化学习训练出的推理型模型，更擅长数学、编程和复杂分析，能通过更长时间的内部推理显著提高正确率，但代价是速度更慢、等待更久。第三层是工具使用，包括联网搜索、深度研究、Python/代码执行、图表生成、文档阅读和专门的代码编辑器。卡帕蒂用大量例子说明：当问题涉及最新信息时应启用搜索；当问题需要系统读文献、写报告时可用深度研究；当需要画图、算数或做数据分析时可让模型写代码运行；当写代码是日常工作流时，最好用 Cursor 这类深度集成在本地文件系统里的开发工具，而不是在网页里来回复制粘贴。

- 搜索工具适合最新、变化快、需要引用来源的任务，例如新闻、产品信息、播出时间、股市和旅行安全。
- 深度研究适合做一份“第一版研究报告”，会同时搜索、阅读和推理，但结果仍可能出错，必须回看引用文献。
- 文件上传与文档问答适合论文、书籍和体检报告等长文材料，尤其能帮助跨领域阅读与理解。
- 代码执行与高级数据分析适合画图、拟合、表格处理和可视化，但要警惕模型悄悄做出未经说明的假设。
- 代码编辑器和代理式工作流适合真正的编程生产环境，因为它们拥有项目上下文，能跨文件修改并自动运行命令。

后半段转向多模态与个性化功能。卡帕蒂区分了“伪语音”和“真语音”：前者只是语音转文字、文字转语音的外部封装，后者则是模型直接在音频令牌上工作，能够听、说、改变语气，甚至在移动端实时对话。图像输入则被用来分析营养成分表、血检报告、文字截图和表情包，而图像输出则用于封面、插图和自动生成的视觉摘要。视频能力则在手机端的摄像头对话里体现出来，模型可以识别书籍、空气质量检测器和地图等物体。最后，他还介绍了记忆、定制指令和自定义 GPT：前者让模型跨对话记住用户偏好，后两者则把重复提示固化成专用工具，特别适合语言学习、翻译拆解和截图 OCR 这类固定任务。整体结论很明确：大语言模型生态正在快速分化，最好的用法不是执着于单一产品，而是理解不同模型和工具各自的长处，并像组建一支“模型委员会”一样按需调度它们。