关于大模型边界、上下文管理与高级用户工作方式的一些思考
最近和不同的大模型聊了很多。包括:
• ChatGPT • DeepSeek • 豆包 • Claude
一开始,我和大多数人一样,也只是把AI当成一个“会聊天的工具”。
直到后来,我开始真正用AI参与:
• 企业系统方案 • SRM项目 • 工程管理系统 • 产品设计 • AI落地咨询 • 长文档协同
我才慢慢意识到:AI真正的能力,并不只是“回答问题”
而是:
能否成为一个长期协同的工作系统。
这篇文章,我想记录一些最近特别重要的思考。也许对正在深入使用AI的人,会有帮助。
很多人其实低估了AI
很多人现在对AI的理解,还停留在:
• 帮我写个文案 • 帮我写个总结 • 帮我润色一下但真正开始深度使用后会发现:AI其实更像:一个超强、但容易跑偏的专家团队。
它不是搜索引擎。也不是简单工具。
它更像:
• 一个产品顾问 • 一个方案架构师 • 一个研究员 • 一个分析师 • 一个助理团队但问题在于:你必须学会“管理它”。否则: • 上下文会混乱 • 逻辑会漂移 • 内容会失真 • 方案会越来越虚所以很多人会觉得:
“AI刚开始很好用,后面越来越不靠谱。”
其实问题不一定出在模型。而是:
使用方式还停留在“聊天思维”。
真正高级的AI使用方式,不是聊天,而是“上下文工程”
这是我最近最大的感受。很多人问问题的方式是:帮我写一个完整方案
这种提问方式,其实很难得到高质量结果。因为AI不知道:
• 预算边界 • 项目规模 • 客户类型 • 已有系统 • 哪些功能必须做 • 哪些功能不能做于是模型只能“脑补”。
最后往往出现:
• 20万预算 • 写出500万项目或者: • 前后逻辑冲突 • 模块边界不清 • 功能无限膨胀
后来我慢慢意识到:
真正专业的方式,是“分层处理”。
就像做软件架构一样。不是一股脑把整个项目扔给AI。
而是:项目├── 项目总纲├── 业务流程├── 功能模块├── 数据设计├── 技术架构├── 实施计划└── 预算与风险然后:AI一次只深度处理一个层级。这时候质量会突然提升很多。
因为模型终于有了:
• 清晰边界 • 明确目标 • 一致约束 • 统一术语这其实已经不是“提问”。
而是:
上下文管理。
上下文长度,并不等于真正能力
现在很多模型都在宣传:
• 128万上下文 • 超长记忆 • 百万字符处理但后来我发现:
上下文长度 ≠ 理解能力。
这很像:一个人能看100本书≠真正理解100本书
真正重要的,其实是:
注意力质量
模型会不会:
• 抓重点 • 保持逻辑 • 发现冲突 • 维持一致性
例如:文档中第1页说:预算20万第80页又说:支持复杂WMS
强模型会意识到:这两个条件冲突而弱一些的模型,会继续往下编。
长距离推理能力
真正复杂的项目里:AI必须能持续理解:
业务目标→ 流程→ 数据→ 系统→ 成本→ 风险而不是只会“局部回答”。
上下文检索能力
真正强的模型,不只是“记字”。而是会自动重建:问题地图。
例如:
SRM→ 供应链协同→ 订单履约→ 发货流程→ 到货闭环它会自动关联这些结构。这才是真正重要的能力。为什么很多人越用AI越觉得“变笨了”
因为:AI非常容易被上下文污染。
比如:
• 今天聊:孩子教育 • 明天聊:AI副业 • 后天聊:企业系统
如果没有结构化上下文,模型注意力会不断稀释。
于是:
• 逻辑漂移 • 目标漂移 • 风格漂移
都会出现。所以:
高级用户其实都在做一件事:管理上下文。而不是无限聊天。
真正专业的AI工作流是什么
后来我发现:真正稳定的AI协同方式,往往是:
第一层:项目主脑一页纸。定义:
• 项目目标 • 预算边界 • 客户类型 • 核心价值 • 实施周期 • 技术约束 • 不做范围
例如:
• 预算:20万以内 • 周期:3个月 • 目标:轻量级WMS • 不做:复杂仓储与高级排产这一层其实非常重要。
因为它决定:
AI不会无限膨胀。
第二层:模块拆解
例如:
• 订单管理 • 发货计划 • 二维码管理 • ASN管理 • 签收管理
一次只讨论一个模块。
而不是:
帮我写整个系统
第三层:最终汇总最后再统一:
• 风格 • 术语 • 逻辑 • 预算 • 架构这样质量会高很多。
这其实已经非常接近:咨询公司和产品团队的真实工作方式。
不同AI模型,其实像不同类型员工
这是我最近特别深的感受。不同模型,不只是“谁更聪明”。而是:擅长方向不同。
例如:ChatGPT更像:资深解决方案架构师。
特点:
• 结构化能力强 • 长期协同能力强 • 复杂推理强 • 抽象能力强
特别适合:
• 企业系统 • AI落地 • 复杂方案 • 长期协同
DeepSeek更像:非常强的技术专家。
特点:
• 中文推理强 • 代码能力强 • 性价比高 • 响应快
特别适合:
• 超长文档能力强 • 技术分析 • 代码 • 快速逻辑推导
豆包更像:很会沟通的运营同学。
特点:
• 中文自然 • 交流轻松 • 产品体验友好 • 情绪价值高
适合:
• 日常办公 • 内容创作 • 轻咨询 • 陪伴式交流
Claude更像:超强阅读型研究员+程序员。
特点:
• 代码能力强 • 文风稳定 • 阅读总结顶级
特别适合:
• 长合同 • 长报告 • 大量文档分析
未来真正厉害的人,不一定是“最会写Prompt的人”
而是:
最会管理AI协同的人。
因为未来真正重要的能力,会变成:
• • 信息架构 • 上下文管理 • 知识组织 • AI协同 • 流程拆解 • 多模型协作
也就是说:
AI时代的核心竞争力,正在从“执行”转向“组织”。这也是为什么:很多产品经理、咨询顾问、架构师,会在AI时代越来越有优势。因为他们本来就在做:复杂系统的组织与协调。
我越来越觉得:AI不是工具,而是“第二认知系统”
以前:电脑帮助我们提升“计算能力”。现在:AI开始帮助我们提升:认知组织能力。
它不像传统软件。传统软件:
• 功能固定 • 输入固定 • 输出固定而AI更像:一个持续协同的认知伙伴。但前提是:你得学会如何正确协同。否则:它会越来越乱。而一旦协同方式正确:你会发现:
一个人能拥有过去一个团队的思考能力。这可能才是这一轮AI真正可怕的地方。
最后
最近我越来越觉得:很多人讨论AI,讨论的是:AI能不能替代人
但真正重要的问题也许是:人能不能学会与AI共同工作。
因为未来真正拉开差距的,未必是:“谁先拥有AI”。
而是:
谁先学会把AI变成自己的认知系统。
这可能才是未来几年,最重要的一种能力。
夜雨聆风