Fri Jul 24 2026 08:00:00 GMT+0800 (China Standard Time)·2 min readAI Architecture吃透 AI Agent 开发
Agent 基础认知
理解模型能力，才能设计可靠 Agent
Token、上下文窗口、采样和结构化输出等基础机制，会直接决定 Agent 的稳定性和成本。
#LLM#Token#Context
模型并不理解业务对象，它只是在上下文中预测下一段 Token。Agent 开发者需要理解上下文窗口、Token 计量、采样随机性、工具 schema 和结构化输出，否则问题会被误判成“模型不够强”。
设计影响
上下文越长不代表信息越有效；温度越高不代表创造力一定更好；输出格式越自由，后续工具执行越难验证。生产系统通常需要约束 schema、限制输出长度，并对模型结果做二次校验。
项目落点
售前咨询链路会对商品属性和工具参数使用结构化格式，模型微调项目则将表达风格交给 SFT，把价格和库存等变化事实交给 RAG，避免把所有问题都压在模型参数里。
结论
理解模型的边界，才能把模型放在适合的位置，而不是让它承担数据库、规则引擎和权限系统的职责。