Skip to content

模型层与结构化交互

Model Layer & Structured Interaction

理解 Harness 如何与模型交互:输入如何表示、输出如何结构化、不同 Provider 如何抽象,以及一次调用如何被测试和复现。

推荐阅读顺序

1. 模型调用的基本数据模型

从 Token、Context Window 和指令层级开始,建立 Message / Item / Event 的统一交互模型。

开始阅读 →

2. Structured Output 与 Tool Calling

理解模型输出如何变成可验证的数据契约,以及 Function / Tool Calling 的职责边界。

开始阅读 →

3. Streaming 与 Provider Abstraction

处理流式事件和不同模型厂商能力差异,避免业务代码绑定具体 SDK。

开始阅读 →

4. 模型失败、Fallback 与确定性测试

建立错误分类、Fallback 策略,并用 Fake Model 验证 Runtime 而不依赖真实模型。

开始阅读 →

5. 版本管理与 Run Reproducibility

记录 Prompt、Model、Tool Schema 和运行版本,使一次 Run 可以解释、比较与复现。

开始阅读 →

阅读方式

建议按顺序学习本章。中文负责解释概念,英文保留标准技术术语,便于继续查阅官方文档和源码。

AI Engineering · Agent · Harness · Backend Systems