AMBI-01 · AI Framework
AMBI
AGENT
用 Rust 写成的 AI Agent 框架。它把本地推理和云端模型收进同一套 trait 接口,让 Agent 的代码不必关心底层跑的是哪种引擎。
Context常见的 Agent 框架大多绑定单一后端,本地模型和云端 API 之间往往要写两套逻辑。
Build做成双引擎架构:本地 llama.cpp 与 OpenAI 兼容接口共用同一套 Agent API;工具系统支持并行调用、超时重试,并能从 Rust 结构体自动生成 JSON Schema。
Result一个零样板、已发布到 crates.io 的生产级框架,并提供 Python、Node 与 WASM 绑定,换引擎不用改 Agent 代码。
RustTokiollama.cpp
2026Context probe — 上下文采用安全淘汰算法,把系统指令与 FIFO 队列解耦,在不溢出 token 的前提下尽量命中 KV Cache。
