边缘端离线
把核心模型、知识库与业务规则放在本地网关或端侧节点，适合门店、校园、客房等弱网场景。
- 断网可用，响应稳定
- 增量包 OTA 更新
- 敏感数据优先本地处理
02 · On-Prem AI Stack
系统和大模型，
系统和大模型，
都可以进入客户私有环境
语音识别、语义编排、业务网关、知识库检索、LLM 推理与设备管控都可拆分交付。客户可以选择全本地、私有云或混合模式，也可以保留 OpenAI 兼容接口用于后续模型切换。
vLLM
TensorRT-LLM
llama.cpp
OpenAI Compatible
RAG / Vector DB
统一接口，按客户环境选择底座
先把业务能力与模型能力解耦，再根据客户算力、成本、法规与运维团队能力确定部署拓扑。
