Self-initiated practice / 自研实践
Ailly Gateway
统一模型接入与调度
一个入口，连接不断变化的模型与渠道。
当模型、协议和上游服务持续变化，真正难维护的往往不是一次请求，而是请求之后的配置、权限、额度、监控和恢复路径。
Ailly Gateway 从一个可用的 API 转发服务开始，逐步加入渠道管理、模型映射、请求记录、备份和健康检查。目标不是重新发明网关，而是把真实部署中容易散落的经验固化下来。
System map
当前运行结构
这是一张经过简化的结构图，用来说明请求如何进入、被管理并抵达不同上游。
CLIENT
01应用与开发工具
OpenAI-compatible clients
HTTPS / SSE→
GATEWAY
02Ailly API
鉴权 · 路由 · 额度 · 日志
SQLiteSystemdBackup
ROUTING→
PROVIDERS
Official APIs
标准上游渠道
FreeLLMAPI
聚合与兼容层
Local Models
本地推理实验
先让变化发生在明确的位置。
01
统一入口
先建立稳定的 OpenAI 兼容入口，把调用方与上游渠道解耦。
02
固化部署
从临时启动转为 systemd 服务，明确工作目录、数据位置和环境配置。
03
补齐恢复路径
为 SQLite、发布和升级建立备份与健康检查，失败时知道如何回退。
04
沉淀日常操作
把用户、额度、渠道和代理检查收敛成可重复的运维入口。
OVERVIEW
All systems operationalGateway health
GatewayHealthy80 ms
Providers03 / 03available
Backup12:00last snapshot
12:04:08
GET /api/status200 OK12:04:11POST /v1/responses200 OK12:04:15channel.healthcheckPASS界面示意 · 用于说明健康检查与日常运维信息如何被组织
真正有价值的不是“部署成功”。
01
备份必须早于升级
数据恢复不是故障发生后才设计的功能。
02
运维入口需要统一
散落的临时命令会让每次操作都重新承担风险。
03
上游变化应被隔离
业务应用不应该感知每一个模型供应方的差异。
04
文档也是系统的一部分
只有能够被理解和重复的流程，才算真正完成交付。