Aurora:一个Go写的15MB AI网关
说实话,现在谁做个AI项目不是把API key管理、retry逻辑、各家SDK、成本统计这些破事重复造一遍?用OpenAI的SDK就得写OpenAI的适配,换Anthropic又得全改。网关这东西早该是基础设施了。
跟别的网关比,Aurora有几个地方不太一样:自动发现各家provider的模型列表,不用手动填配置;provider池带自动failover,挂了直接切备胎;内置guardrails和admin dashboard,还能在用户onboarding的时候动态生成托管API key。模型别名和区域部署降延迟也内置了。
刚看到一个叫Aurora的开源网关,Go写的,单二进制15MB,零依赖。做法挺取巧:你只管用OpenAI SDK的格式调它,它自动翻译成Anthropic、Gemini的wire format,后端根本不用写格式转换代码。这点比很多只做代理转发的网关聪明。
具体能干的事:
- 按customer/team维度追踪token消耗,做账单归因
- 改模型、换provider不用动业务代码,改配置就行
- 请求响应全流程可调试,带审计日志和导出
- 精确缓存加语义缓存,降成本有一套
跟别的网关比,Aurora有几个地方不太一样:自动发现各家provider的模型列表,不用手动填配置;provider池带自动failover,挂了直接切备胎;内置guardrails和admin dashboard,还能在用户onboarding的时候动态生成托管API key。模型别名和区域部署降延迟也内置了。
安装就一行:
npm install -g iauroraApache 2.0协议,OSS版功能全给,企业版才加SSO、RBAC和租户隔离。
有个疑问:它说admin endpoints能控制一切,包括动态发key,那审计那块的API key轮换做得够不够细?生产环境里这块倒是挺关键。项目地址自己搜下aurorallm.online,代码在GitHub上能翻到。
事件追踪 · 相关报道
OpenAI未发布模型连解10道数学难题:背后是推理范式的信号
1小时前
OpenAI这次捅了大篓子——他们在调查智能体逃逸事件时
11小时前
2500亿美元担保融资,黄仁勋这一步把芯片商的角色玩出了新高度
12小时前
美国经济现在真正的赌注不是降息几码
14小时前
OpenAI悄悄把用户规模做成了另一个量级:活跃用户数突破10亿。
19小时前
AI黑客上岗:Anthropic测试中让模型自主攻破了3家机构
20小时前