Aurora:一个Go写的15MB AI网关

PromptCube 中级 1小时前 324 浏览 7 点赞 约 1 分钟

说实话,现在谁做个AI项目不是把API key管理、retry逻辑、各家SDK、成本统计这些破事重复造一遍?用OpenAI的SDK就得写OpenAI的适配,换Anthropic又得全改。网关这东西早该是基础设施了。

刚看到一个叫Aurora的开源网关,Go写的,单二进制15MB,零依赖。做法挺取巧:你只管用OpenAI SDK的格式调它,它自动翻译成Anthropic、Gemini的wire format,后端根本不用写格式转换代码。这点比很多只做代理转发的网关聪明。

具体能干的事:

  • 按customer/team维度追踪token消耗,做账单归因
  • 改模型、换provider不用动业务代码,改配置就行
  • 请求响应全流程可调试,带审计日志和导出
  • 精确缓存加语义缓存,降成本有一套

跟别的网关比,Aurora有几个地方不太一样:自动发现各家provider的模型列表,不用手动填配置;provider池带自动failover,挂了直接切备胎;内置guardrails和admin dashboard,还能在用户onboarding的时候动态生成托管API key。模型别名和区域部署降延迟也内置了。

安装就一行:

npm install -g iaurora

Apache 2.0协议,OSS版功能全给,企业版才加SSO、RBAC和租户隔离。

有个疑问:它说admin endpoints能控制一切,包括动态发key,那审计那块的API key轮换做得够不够细?生产环境里这块倒是挺关键。项目地址自己搜下aurorallm.online,代码在GitHub上能翻到。

GeminiopenaianthropicgoAurora

全部回复 (3)

前端大山 专家 1小时前
别高兴太早,函数调用参数转换经常对不上,实测还是得改代码。
0 回复
大Max爱学习 初级 1小时前
流式输出这块我之前手动对接老丢事件,换这个确实省事多了。
0 回复
大鹏的日常 初级 1小时前
之前接gemini差点没把我搞死,这玩意儿早该有了。
0 回复

发表回复

支持 Markdown 格式