Kami (@947698771) 在 【杭州】【Agent Infra 工程师】【25-45K*17薪】【需要现场vibecoding】【本科】 中发帖
你会负责什么
1、LLM Gateway 层设计与实现(基于 LiteLLM):多模型路由、降级、Token 配额、成本核算
2、自托管 Supabase 全栈组件 + Sandbox 沙箱基础设施的运维与稳定性保障,SLA ≥ 99.9%
3、Agent 全链路可观测:trace、token 成本归因、Prompt 与上下文版本管理
4、Agent 评测与回归管道:评测集设计、线上 A/B、Eval 指标可视化
5、与 Agent 应用开发同学共建数据闭环,把「成本」和「效果」做成可量化的一等公民
必须有的
1、实际做过 LLM 应用 / Agent 系统的可观测或成本治理,有上线案例
2、熟悉 LiteLLM 或类似 LLM Gateway 方案,能独立完成多模型路由与成本追踪
3、熟悉自托管 Supabase(PostgreSQL、Kong、GoTrue、Postg...