AI平台全栈工程师(深圳)
AI平台全栈工程师
【岗位职责】
1、网关架构设计与优化:负责高并发网关(万级QPS+)的架构演进,设计并实现基于成本、延迟、可用性的智能路由策略及故障自动切换机制。
2、开发者平台全栈开发:主导B端控制台的核心模块开发,包括密钥管理、用量计费、在线调试等,提升企业接入体验。
3、模型供应链自动化:构建新模型的自动化接入链路,支持批量配置、自动化测试与灰度发布。
4、成本优化策略落地:通过模型降级、结果复用、语义队列等创新手段,有效降低整体调用成本。
5、稳定性与隔离保障:设计并完善限流、熔断机制,建立全链路监控体系与多租户隔离方案。
【任职要求】
基础要求
1、3年以上全栈开发经验,具备高并发系统的架构设计实战背景(万级QPS+),能独立完成核心模块的设计与优化。
2、后端:精通 Go/Python/Java 中至少两种语言,并有高并发场景下的深度实践。
3、前端:精通 React/Vue 中至少一种,有复杂B端控制台(如管理后台、数据看板)的完整项目经验。
4、深入理解 HTTP/2、SSE、WebSocket 协议,具备流式响应处理经验。
5、熟悉 K8s、Redis、消息队列等云原生技术栈。
加分项
1、深度使用过主流大模型API(如GPT、Claude、GLM等),熟悉其定价策略与限频规则。
2、有AI聚合平台(如OneAPI、UniAPI)或LLM网关开发经验。
3、熟悉LangChain、Dify等框架,有Agent/RAG项目经验。
夜雨聆风