AI infra 一号位(CTO)

客户：某AI基建公司，未上市

地点：上海

岗位画像：希望你是互联网大厂infra平台的P9或者P9+，或者infra创业公司的技术负责人。对AI基建有技术执着，对创业平台有热情

岗位职责

1. 负责 AI 基础设施与 Token Factory 推理平台技术整体规划、架构设计与团队管理，对齐商业化目标。

2. 主导大模型推理技术落地优化：分布式推理、KV‑Cache、推理框架调优，持续优化时延、吞吐、并发、Token 成本、GPU 利用率等核心生产指标。

3. 打通全球异构算力与推理平台，实现算力池化调度，把 GPU 资源转化成可对外售卖的 Token 产能，支撑 MaaS 产品 SKU 与成本核算。

4. 建设生产级 MaaS 平台能力：多模型统一网关、租户隔离、SLA、性能评测、监控故障体系，支撑国内外大客户交付。

5. 研判 AI infra 前沿技术，协同商务、算力采购团队输出技术方案，管理研发团队，搭建人才梯队。

任职要求

1. 计算机相关专业，8年+ AI 基础设施 / infra推理系统经验，5 年以上技术负责人经验，有 MaaS、模型推理平台规模化落地经验。

2. 精通 LLM Serving 生产实践，熟悉 vLLM/SGLang 等推理栈，懂多机多卡 GPU 集群、容器云环境，能做性能调优与问题定位。

3. 具备商业化视角，理解 GPU 算力成本、Token 单位经济模型，能将技术指标转化为商业产能。

4. 有大规模多租户平台建设，算力平台经验优先。