职位描述

一、岗位亮点 1.1、参与从 0→1/1→N 的 AI 流程编排与自动化平台建设（RAG、工具调用、Agent 协作、异步编排）。 1.2、实战引入 Diffy 或同类“影子流量回放 + 响应差异对比”方案，用于模型/版本回归检测与灰度上线。 1.3、对接多业务线（IM、客服、营销自动化、数据处理等），落地真实生产级闭环。 二、主要职责 2.1、AI/LLM 工作流编排 设计与实现多步推理、Agent 协作、工具调用（Tool-Calling/Function-Calling）、异步任务队列与补偿机制。 构建与优化 RAG：数据摄取、切片与向量化、召回/重排序、上下文压缩、缓存与降本。 2.2、评估与质量保障 搭建自动化评估与对齐体系（基准集、Ragas/G-Eval/自研指标），接入 A/B 测试与在线监控。 基于 Diffy（或等价方案）做影子流量回放与响应差异对比，识别模型/提示词/服务升级的回归风险；支持灰度/金丝雀发布与快速回滚。 2.3、工程化与可观测 建设模型/提示词版本管理、特征与数据版本管理、实验追踪（MLflow/W&B）与审计日志。 建立端到端可观测：延迟、错误率、提示词/上下文长度、命中率、成本监控（tokens/$）。 2.4、平台与集成 将工作流以 API/SDK/微服务形式对外；与业务后台（Go/PHP/Node）、队列（Kafka/RabbitMQ）、存储（Postgres/Redis/对象存储）及向量库（Milvus/Qdrant/pgvector）集成。 落地安全与合规（脱敏、PII 保护、审计、速率与配额、模型治理）。

职位要求

三、任职要求（必须） 3.1、3 年+ 后端或数据/平台工程经验，1–2 年+ LLM/生成式 AI 项目实战。 3.2、熟悉 LLM 应用工程：提示词工程、函数/工具调用、对话状态管理、记忆、结构化输出、对齐与评估。 3.3、至少熟悉一种 编排框架：LangChain/LangGraph、LlamaIndex、Temporal/Prefect/Airflow、或自研有 DAG/状态机/补偿机制。 3.4、具备 RAG 实战：数据清洗→向量化→召回→重排→评估 的端到端经验；熟悉 Milvus/Qdrant/pgvector 之一。 3.5、有 Diffy 使用经验，或等价的线上回放与差异比对经验（如：影子流量、录制/回放、回归输出比对、灰度发布与自动验收）。 3.6、工程化扎实：Docker、CI/CD、Git 流程、日志与指标体系（OpenTelemetry/Prometheus/Grafana 任一）。 3.7、至少掌握一种主力语言（Go / Python / TypeScript 其一或多项）；能写可靠的服务与测试。 3.8、良好的远程协作与文档能力，能以指标驱动交付与复盘。 四、加分项（任一为佳） 4.1、有 Diffy 深度实践（或对接微服务网关做影子流量/分流/对比）。 4.2、有 LLMOps/评估平台（Arize Phoenix、Evidently、PromptLayer、OpenAI Evals、Ragas）落地经验。 4.3、对 Agent 框架（LangGraph、autogen/crewAI、GraphRAG、工具生态）有实际落地案例。 4.4、熟悉 安全与合规（脱敏、权限域、PDPA/GDPR），对“人审/机审/拦截（Llama Guard/Moderation）”有实践。 4.5、熟悉 IM/客服/营销自动化业务域，或对 多语言场景（中/英/越等） 有经验。 4.6、有成本优化经验：缓存、检索压缩、模型混部/路由、多提供商切换（OpenAI/Anthropic/Google/本地模型）。 五、主要技术栈（可选其一/多项） 5.1、编排/Agent：LangChain/LangGraph、LlamaIndex、Temporal/Prefect/Airflow 5.2、模型与评估：OpenAI/Anthropic/Google、VLLM/Ollama、Ragas、G-Eval、MLflow/W&B 5.3、检索：Milvus、Qdrant、pgvector、Elasticsearch、rerank（bge/multilingual/E5 等） 5.4、服务化：Go/Python/TypeScript、gRPC/REST、Redis、Postgres、Kafka/RabbitMQ、Docker/K8s 5.5、可观测：OpenTelemetry、Prometheus、Grafana、ELK/ClickHouse 5.6、Diffy/回放对比：Twitter Diffy 或同类影子流量/回放 + 差异比对体系

福利待遇

有竞争力的薪酬，职业发展空间，良好的团队氛围，全远程办公