company logo
#2649
大模型训练/推理框架工程师
AGI基础设施-分布式训练推理系统
北京
上海
深圳
工程-开发
岗位职责 ●建设分布式训练推理系统,包括模型并行、长上下文、MoE、低精度训推等。 ●建设 RL 训练系统,包括异步 RL、Agent RL、OPD 等。 ●建设多模态训练系统,包括模型结构搭建、性能显存优化、数据读取加速等。 ●设计和开发大规模推理服务的 KV Cache 磁盘缓存、负载均衡等策略。 ●与算法团队协作,支持新模型、新算法快速落地。 任职要求 ●知名院校大学本科学历以上,计算机相关专业。 ●基础扎实,学习能力强,愿意深入复杂系统和底层细节。 ●代码能力强,代码品味好,擅长与 Code Agent 合作。 ●对大模型训练、推理、RL、多模态系统优化有强烈兴趣。 ●熟悉 Python / C++ / Rust 之一,了解 PyTorch。 加分项 ●在大型开源软件中有深度贡献,或有优秀个人开源项目。 ●在高性能计算相关赛事(SC / ASC / ISC / PAC 等)或算法竞赛(IOI / NOI / ICPC 等)中取得优异成绩。 ●熟悉 CUDA / Triton / TileLang / Ascend C 等算子开发。 ●熟悉 RDMA 编程,CPU / IO 优化。 ●在校成绩排名前 10%。 ●复现过 LLM、RL、多模态相关论文 / 项目。
Contact Our Consultant
Chloe Chang
wechat