sunshine
架构工程师
杭州深度求索人工智能基础技术研究有限公司 · 2年经验
日薪：
￥500/8h
地点：
杭州 拱墅
时间：
下班后周六周日可工作日远程
信用行为
0
接单数
0
评价数
0
收藏数
技术能力
Python、C/C++、CUDA、Go、Shell、yTorch、DeepSpeed、Megatron-LM、vLLM、TensorRT-LLM、Transformers、Ray、Kubernetes、Docker、SLURM、NCCL、RDMA、大模型训练与推理、MoE架构设计、分布式并行策略（TP/PP/DP/EP）、模型量化与压缩、Transformer优化、KV Cache管理、FlashAttention
项目经验
我主导设计了基于Megatron-LM + DeepSpeed的分布式训练框架，实现Expert Parallelism与Tensor/Pipeline Parallelism的混合并行策略。支持最大32K卡扩展，MFU（模型浮点利用率）达到52%，千亿参数模型收敛时间缩短35%。
团队情况
整包服务：
微信公众号开发微信小程序开发PC网站开发H5网站开发
负责人：
架构工程师
团队成员：
产品经理 UI设计师 前端工程师 后端工程师
sunshine
有团队 · 可整包
架构工程师 · 2年经验 · 杭州深度求索人工智能基础技术研究有限公司
0
累计接单
0
用户评价
0
被收藏
信用行为
0
接单数
0
评价数
0
收藏数
技术能力
Python、C/C++、CUDA、Go、Shell、yTorch、DeepSpeed、Megatron-LM、vLLM、TensorRT-LLM、Transformers、Ray、Kubernetes、Docker、SLURM、NCCL、RDMA、大模型训练与推理、MoE架构设计、分布式并行策略（TP/PP/DP/EP）、模型量化与压缩、Transformer优化、KV Cache管理、FlashAttention
项目经验
我主导设计了基于Megatron-LM + DeepSpeed的分布式训练框架，实现Expert Parallelism与Tensor/Pipeline Parallelism的混合并行策略。支持最大32K卡扩展，MFU（模型浮点利用率）达到52%，千亿参数模型收敛时间缩短35%。
团队情况
服务范围：
团队构成：
负责人(架构工程师)
|
核心队员：产品经理 ·
UI设计师 ·
前端工程师 ·
后端工程师
案例展示
VortexInfer推理引擎
基于Megatron-LM+DeepSpeed构建的千卡级大模型训练系统。自研MoE Expert负载均衡算法，支持TP/PP/DP/EP四维混合并行，最大扩展至32K GPU。MFU达52%，千亿模型收敛时间缩短35%。
OmniScale
从零搭建千亿参数MoE大模型的训练基础设施。设计了基于Megatron-LM + DeepSpeed的分布式训练框架，实现Expert Parallelism与Tensor/Pipeline Parallelism的混合并行策略。自研MoE Expert负载均衡算法，优化All-
VortexInfer
面向企业客户的LLM推理部署需求，基于vLLM + TensorRT-LLM构建高吞吐、低延迟的推理系统。集成Continuous Batching、PagedAttention、FP8 KV Cache量化。自研请求调度算法，支持模型热加载与A/B测试框架。
立即沟通
相似人才推荐：
南昌AIGC自动化工作流工程师 (自由职业 / 个人工作室) ，12年经验 ，2000元/天
北京技术总监 (苏州迅帆智能科技有限公司) ，9年经验 ，2000元/天
济南项目经理 (金现代信息产业股份有限公司) ，5年经验 ，500元/天
北京魔兽世界插件开发。 (魔兽世界插件开发。) ，13年经验 ，500元/天
南昌学生 (江西科技学院) ，1年经验 ，500元/天
北京工程师 (微软股份有限公司) ，3年经验 ，1000元/天
其他Python数据爬虫&数据分析工程师 (个人自由接单) ，1年经验 ，500元/天
北京大模型应用开发工程师 (广州信巴迪信息科技有限公司) ，3年经验 ，500元/天
