天才da熊猫

大模型端侧部署工程师
暂不公开 · 8年经验
天才da熊猫
日薪: ¥1000/8h
地点: 其他
时间: 下班后周六周日可工作日远程
ID:438728 复制

0
接单数
0
评价数
0
收藏数

暂无技能标签
熟悉常用的推理框架,如vLLM、MNN等,并基于开源框架结合业务需求进行定制化优化,如投机解码、结构化输出等常用优化手段。能够结合CUDA、OpenCL、ARM CPU等平台进行算子优化。熟悉MTK NPU、高通NPU等平台大模型部署。

熟悉常用的推理框架,如vLLM、MNN等,并基于开源框架结合业务需求进行定制化优化,如投机解码、结构化输出等常用优化手段。能够结合CUDA、OpenCL、ARM CPU等平台进行算子优化。熟悉MTK NPU、高通NPU等平台大模型部署。
天才da熊猫 ID:438728 复制

天才da熊猫

大模型端侧部署工程师 · 8年经验 · 暂不公开
城市其他 日薪1000元/8h 时间 下班后周六周日可工作日远程
0
累计接单
0
用户评价
0
被收藏

信用行为

0
接单数
0
评价数
0
收藏数

技术能力

暂无技能标签
熟悉常用的推理框架,如vLLM、MNN等,并基于开源框架结合业务需求进行定制化优化,如投机解码、结构化输出等常用优化手段。能够结合CUDA、OpenCL、ARM CPU等平台进行算子优化。熟悉MTK NPU、高通NPU等平台大模型部署。

项目经验

熟悉常用的推理框架,如vLLM、MNN等,并基于开源框架结合业务需求进行定制化优化,如投机解码、结构化输出等常用优化手段。能够结合CUDA、OpenCL、ARM CPU等平台进行算子优化。熟悉MTK NPU、高通NPU等平台大模型部署。
客服二维码

没找到合适的人才?

扫码添加客服极速匹配,或直接发布需求让更多人才主动报名

平台担保交易 · 1小时内不满意可退款

平台信誉与实力

基于 35,336 需求方信任

  • ✓ 支付宝企业信用分 优秀 评级
  • ✓ 市场份额约占全行业三分之一
  • ✓ 程序员兼职行业全能首选平台
查看平台资质详情
收藏