spike
鸿蒙软件硬件开发，模型部署
无 · 1年经验
日薪：
￥700/8h
地点：
上海
时间：
可工作日远程可工作日驻场（自由职业原因）
信用行为
0
接单数
0
评价数
0
收藏数
技术能力
主攻AI模型落地与端侧部署。熟悉Python/PyTorch全流程，能独立完成从模型训练、知识蒸馏压缩、量化感知训练（QAT/PTQ）到ONNX/纯C端侧推理的完整链路。有将605MB大模型压缩至6MB并部署到256KB RAM微控制器的实战经验。熟悉CLIP多模态、YOLO实例分割、DINOv2自监督学习。后端熟悉FastAPI/Ollama，能做多智能体编排、本地大模型部署、工具调用可靠性设计。能解决三类问题：①模型太大跑不动，需要压缩/量化/蒸馏；②想把AI模型部署到嵌入式设备或边缘硬件；③想做本地化/私有化的AI应用，不依赖云端API。
项目经验
项目一：端侧AI食材识别系统（独立开发）
背景：需要将高精度食材识别模型部署到256KB RAM的国产开发板上。职责：独立完成CLIP迁移学习、知识蒸馏（605MB→6MB，压缩100倍）、QAT量化训练、INT8纯C推理部署。结果：模型成功跑在RK2206开发板上，识别准确率90.56%，完成“移动端App+云端服务+端侧硬件”三端协同。可复现于任何需要端侧AI部署的场景。
项目二：本地多智能体编程助手Podium（独立开发）
背景：在8GB显存消费级笔记本上实现多模型协作。职责：独立设计并实现七层机制（串行调度、预算感知派单、策略记忆、生成中验证等），搭建36任务评测矩阵。结果：全本地运行，解决Windows显存不回落导致的换载失败问题，实现带自动失效的策略记忆闭环。适用于需要本地化、隐私合规的AI Agent场景。
背景：需要将高精度食材识别模型部署到256KB RAM的国产开发板上。职责：独立完成CLIP迁移学习、知识蒸馏（605MB→6MB，压缩100倍）、QAT量化训练、INT8纯C推理部署。结果：模型成功跑在RK2206开发板上，识别准确率90.56%，完成“移动端App+云端服务+端侧硬件”三端协同。可复现于任何需要端侧AI部署的场景。
项目二：本地多智能体编程助手Podium（独立开发）
背景：在8GB显存消费级笔记本上实现多模型协作。职责：独立设计并实现七层机制（串行调度、预算感知派单、策略记忆、生成中验证等），搭建36任务评测矩阵。结果：全本地运行，解决Windows显存不回落导致的换载失败问题，实现带自动失效的策略记忆闭环。适用于需要本地化、隐私合规的AI Agent场景。
ID:433090
复制
spike
鸿蒙软件硬件开发，模型部署 · 1年经验 · 无
0
累计接单
0
用户评价
0
被收藏
信用行为
0
接单数
0
评价数
0
收藏数
技术能力
主攻AI模型落地与端侧部署。熟悉Python/PyTorch全流程，能独立完成从模型训练、知识蒸馏压缩、量化感知训练（QAT/PTQ）到ONNX/纯C端侧推理的完整链路。有将605MB大模型压缩至6MB并部署到256KB RAM微控制器的实战经验。熟悉CLIP多模态、YOLO实例分割、DINOv2自监督学习。后端熟悉FastAPI/Ollama，能做多智能体编排、本地大模型部署、工具调用可靠性设计。能解决三类问题：①模型太大跑不动，需要压缩/量化/蒸馏；②想把AI模型部署到嵌入式设备或边缘硬件；③想做本地化/私有化的AI应用，不依赖云端API。
项目经验
项目一：端侧AI食材识别系统（独立开发）
背景：需要将高精度食材识别模型部署到256KB RAM的国产开发板上。职责：独立完成CLIP迁移学习、知识蒸馏（605MB→6MB，压缩100倍）、QAT量化训练、INT8纯C推理部署。结果：模型成功跑在RK2206开发板上，识别准确率90.56%，完成“移动端App+云端服务+端侧硬件”三端协同。可复现于任何需要端侧AI部署的场景。
项目二：本地多智能体编程助手Podium（独立开发）
背景：在8GB显存消费级笔记本上实现多模型协作。职责：独立设计并实现七层机制（串行调度、预算感知派单、策略记忆、生成中验证等），搭建36任务评测矩阵。结果：全本地运行，解决Windows显存不回落导致的换载失败问题，实现带自动失效的策略记忆闭环。适用于需要本地化、隐私合规的AI Agent场景。
背景：需要将高精度食材识别模型部署到256KB RAM的国产开发板上。职责：独立完成CLIP迁移学习、知识蒸馏（605MB→6MB，压缩100倍）、QAT量化训练、INT8纯C推理部署。结果：模型成功跑在RK2206开发板上，识别准确率90.56%，完成“移动端App+云端服务+端侧硬件”三端协同。可复现于任何需要端侧AI部署的场景。
项目二：本地多智能体编程助手Podium（独立开发）
背景：在8GB显存消费级笔记本上实现多模型协作。职责：独立设计并实现七层机制（串行调度、预算感知派单、策略记忆、生成中验证等），搭建36任务评测矩阵。结果：全本地运行，解决Windows显存不回落导致的换载失败问题，实现带自动失效的策略记忆闭环。适用于需要本地化、隐私合规的AI Agent场景。
案例展示
本地多智能体编程助手
在8GB显存的消费级笔记本上，独立设计并实现了一个全本地运行的多智能体编程助手。系统包含七个可独立开关的机制：显存约束下的串行调度（解决Windows显存不回落问题）、预算感知派单、生成中骨架早拒、带自动失效的策略记忆、跨家族/同模型双提案聚合、五层工具调用可靠性栈、运行时体征监
端侧AI食材识别系统
独立完成从模型训练到端侧部署的全链路AI系统。基于CLIP迁移学习实现食材识别（准确率94.26%），通过知识蒸馏将605MB大模型压缩至6MB（压缩100倍），再经量化感知训练（QAT）部署到256KB RAM的国产开发板（RK2206）上，以纯C整型推理运行。同时实现YOLO
端侧AI食材识别系统
独立完成从模型训练到端侧部署的全链路AI系统。基于CLIP迁移学习实现食材识别（准确率94.26%），通过知识蒸馏将605MB大模型压缩至6MB（压缩100倍），再经量化感知训练（QAT）部署到256KB RAM的国产开发板（RK2206）上，以纯C整型推理运行。同时实现YOLO
立即沟通
