卤蛋蛋
电脑维修员 · 1年经验 · 胜宏科技（惠州）股份有限公司
0
累计接单
0
用户评价
0
被收藏
技术能力
【核心竞争力】 获华为ICT大赛云赛道三等奖，理论基础扎实，技术能力等同HCIP水平。
【实战经验】 具备服务器测试及IT支持背景，动手能力强，能快速适应企业级运维环境。
【职业素养】 逻辑清晰，做事严谨，有很强的流程合规意识（SOP执行力强）。
【实战经验】 具备服务器测试及IT支持背景，动手能力强，能快速适应企业级运维环境。
【职业素养】 逻辑清晰，做事严谨，有很强的流程合规意识（SOP执行力强）。
项目经验
基于LM Studio的本地AI大模型私有化部署与性能调优
环境搭建：在Windows环境下利用LM Studio搭建本地推理服务，成功部署Qwen2.5-7B与DeepSeek-R1-Distill-7B量化模型，验证了消费级硬件运行7B级模型的可行性。
性能调优：针对DeepSeek-R1模型推理延迟高（增加30-50%）的问题，通过调整上下文窗口（Context Window）和量化精度（Q4_K_M），在显存受限情况下实现了稳定运行。
环境搭建：在Windows环境下利用LM Studio搭建本地推理服务，成功部署Qwen2.5-7B与DeepSeek-R1-Distill-7B量化模型，验证了消费级硬件运行7B级模型的可行性。
性能调优：针对DeepSeek-R1模型推理延迟高（增加30-50%）的问题，通过调整上下文窗口（Context Window）和量化精度（Q4_K_M），在显存受限情况下实现了稳定运行。
立即沟通
