针对微服务架构下的高并发流量瓶颈与版本迭代质量风险,搭建了网关流量分流与自动化测试一体化交付方案。利用 Nginx 深度定制反向代理、动态负载均衡(权重与健康检查)、SSL/TLS 证书加解密以及跨域/防盗链规则,通过 Keepalive 调优和 Gzip/缓存策略显著降低系统响应耗时;同时搭建自动化测试框架,基于 Pytest/Postman 编写全链路 API 自动化回归脚本,模拟真实高并发调用场景进行边界异常与抗压测试,并将测试流程无缝嵌入持续交付,实现代码上线前自动拦截接口缺陷。
本项目聚焦微服务高可用架构与开源大语言模型的低成本生产落地。基于 Linux/SSH 环境完成节点批量配置与安全鉴权;采用 Docker 容器化封装前后端业务模块,通过 Kubernetes(K8s)实现多节点编排、弹性扩缩容与健康检查;前端基于 Nginx 配置域名反向代理、SSL 证书及高并发负载均衡。AI 模块基于 vLLM/Ollama 推理引擎进行环境搭建,利用 INT4/INT8 量化技术降低显存占用,并封装为高并发 RESTful API 供业务端调用。
针对微服务架构下的高并发流量瓶颈与版本迭代质量风险,搭建了网关流量分流与自动化测试一体化交付方案。利用 Nginx 深度定制反向代理、动态负载均衡(权重与健康检查)、SSL/TLS 证书加解密以及跨域/防盗链规则,通过 Keepalive 调优和 Gzip/缓存策略显著降低系统响应耗时;同时搭建自动化测试框架,基于 Pytest/Postman 编写全链路 API 自动化回归脚本,模拟真实高并发调用场景进行边界异常与抗压测试,并将测试流程无缝嵌入持续交付,实现代码上线前自动拦截接口缺陷。...
本项目聚焦微服务高可用架构与开源大语言模型的低成本生产落地。基于 Linux/SSH 环境完成节点批量配置与安全鉴权;采用 Docker 容器化封装前后端业务模块,通过 Kubernetes(K8s)实现多节点编排、弹性扩缩容与健康检查;前端基于 Nginx 配置域名反向代理、SSL 证书及高并发负载均衡。AI 模块基于 vLLM/Ollama 推理引擎进行环境搭建,利用 INT4/INT8 量化技术降低显存占用,并封装为高并发 RESTful API 供业务端调用。...
添加客服微信,免费为您安排与该工程师直接沟通
长按二维码添加客服微信
如该工程师当前档期不合,也可免费为您推荐相似候选人