本地 AI 推理框架（SD+LLM）
案例介绍
主要功能：
图像生成模块——支持 SD1.5 / SDXL 模型加载，可切换 LoRA 风格和 VAE，提供提示词输入、参数调节（步数、采样器、尺寸等），一键生成并预览图片。
LLM 对话模块——支持 llama.cpp（GGUF 格式）与 HuggingFace transformers 双后端切换，可本地运行开源大模型进行多轮对话，支持流式输出与参数微调。
HTTP API 服务——内置轻量 Web API，局域网内可通过手机浏览器远程调用图像生成与对话功能。
技术亮点：采用多进程 worker 架构，推理任务在独立子进程中执行；通过 stdin/stdout JSON 协议实现进程间通信；针对低显存设备实现 CPU 降级推理方案；解决了跨进程中文编码乱码、国内网络环境下模型离线加载等实际问题。
技术栈：Python / tkinter / http.server / multiprocessing / Pillow / llama.cpp
个人角色：独立开发，负责全部架构设计、前后端开发及调试部署。
本地 AI 推理框架（SD+LLM）
案例介绍
本地 AI 推理框架，独立开发的桌面端 AI 工具。集成 Stable Diffusion 图像生成与大语言模型对话两大核心功能，纯 Python 实现，可在普通笔记本上离线运行。
主要功能：
图像生成模块——支持 SD1.5 / SDXL 模型加载，可切换 LoRA 风格和 VAE，提供提示词输入、参数调节（步数、采样器、尺寸等），一键生成并预览图片。
LLM 对话模块——支持 llama.cpp（GGUF 格式）与 HuggingFace transformers 双后端切换，可本地运行开源大模型进行多轮对话，支持流式输出与参数微调。
HTTP API 服务——内置轻量 Web API，局域网内可通过手机浏览器远程调用图像生成与对话功能。
技术亮点：采用多进程 worker 架构，推理任务在独立子进程中执行；通过 stdin/stdout JSON 协议实现进程间通信；针对低显存设备实现 CPU 降级推理方案；解决了跨进程中文编码乱码、国内网络环境下模型离线加载等实际问题。
技术栈：Python / tkinter / http.server / multiprocessing / Pillow / llama.cpp
个人角色：独立开发，负责全部架构设计、前后端开发及调试部署。
案例图片
相似案例推荐
-
算子智能体平台
算子是一套面向办公、科研、设计和工业场景的智能任务与成果交付
-
电氢氨园区优化调度
本人负责需求拆解、数据处理、优化建模、程序求解和结果可视化。
-
高性能、SEO/GEO中英双语企业官网
企业中英双语官网，展示技术团队实力与交付案例，兼顾 SEO/
-
BMS
作品是共享换电专用智能 BMS，基于 RISC-V 主控与
-
AI智能直播助手App
独立开发的一款面向直播电商场景的AI智能直播助手Androi
-
AI内容创作SaaS平台
面向创作者与代运营团队的一站式AI内容生产平台。我在项目中担
1小时精推人才
需求方专属客服，免费梳理匹配
