CT球管寿命预测
使用深度学习模型组合来预测CT球管使用寿命(正常区间label 0 报警区间 label 1),特征筛选方法为经验特征交叉组合,pearson相似值和xgboost的重要性排序,时序预测模型组为itransformer + patchtst + Tide,初始阶段为bagging结构目前basic moe。对球馆不同模态,small-130,small-60,large-60,large-130的寿命报警信号平均准确度为65%。
基于时间序列大模型的资本市场预测
经过论文复现与实验结果比较最终选择应用time-llama与t5-Chronos进行资本市场(股指,期货)预测落地。其中对于time-llama的模型优化包括时间序列分解模块的添加,llama2更新至llama3并且在llama部分添加lora增加可学习参数,以及在prompt中添加相关筛选新闻数据及统计参数。模型训练阶段在linux平台使用4张A100(40g,两个结点)对资本市场数据进行SFT,分布式策略使用的是deepspeed中的zero2。对于t5-Chronos,由于是经过时间序列重新预训练的大模型,本次在应用阶段使用了大量的资本市场时间序列数据模型进行全参SFT。在上证指数time-llama提高1%的准确度,在创业板指数t5-Chronos提高约1.5%的准确度。Lag-llama由于其实验结果与自回归的模型特性可作为部分宏观经济指标的预测模型首选。
医疗器械文档 RAG 搜索系统构建
覆盖多格式数据处理与下游文档生成全流程:采用 Mineru、qw-vl-2.5 72b、PaddleOCR、Pandoc 及 OpenPyXL 工具,实现 PDF、Word、PPT、Excel 文档的高效解析;设计整体 layout 段落 chunk + 语义 chunk拆分方案,将文本数据存入 Milvus 向量数据库,表格与图片归档至对象数据库。选用全参微调后的 BGE-M3 模型(经无监督 MLM 与对比学习优化)生成文本 embedding,结合embedding+BM25 召回 + bge-reranker 重排序搜索策略,通过 FastAPI 部署模型服务,最终在文档撰写场景中实现 Top20 召回率增加15% (60%- 75%)。下游对接医疗注册文档撰写任务,基于 Langraph 搭建多 Agent 系统(含 planner、db-searcher、reporter 模块),依托 RAG 系统提供知识支撑,同时支持搜索 / 撰写结果与用户交互,灵活补充额外信息以提升撰写文档质量。