ID:314552 复制

奇文王语

高级NLP算法工程师 · 10年经验 · 百度时代网络技术(北京)有限公司

城市北京海淀日薪800元/8h 时间下班后周六周日

累计接单

100%

五星好评率

用户评价

被收藏

技术能力项目经验案例展示用户评价

技术能力

AI 技能提取 | NLP Java Python C# MySQL 机器学习分布式 PyTorch Spark TensorFlow 深度学习自然语言处理 Git Linux TCP/IP

一、大模型技术能力
1. 具备丰富的大模型落地应用经验，能够结合实际业务场景将大模型技术应用于公文写作、Text2SQL 转换、标书生成等多个方向，推动业务智能化升级。
2. 熟悉主流大模型体系，包括 DeepSeek-R1、Qwen3、ChatGLM 等，掌握其在训练、推理、私有化部署以及国产化环境适配等方面的实践方法和优化策略。
3. 深入理解大模型训练与调优技术，熟练掌握增量预训练、全量微调、LoRA 轻量化训练、强化学习（如基于人类反馈的强化学习 RLHF）等关键技术路径，具备较强的工程实践能力和模型优化能力。
4. 熟悉大模型与国产化服务器的适配（昇腾910B、300Iduo、智凯v100、曙光k100等）
5. 熟悉国产化大模型在标书、公文、text2sql等公文领域的落地应用。

二、自然语言处理能力
1. 熟悉语言学基础知识，掌握语法结构、语义理解、句法分析等 NLP 核心概念。
2. 精通常见的 NLP 任务与算法，包括：
（1）序列标注与实体识别：命名实体识别（NER）、词性标注、条件随机场（CRF）等。
（2）句法与语义分析：依存句法分析、语义角色标注等技术。
（3）情感分析与分类：能够基于机器学习方法开展文本情绪识别与分类。
（4）问答系统与对话建模：熟悉基于规则及机器学习的问答系统构建方法。
（5）机器翻译：了解规则、神经网络等多种机器翻译技术。
（6）多模态理解：了解将图像、语音等信息与文本结合进行多模态任务建模。

三、语言模型与迁移学习能力
1. 熟悉语言模型在文本生成、补全和翻译等任务中的应用。
2. 理解统计语言模型与神经语言模型的原理与差异。
3. 掌握主流预训练语言模型（如 BERT、GPT）及其在下游任务中的微调方法。
4. 理解并实践迁移学习，能够将一个任务中的知识迁移至其他相关任务。

四、数据处理与工程实现能力
1. 熟练处理和清洗大规模文本数据，包括分词、去除停用词、缺失值处理等。
2. 具备使用GPU加速训练与分布式计算框架（如 PyTorch Distributed、Spark 等）处理大模型与海量数据的经验。
3. 熟悉模型评估方法，掌握准确率、召回率、F1 值、BLEU、ROUGE 等核心指标的使用。

五、学术素养与技术研究能力
1. 具备持续学习与研究能力，能够及时追踪 NLP 领域最新研究成果和技术趋势。
2. 注重理论与实践结合，善于将前沿技术应用于真实业务场景中解决问题。

六、综合技能
英语水平：CET-6
熟练Python、C#、Java等面向对象语言开发，MySQL、ES的应用，有良好的编程习惯
熟悉Linux操作系统下常用命令，熟悉shell、git、Visual Studio的使用
熟悉数据结构和算法设计、机器学习、数据挖掘等专业知识，了解TCP/IP通信协议
熟悉机器学习scikit-learn、深度学习库Tensorflow、pytorch、paddlepaddle的使用
熟悉CNN,GRU,Transformer等神经网络和BERT、Roberta、GPT等预训练模型的使用
熟悉大模型Qwen、Baichuan、ChatGLM基于full、freeze、lora等算法的训练和推理

项目经验

一、基于大模型的落地应用（写作，问答、摘要等）
（1）熟悉大模型进行增量预训练的操作（continue pretrain）
（2）熟悉基于DeepSeek、Qwen，Chatglm、Baichuan等大模型的微调。
（3）熟悉大模型进行DPO、SIMPO等强化学习的训练过程。
（4）熟悉对标书、text2sql、法律等领域数据集的处理策略。
（5）熟悉对大模型进行推理加速（rtp-llm、vllm）量化（GPTQ）等操作，显著降低显存占用
（6）熟悉检索增强生成技术RAG，配合大模型一块使用，提高模型的生成质量。
（7）有大模型在实际场景的落地应用经验。

二、基于大模型进行内容写作的落地应用
项目简介：基于大模型进行公文内容自动生成。
工作内容：(1)收集最新的公文数据集，对数据集进行清洗。（2）选用Baichuan-7B，Qwen1.5-7B、ChatGlm4作为基础模型，基于基础模型，在大量的数据预处理的公文数据上持续预训练。（3）收集大量的 instruction pairs 数据，包括非公文的和公文的，然后进行有监督的微调（Supervised Fintune）获得领域模型.

三、基于PEGASUS模型的文本摘要算法
项目简介：对公文的全文内容进行简要描述，形成能概括公文主旨的一小段文字内容。
工作内容：(1)基于textrank算法抽取公文中的重要句子：对文章内容进行分句和分词处理、基于分词结果构建有向无权图、计算句子权重、根据句子权重值对句子进行排序、抽取文章标题与重要句子拼接作为关键句。
(2)以mT5模型为基础架构和初始权重，通过类似PEGASUS的方式进行训练，模型定义为t5-pegasus。对标注的文本摘要数据集进行清洗获得3万多条有效数据，基于这些数据进行模型训练

四、基于demucs与splitter模型进行音频文件分割。
（1）其中demucs支持2和4轨道的分离。
（2）spleeter支持2、4、5轨道的分离。
（3）支持"mp3", "ogg", "m4a", "wav", "flac"等多种格式的音频文件。
（4）支持基于时间戳的动态 token校验和https协议通信。
（5）基于nginx和openssl的域名配置。

五、基于预训练模型的翻译模型算法
项目简介：利用大量的单语数据进行预训练，通过知识蒸馏算法从预训练模型中获取知识来提高翻译模型的效果。
工作内容：(1)基于fairseq深度学习框架，进行翻译模型的研发。(1)对平行语料进行预处理主要包含unicode_normalize；html_unescape；remove_other_symbols(2)设计知识蒸馏的算法主要包含word-level和sentence-level以及sequence-level三种类型的知识蒸馏方法。(3)利用大量的单语数据进行模型的预训练。（4）探索多语言模型XLM-R、MBART等多语言模型的训练和推理方法。

六、猫耳虚拟偶像机器人系统
项目简介：设计一个知识渊博的虚设偶像男友，通过与该偶像男友进行聊天获得想了解的答案。
工作内容：(1)设计算法架构流程图，主要包含意图识别、QA问答、阅读理解、闲聊生成、实体识别等模块。（2）设计基于BERT预训练语言模型的意图识别、QA问答模块模型的研发和部署。

展开全部项目经验