GPT-2 (124M)​​+FP8

人工智能 其他 案例ID：231075
Bacchus
1 年经验· 中电科技
微信扫码沟通，客服可协助直接对接工程师；如当前档期不合，也可继续推荐相似案例作者。

案例介绍

独立完成，复现GPT-2 (124M参数)​​+FP8混合精度预训练
● 基于Transformer架构
● 训练数据是HuggingFaceFW/fineweb-edu中的sample-10BT
● GPU租用的是智星云，GeForce RTX 4090 (24G)，系统Ubuntu，单机4卡
● 相关版本如下：CUDA Version: 12.4, Driver Version: 550.127.05, torch 2.5.0, triton 3.1.0

案例图片

共 2 张
GPT-2 (124M)​​+FP8 GPT-2 (124M)​​+FP8
查看该工程师的更多案例 >

相似案例推荐

管道检测系统
管道检测系统
python，目标检测，图片分类，目标跟踪，系统架构，多进程
暂无作品
暂无作品
本人学生，暂无相关产品经历，但本人有充足的时间和精力，希望获
暂无作品
暂无作品
本人学生，希望获得机会能够完成项目，但本人有充足的时间和经历
ai语音对话
ai语音对话
一个融合了自然语言处理（AI 回复）与语音合成（Edge T
自动泊车上位机
自动泊车上位机
选择.NET 8 WPF作为开发框架，利用其丰富的UI控件库
AI 智能体
AI 智能体
体验地址：https://wisdom-hub.51emai

GPT-2 (124M)​​+FP8

人工智能 · 其他 案例ID：231075
联系该工程师
微信扫码，建群沟通
作者： Bacchus - 1年经验- 中电科技

案例介绍

独立完成，复现GPT-2 (124M参数)​​+FP8混合精度预训练
● 基于Transformer架构
● 训练数据是HuggingFaceFW/fineweb-edu中的sample-10BT
● GPU租用的是智星云，GeForce RTX 4090 (24G)，系统Ubuntu，单机4卡
● 相关版本如下：CUDA Version: 12.4, Driver Version: 550.127.05, torch 2.5.0, triton 3.1.0

案例图片

GPT-2 (124M)​​+FP8

GPT-2 (124M)​​+FP8

查看该工程师的更多案例

相似案例推荐

  • 管道检测系统

    管道检测系统

    python，目标检测，图片分类，目标跟踪，系统架构，多进程

  • 暂无作品

    暂无作品

    本人学生，暂无相关产品经历，但本人有充足的时间和精力，希望获

  • 暂无作品

    暂无作品

    本人学生，希望获得机会能够完成项目，但本人有充足的时间和经历

  • ai语音对话

    ai语音对话

    一个融合了自然语言处理（AI 回复）与语音合成（Edge T

  • 自动泊车上位机

    自动泊车上位机

    选择.NET 8 WPF作为开发框架，利用其丰富的UI控件库

  • AI 智能体

    AI 智能体

    体验地址：https://wisdom-hub.51emai

发布任务

企业点击发布任务，工程师会在任务下报名，招聘专员也会在 1 小时内与您联系确认。
点击发布任务

1小时精推人才

需求方专属客服，免费梳理匹配

需求方客服微信二维码
扫码加微信 · 客服人工对接
更多案例
微信沟通 客服 看中这位工程师了？客服帮你 1 小时对接沟通 → ×