ARTICLE DETAIL

资讯详情

深耕编程入门与网站建设的一线实战洞察。

AMD Radeon Cloud 云端 GPU 平台(免费算力) 怎么上传数据 大语言模型 40GB 模型权重上传到 AMD 开放平台

AMD Radeon Cloud 云端 GPU 平台(免费算力) 怎么上传数据 大语言模型 40GB 模型权重上传到 AMD 开放平台 这个问题和当前的 ERP 项目代码无关但我可以给你一些思路大语言模型 40GB 模型权重上传到 AMD 开放平台让我先搜索一下最新的相关信息根据搜索结果有几个 AMD 相关平台可以提供免费算力。以下是针对40GB 模型权重上传的具体建议主要平台选择1. AMD Developer Cloud推荐提供AMD Instinct MI300X拥有192GB HBM3 显存40GB 模型完全放得下申请地址https://www.amd.com/en/developer/resources/cloud-access/amd-developer-cloud.html上传方式通过 SSH# 方法1scp 直接上传适合稳定网络scp-r/path/to/model useramd-cloud-ip:/home/user/models/# 方法2rsync 断点续传强烈推荐 40GB 大文件rsync-avz--progress--partial/path/to/model/ useramd-cloud-ip:/home/user/models/# 方法3先压缩再上传减少传输时间tar-czfmodel.tar.gz /path/to/model/scpmodel.tar.gz useramd-cloud-ip:/home/user/sshuseramd-cloud-iptar -xzf model.tar.gz2. AMD x 魔搭社区ModelScope联合计划国内用户更友好网络更快地址https://modelscope.cn/events/247可通过魔搭社区的内容平台获取免费 GPU 算力奖励上传方式# 使用 ModelScope CLI 上传pipinstallmodelscope modelscope upload--modelyour-model-name /path/to/model# 或者使用 Git LFS大文件支持gitlfsinstallgitaddmodel_files/gitcommit-mupload modelgitpush3. AMD-ITRI 高速运算开放平台台湾免费使用 MI300X192GB 显存适合大模型开发40GB 大文件上传实用技巧方法优点适合场景rsync 断点续传网络中断可继续最推荐40GB必用分卷压缩上传单次传输量小网络不稳定时对象存储中转速度快平台支持S3/OSS时huggingface-cli生态兼容好HuggingFace格式模型分卷压缩方案网络不稳定时# 本地分割成 5GB 一个文件split-b5G model.tar.gz model_part_# 逐个上传forfinmodel_part_*;dorsync-avz--partial--progress$fuserhost:/path/done# 远程合并文件catmodel_part_*model.tar.gztar-xzfmodel.tar.gz使用 huggingface-cli 上传pipinstallhuggingface_hub huggingface-cli login huggingface-cli upload your-username/model-name /path/to/model.注意事项网络带宽40GB 上传10Mbps 上行带宽需要约9小时建议用千兆网络断点续传一定要用rsync --partial或类似工具避免中断后重新上传模型格式确认平台支持的格式safetensors、bin、pt 等磁盘空间确认远程实例有足够磁盘空间至少 50GB如果平台有网盘/对象存储优先上传到那里再从实例内下载速度更快可以ModelScope魔搭社区完全支持上传模型而且对大文件有较好的支持。以下是具体方法上传模型到 ModelScope 的 3 种方式方式一ModelScope Python SDK推荐pipinstallmodelscopefrommodelscope.hub.apiimportHubApi# 登录apiHubApi()api.login()# 会弹出浏览器让你授权或输入 token# 创建模型仓库并上传api.create_model(model_idyour-username/your-model-name,visibility1,# 1公开, 0私有)# 上传文件frommodelscope.hub.snapshot_downloadimportsnapshot_downloadfrommodelscope.hub.file_downloadimportmodel_file_download# 使用 push_model 上传整个目录api.push_model(model_idyour-username/your-model-name,model_dir/path/to/your/model)方式二Git Git LFS最灵活# 1. 安装 git-lfsgitlfsinstall# 2. 克隆你的模型仓库先在网页上创建gitclone https://www.modelscope.cn/your-username/your-model-name.gitcdyour-model-name# 3. 把模型文件复制进来cp-r/path/to/your/model/*.# 4. 追踪大文件40GB的权重文件gitlfs track*.safetensorsgitlfs track*.bingitlfs track*.pt# 5. 提交并推送gitadd.gitcommit-mupload model weightsgitpush origin master方式三ModelScope 命令行工具pipinstallmodelscope# 登录modelscope login# 上传模型modelscope upload--modelyour-username/your-model-name /path/to/model.针对 40GB 大文件的重要提示注意事项说明Git LFS必须安装否则大文件会上传失败单文件限制建议单文件不超过 5GB超大权重文件建议分片断点续传Git LFS 支持一定程度的断点续传网络国内上传速度较快魔搭服务器在国内如果模型单文件超过限制拆分方法# 使用 safetensors 格式保存时自动分片from safetensors.torchimportsave_file# 或者手动拆分split-b4G model.safetensors model_part_快速操作流程在 https://modelscope.cn 注册账号网页上点击「创建模型」获取上传 Token个人设置 → Access Token选择上述任一方式上传上传完成后在网页上完善模型说明文档ModelScope 是国内平台上传速度比 HuggingFace 快很多非常适合国内用户使用。AMD-ITRI 高速运算开放平台台湾申请网址https://www.nspark.org.tw/latest_news/events/8平台特色免费使用业界顶规 AMD MI300X 运算资源MI300X 搭载192GB HBM3 显存满足大模型开发需求还有 Radeon R9700 可用开放台湾产/学/研/新创团队申请可单独或跨机构联合申请申请方式线上申请填写「AMD Instinct 算力使用申请书」联系窗口赵小姐电话03-5914721Emailabby_Chaoitri.org.tw申请梯次2025-2026根据搜索结果有多个申请梯次如 07/02、08/27、10/22 等建议关注官网获取最新时程。申请需包含专案重点说明算力需求说明使用计划注意该平台主要面向台湾地区的产学研团队如果你不在台湾建议考虑AMD Developer Cloud全球开放https://www.amd.com/en/developer/resources/cloud-access/amd-developer-cloud.htmlModelScope 魔搭社区国内https://modelscope.cn
返回列表