目前有什么可以本地部署的大模型推荐?_陆良网站建设_网站建设公司_网站建设设计制作_seo优化

诚信为本:市场永远在变,诚信永远不变。
咨询热线:0898-08980898

咨询热线

0898-08980898
手机:13988888888
电话:0898-08980898
地址:海南省海口市
邮箱:admin@youweb.com

新闻资讯

当前位置: 首页 > 新闻资讯

目前有什么可以本地部署的大模型推荐?

发布时间:2025-06-22 07:00:10点击量:198

这里推荐一个本地微调大模型的框架。

ZO2,一个仅用18G显存就能全参微调175B大模型的框架(当然也支持微调小一些的模型)。

更新:现在ZO2支持Qwen3啦,全参微调32B的版本只需要6GB显存。

Code: ***s://github***/liangyuwang/zo2 Paper: ***s://arxiv.org/abs/2503.12668。

目前有什么可以本地部署的大模型推荐?

上一篇:各双拼输入方案之间有明显的优劣之分吗?

下一篇:如何看待2025江苏国补在6月1日突然暂停下线?

返回列表
Copyright © 2012-2023 某某博客 版权所有| 备案号:粤IP*******|网站地图