ChatGPT低成本复现流程开源！任意单张消费级显卡可体验，显存需求低至1.62GB

作者：量子位发布时间：2023-02-19

ChatGPT

要知道，在单机多卡服务器上，即便把显卡规格提升为A10080GB，由于ChatGPT的复杂性和内存碎片，PyTorch最大也只能启动基于GPT-L（774M）这样的小模型ChatGPT。以ChatGPT可选的…...【查看原文】

相关资讯

ChatGPT低成本复现流程开源！任意单张消费级显卡可体验

首个开源的ChatGPT低成本复现流程来了！预训练、奖励模型训练、强化学习训练，一次性打通。最小demo训练流程仅需1.62GB显存，随便一张消费级显卡都能满足了。单卡模型容量最多提升10.3倍。

ChatGPT

2023-02-15

量子位 2023-05-07

零门槛复现ChatGPT：预训练模型数据集直接用，包含完整RLHF流程，在线可体验

这不，“首个开源ChatGPT低成本复现流程”就来了波大更新！现在，仅需不到百亿参数，利用RLHF简单微调，模型即可掌握中、英双语能力，达到与ChatGPT和GPT-3.5相当的效果。比如Meta开源了LLaMA模型，其参数量从70亿到650亿不等，号称130亿参数即可胜过1750亿的GPT-3模型在大多数基准测试的表现。

ChatGPT LLaMA

量子位 2023-03-29

近期资讯

深圳市共进电子申请浪涌保护相关专利，提高设备可靠性稳定性

金融界2024年12月25日消息，国家知识产权局信息显示，深圳市共进电子股份有限公司申请一项名为“浪涌保护电路、浪涌保护系统及AP设备”的专利，公开号CN119172872A，申请日期为2024年9月。专利摘要显示，本申请适用于浪涌保护技术领域，提供了一种浪涌保护电路、浪涌保护系统及AP设备。

金融界 2024-12-25

华为申请通信方法和通信装置专利，明确单播 TWT SP 建立对齐方法

金融界2024年12月25日消息，国家知识产权局信息显示，华为技术有限公司申请一项名为“通信方法和通信装置”的专利，公开号CN119172868A，申请日期为2022年10月。

金融界 2024-12-25

江苏博泰取得中水二次添料混合装置专利，提高杂质过滤

金融界2024年12月25日消息，国家知识产权局信息显示，江苏博泰循环科技有限公司取得一项名为“一种中水二次添料混合装置”的专利，授权公告号CN222196614U，申请日期为2024年4月。

金融界 2024-12-25

华为技术申请一种数据传输方法及装置专利，有利于提高数据接收性能

金融界2024年12月25日消息，国家知识产权局信息显示，华为技术有限公司申请一项名为“一种数据传输方法及装置”的专利，公开号CN119172863A，申请日期为2023年6月。专利摘要显示，本申请提供了一种数据传输方法及装置。该方法包括：第一装置根据第一时间段是否包含一个完整同步信号和物理广播信道SSB，确定第一上行数据的时域资源。

金融界 2024-12-25

华为申请一种通信方法及相关设备专利，能够避免终端设备信号无法在指定时延要求内完成传输

金融界2024年12月25日消息，国家知识产权局信息显示，华为技术有限公司申请一项名为“一种通信方法及相关设备”的专利，公开号CN119172861A，申请日期为2023年6月。

金融界 2024-12-25

弗洛德科技取得可调深度的浮筒式潜水搅拌机专利，方便对潜水搅拌机组件工作深度进行调节

金融界2024年12月25日消息，国家知识产权局信息显示，弗洛德科技（江苏）有限公司取得一项名为“种可调深度的浮筒式潜水搅拌机”的专利，授权公告号CN222196613U，申请日期为2024年3月。

金融界 2024-12-25

中国移动申请旁链路 SL 定位鉴权专利，能够实现旁链路定位

金融界2024年12月25日消息，国家知识产权局信息显示，中国移动通信有限公司研究院、中国移动通信集团有限公司申请一项名为“旁链路SL定位鉴权方法、装置及介质”的专利，公开号CN119172860A，申请日期为2023年6月。专利摘要显示，本发明提供了一种旁链路SL定位鉴权方法、装置及介质，属于通信技术领域。

金融界 2024-12-25

深圳市鼎元智能申请移动终端网络通信专利，能使双SIM卡实现功能划分满足通信需求

金融界2024年12月25日消息，国家知识产权局信息显示，深圳市鼎元智能科技有限公司申请一项名为“移动终端的网络通信方法、装置、移动终端及存储介质”的专利，公开号CN119172871A，申请日期为2024年8月。

金融界 2024-12-25

永康市亦彩水性涂料有限公司取得油漆自动配色装置专利，使调色更加精准减少油漆浪费

金融界2024年12月25日消息，国家知识产权局信息显示，永康市亦彩水性涂料有限公司取得一项名为“一种油漆自动配色装置”的专利，授权公告号CN222196611U，申请日期为2024年3月。

金融界 2024-12-25

融科智汇取得混合机滚筒清料专利，可有效清理混合桶内壁延长设备使用寿命

金融界2024年12月25日消息，国家知识产权局信息显示，融科智汇（天津）新材料科技有限公司取得一项名为“一种混合机滚筒清料装置”的专利，授权公告号CN222196604U，申请日期为2024年1月。

金融界 2024-12-25

ChatGPT低成本复现流程开源！任意单张消费级显卡可体验，显存需求低至1.62GB

推荐体验

相关资讯

ChatGPT低成本复现流程开源！任意单张消费级显卡可体验

开源方案复现ChatGPT流程！1.62GB显存即可体验，单机训练提速7.73倍

开源方案低成本复现ChatGPT流程，仅需1.6GB显存即可体验

IBM加入战局！任意大模型低成本变ChatGPT方法开源，个别任务超GPT-4

零门槛复现ChatGPT：预训练模型数据集直接用，包含完整RLHF流程，在线可体验

近期资讯

深圳市共进电子申请浪涌保护相关专利，提高设备可靠性稳定性

华为申请通信方法和通信装置专利，明确单播 TWT SP 建立对齐方法

江苏博泰取得中水二次添料混合装置专利，提高杂质过滤

华为技术申请一种数据传输方法及装置专利，有利于提高数据接收性能

华为申请一种通信方法及相关设备专利，能够避免终端设备信号无法在指定时延要求内完成传输

弗洛德科技取得可调深度的浮筒式潜水搅拌机专利，方便对潜水搅拌机组件工作深度进行调节

中国移动申请旁链路 SL 定位鉴权专利，能够实现旁链路定位

深圳市鼎元智能申请移动终端网络通信专利，能使双SIM卡实现功能划分满足通信需求

永康市亦彩水性涂料有限公司取得油漆自动配色装置专利，使调色更加精准减少油漆浪费

融科智汇取得混合机滚筒清料专利，可有效清理混合桶内壁延长设备使用寿命

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响