大模型参数高效微调技术原理综述（五）-LoRA、AdaLoRA、QLoRA

作者：吃果冻不吐果冻皮发布时间：2023-06-12

LoRA ChatGPT

随着，ChatGPT 迅速爆火，引发了大模型的时代变革。然而对于普通大众来说，进行大模型的预训练或者全量微调遥不可及。由此，催生了各种参数高效微调技术，让科研人员或者普通开发者有机会尝试微调大模型。...【查看原文】

近期资讯

上海航天科工电器研究院申请微矩形、集成化、混装型连接器专利，实现电源分配与电源控制

金融界2024年12月25日消息，国家知识产权局信息显示，上海航天科工电器研究院有限公司申请一项名为“微矩形、集成化、混装型连接器”的专利，公开号CN119171145A，申请日期为2024年8月。

金融界 2024-12-25

江苏华电仪征申请一种网络断路器断网方法专利，可实现网络设备遇攻击时断网

金融界2024年12月25日消息，国家知识产权局信息显示，江苏华电仪征热电有限公司申请一项名为“一种网络断路器的断网方法”的专利，公开号CN119171149A，申请日期为2024年11月。专利摘要显示，一种网络断路器的断网方法。

金融界 2024-12-25

深圳市华宝新能源取得发电组件专利，可为建筑提供发电组件

金融界2024年12月25日消息，国家知识产权局信息显示，深圳市华宝新能源股份有限公司取得一项名为“发电组件”的专利，授权公告号CN222192204U，申请日期为2024年1月。

金融界 2024-12-25

贵州航天电器申请耐液压密封转接器专利，实现转接器同时具备信号和电能的功能

金融界2024年12月25日消息，国家知识产权局信息显示，贵州航天电器股份有限公司申请一项名为“种耐液压密封转接器”的专利，公开号CN119171148A，申请日期为2024年9月。

金融界 2024-12-25

江苏威尔五金取得新型抗风柔性光伏支架专利，提高了整体结构的安全性

金融界2024年12月25日消息，国家知识产权局信息显示，江苏威尔五金股份有限公司取得一项名为“一种新型抗风柔性光伏支架”的专利，授权公告号CN222192200U，申请日期为2024年4月。专利摘要显示，本实用新型公开了一种新型抗风柔性光伏支架，涉及柔性光伏支架技术领域。

金融界 2024-12-25

晶圣新能源取得提升光伏阵列功率聚光支架专利，提升发电功率

金融界2024年12月25日消息，国家知识产权局信息显示，内蒙古晶圣新能源科技有限公司取得一项名为“一种用于在光伏阵列安装中提升功率的聚光支架”的专利，授权公告号CN222192196U，申请日期为2024年4月。

金融界 2024-12-25

上海核工程研究设计院申请连接器组件专利，满足安全壳内工作环境绝缘密封要求且延长使用寿命

金融界2024年12月25日消息，国家知识产权局信息显示，上海核工程研究设计院股份有限公司申请一项名为“一种连接器组件”的专利，公开号CN119171147A，申请日期为2024年11月。专利摘要显示，本发明涉及一种连接器组件。

金融界 2024-12-25

中能创低碳新能源科技取得一种光伏轻质组件的安装结构件专利，解决了光伏轻质组件不方便安装拆卸和维修的问题

金融界2024年12月25日消息，国家知识产权局信息显示，中能创低碳新能源科技（常州）有限责任公司取得一项名为“一种光伏轻质组件的安装结构件”的专利，授权公告号CN222192192U，申请日期为2024年3月。专利摘要显示，本实用新型公开了一种光伏轻质组件的安装结构件，属于光伏组件技术领域，解决了安装和拆卸不方便的问题。

金融界 2024-12-25

西安西电新能源取得一种光伏支架用连接结构专利，保证了光伏支架立柱与横梁或斜撑连接部位的强度和刚度

金融界2024年12月25日消息，国家知识产权局信息显示，西安西电新能源有限公司取得一项名为“一种光伏支架用连接结构”的专利，授权公告号CN222192197U，申请日期为2024年4月。

金融界 2024-12-25

天津摩泰申请简易型水气滑环专利，提高定子筒内部密封效果

金融界2024年12月25日消息，国家知识产权局信息显示，天津摩泰科技有限公司申请一项名为“一种简易型水气滑环”的专利，公开号CN119171150A，申请日期为2024年9月。

金融界 2024-12-25

大模型参数高效微调技术原理综述（五）-LoRA、AdaLoRA、QLoRA

推荐体验

相关资讯

大模型参数高效微调技术实战（五）-LoRA

大模型参数高效微调技术原理综述（六）-MAM Adapter、UniPELT

大模型参数高效微调技术原理综述（七）-最佳实践、总结

大模型参数高效微调技术原理综述（四）-Adapter Tuning及其变体

大模型参数高效微调技术原理综述（二）-BitFit、Prefix Tuning、Prompt Tuning

近期资讯

上海航天科工电器研究院申请微矩形、集成化、混装型连接器专利，实现电源分配与电源控制

江苏华电仪征申请一种网络断路器断网方法专利，可实现网络设备遇攻击时断网

深圳市华宝新能源取得发电组件专利，可为建筑提供发电组件

贵州航天电器申请耐液压密封转接器专利，实现转接器同时具备信号和电能的功能

江苏威尔五金取得新型抗风柔性光伏支架专利，提高了整体结构的安全性

晶圣新能源取得提升光伏阵列功率聚光支架专利，提升发电功率

上海核工程研究设计院申请连接器组件专利，满足安全壳内工作环境绝缘密封要求且延长使用寿命

中能创低碳新能源科技取得一种光伏轻质组件的安装结构件专利，解决了光伏轻质组件不方便安装拆卸和维修的问题

西安西电新能源取得一种光伏支架用连接结构专利，保证了光伏支架立柱与横梁或斜撑连接部位的强度和刚度

天津摩泰申请简易型水气滑环专利，提高定子筒内部密封效果

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响