机器之心报道 编辑:小舟、泽南 用微调的方法,现在羊驼模型也可以打 ChatGPT 了,这不是随便说说,有测试结果为证。 最近,来自华盛顿大学的 QLoRA 成为了 AI 领域的热门,很多人把它形容为...【查看原文】
机器之心报道 编辑:小舟、泽南 「原驼」大模型输出的内容和 ChatGPT 比,人类也无法区分谁好谁坏。 用微调的方法,现在羊驼模型也可以打 ChatGPT 了,这不是随便说说,有测试结果为证。
ChatGPT
机器之心 2023-05-26
这是开源大模型最新成果,来自羊驼家族的又一重磅成员——华盛顿大学原驼(Guanaco)。更关键的是,与原驼一起提出的新方法QLoRA把微调大模型的显存需求从>780GB降低到<48GB。开源社区直接开始狂欢,相关论文成为24小时内关注度最高的AI论文。
量子位 2023-05-25
自动测试分数达到ChatGPT的99.3%,人类难以分辨两者的回答……这是开源大模型最新成果,来自羊驼家族的又一重磅成员——华盛顿大学原驼(Guanaco)。更关键的是,与原驼一起提出的新方法QLoRA把微调大模型的显存需求从>780GB降低到。开源社区直接开始狂欢,相关论文成为24小时内关注度最高的AI论文。以Meta的美洲驼LLaMA为基础,得到原驼650亿参数版只需要48GB显存单卡微调24小时,330亿参数版只需要24GB显存单卡微调12小时。24GB显存,也就是一块消费级RTX3090
ChatGPTLLaMA
一起学chatGPT一起学ai 2023-05-27
大杀器QLoRA终于放出了论文和相关实现。单个GPU即可部署的ChatBot,甚至达到了ChatGPT 99%的能力。只需使用消费级GPU微调12个小时就可以达到97%的ChatGPT水平。同时只用4B就可以保持16B精度的效果。QLoRA通过以下三个创新点来优化资源:1. 4Bit NormalFloat 4比特量化2. Double Quantization 双重量化3. Paged Optimizers 分页优化器QLoRA是在LORA的基础上,先对Transformer进行4Bit量化,
ChatGPTLoRA
AI研习所 2023-05-25
还推出新AI加速技术,光刻计算速度提升40倍
量子位 2023-03-22
“企业数字化进阶之路,架构设计之基。” 在企业发展进程中,数字化转型至关重要。其历经哪些阶段?又如何影响产品架构设计?
三爷茶馆 2024-12-30
微信近日推出了一项名为“送礼物”的新功能,引发了市场对其电商野心的广泛猜测。不仅体现了腾讯在社交电商领域的新尝试,也标志着其在微信生态内进一步拓展商业版图的决心。
知危 2024-12-30
“年度总结有诀窍,五问助力明方向。” 在年末之际,如何高效总结 2024 年工作?这五个关键问题将为您提供清晰的思路。
SAAS老司机 2024-12-30
“抖音本地生活商业化,流量变现之路。” 在本地生活领域,抖音如何将流量转化为商业价值?商家又该如何应对?
陈罡Pro 2024-12-30
“数字时代成瘾隐忧,设计何为?” 在技术无处不在的当下,技术成瘾问题凸显。用户体验设计在其中扮演着怎样的角色?又该如何应对?
TCC翻译情报局 2024-12-30
“玄学珠宝热潮,年轻消费新态。” 在当下消费市场中,水晶为何备受年轻人青睐?珠宝行业的玄学营销背后隐藏着怎样的商业逻辑?
刺猬公社 2024-12-30
在当今竞争激烈的市场中,品牌与社区的互动变得尤为重要。超级用户计划作为一种新兴的社群管理策略,旨在通过发掘和培养一群具有影响力的用户,来推动品牌的发展和创新。
品牌猿 2024-12-30
DeepTech深科技 2024-12-30
024年,人工智能技术以其前所未有的速度和规模,渗透到我们生活的每一个角落,从智能手机到机器人,从医疗健康到自动驾驶,AI的应用正变得日益广泛和深入。本文将带您回顾过去一年中AI领域的重要事件,盘点那些破圈的产品和技术突破,探讨它们如何塑造我们的未来。
科技旋涡 2024-12-30
随着新能源汽车行业的迅猛发展,中国在全球汽车产业中的领导地位日益凸显。在这一背景下,供应链管理和客户关系维护成为了车企竞争的关键。本文将探讨快递100旗下的「百递云·API开放平台」如何通过其先进的API接口服务,助力新能源汽车企业在供应链管理和积分商城运营中实现创新和效率的双重提升。
快递100·百递云 2024-12-30
Copyright © 2026 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1