机器之心报道 编辑:小舟、泽南 用微调的方法,现在羊驼模型也可以打 ChatGPT 了,这不是随便说说,有测试结果为证。 最近,来自华盛顿大学的 QLoRA 成为了 AI 领域的热门,很多人把它形容为...【查看原文】
机器之心报道 编辑:小舟、泽南 「原驼」大模型输出的内容和 ChatGPT 比,人类也无法区分谁好谁坏。 用微调的方法,现在羊驼模型也可以打 ChatGPT 了,这不是随便说说,有测试结果为证。
ChatGPT
机器之心 2023-05-26
这是开源大模型最新成果,来自羊驼家族的又一重磅成员——华盛顿大学原驼(Guanaco)。更关键的是,与原驼一起提出的新方法QLoRA把微调大模型的显存需求从>780GB降低到<48GB。开源社区直接开始狂欢,相关论文成为24小时内关注度最高的AI论文。
量子位 2023-05-25
自动测试分数达到ChatGPT的99.3%,人类难以分辨两者的回答……这是开源大模型最新成果,来自羊驼家族的又一重磅成员——华盛顿大学原驼(Guanaco)。更关键的是,与原驼一起提出的新方法QLoRA把微调大模型的显存需求从>780GB降低到。开源社区直接开始狂欢,相关论文成为24小时内关注度最高的AI论文。以Meta的美洲驼LLaMA为基础,得到原驼650亿参数版只需要48GB显存单卡微调24小时,330亿参数版只需要24GB显存单卡微调12小时。24GB显存,也就是一块消费级RTX3090
ChatGPTLLaMA
一起学chatGPT一起学ai 2023-05-27
大杀器QLoRA终于放出了论文和相关实现。单个GPU即可部署的ChatBot,甚至达到了ChatGPT 99%的能力。只需使用消费级GPU微调12个小时就可以达到97%的ChatGPT水平。同时只用4B就可以保持16B精度的效果。QLoRA通过以下三个创新点来优化资源:1. 4Bit NormalFloat 4比特量化2. Double Quantization 双重量化3. Paged Optimizers 分页优化器QLoRA是在LORA的基础上,先对Transformer进行4Bit量化,
ChatGPTLoRA
AI研习所 2023-05-25
还推出新AI加速技术,光刻计算速度提升40倍
量子位 2023-03-22
2024年12月10日至11日,“万千流变,一如既往”2024甲子引力年终盛典在北京中关村国家自主创新示范区展示中心盛大举行。此次盛典汇聚科技行业中坚力量,七十余位重磅嘉宾纷至沓来,在人工智能、机器人、科学智能与新质生产力等核心领域,他们带来海量创新成果与深邃洞察,其中多番内容于行业内首次发布。
甲小姐甲子光年 2024-12-26
记者从郑州市高新区相关部门了解到,2024世界机器人大赛总决赛将于2025年1月16日至1月21日在郑州高新区举行。
北京日报 2024-12-26
日前,荣耀于北京举办荣耀Magic7RSR保时捷设计及影像技术发布会,正式发布了荣耀Magic7RSR保时捷设计,同时宣布荣耀Magic7系列将全面升级“大王影像”。 之前,网上很多人调侃荣耀拍照盲评没输过,带上水印没赢过,这也反映了部分网友对荣耀品牌的偏见。
IT168 2024-12-26
据多方消息透露,英伟达将于2024年1月推出其最新的RTX50系列显卡。根据英伟达以往的发布惯例,通常RTX5090会率先亮相,随后是RTX5080。然而,最新的爆料指出,RTX5080或将在1月中旬率先上市。
中关村在线 2024-12-26
12月26日,阳光明媚,伴随着阵阵锣鼓声,驻沪某部队联合盐城市盐都区退役军人事务局、龙冈镇等部门,组成送喜报小分队,来到荣获三等功的军人张荣峰家中,为其亲属送上喜报和慰问金,共同分享这份荣耀。他指出,张荣峰在2024年完成重大任务中表现出色,不仅展示了军人的英勇和智慧,也为部队和家乡赢得了荣誉。
扬子晚报 2024-12-26
12月23日,荣耀在北京发布了荣耀Magic7RSR保时捷设计,并宣布荣耀Magic7系列将全面升级“大王影像”。联名风潮与荣耀的影像自信近年来,手机品牌与知名摄影厂商联名似乎已经成为一种趋势——小米与徕卡、OPPO与哈苏、vivo与蔡司。
科技plus 2024-12-26
如果这句话成立,那么这篇文章正是为你而写:这是《麻省理工科技评论》的年度科技失败案例盘点,记录了过去一年中最令人唏嘘的失误、骗局与灾难。有些失败带着些许荒诞的色彩,比如谷歌的“觉醒AI”,因生成黑人纳粹图像而将公司推上舆论风口浪尖。
DeepTech深科技 2024-12-26
Phi-4在仅有140亿(14B)个参数的情况下,通过创新的训练方法和高质量的数据,展现出了媲美甚至超越一些更大规模模型的性能。有机Web数据:占15%,精选过的有价值的Web内容。
微软中国MSDN 2024-12-26
证券之星消息,2024年12月26日科德数控(688305)发布公告称公司于2024年12月26日组织现场参观活动,博时基金、财通基金参与。问:公司在今年展会亮相的KMC1000机型引起了关注,未来如何规划?答:高动态全直驱五轴立式加工中心KMC1000的推出,进一步完善了公司五轴立式加工中心产品的规格,进一步满足不同客户领域的使用需求。
证券之星 2024-12-26
从9月末至今,豆神教育(300010.SZ)经历了新产品上线、与多家行业龙头达成战略合作协议、成立合资公司等一系列重大事件。近期,豆神教育董事长窦昕描绘了豆神教育在本轮AI浪潮中如何扩张在教育市场中的商业版图。
中国财富网 2024-12-26
Copyright © 2026 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1