用业务数据微调 CodeLlama-13b-hf （失败了）

作者：我是王大你是谁发布时间：2024-06-28

通义千问

最近一直做的 txt2sql 的项目，但使用的大模型的是通义千问 api 接口，领导在充了 2000 块之后觉得太贵了，让我开始研究能不能微调下开源 codellama 来替换通义千问，所以才有了下文...【查看原文】

相关资讯

数学能力超ChatGPT 70B开源大模型火了：用AI微调AI

用AI生成的指令微调羊驼大模型，数学能力超ChatGPT——微软最新开源大模型WizardMath来了。如下图所示，经过GSM8k数据集测试，WizardMath数学能力直接击败了ChatGPT、Claude In

ChatGPT Claude 微软

2023-08-14

使用 PyTorch FSDP 微调 Llama 2 70B

## 引言通过本文，你将了解如何使用 PyTorch FSDP 及相关最佳实践微调 Llama 2 70B。在此过程中，我们主要会用到 Hugging Face Transformers、Accel

LLaMA Hugging Face

HuggingFace 2023-12-12

数学能力超ChatGPT，70B开源大模型火了：用AI微调AI，微软全华班出品

GitHub 4.8k星

ChatGPT GitHub 微软

量子位 2023-08-14

OpenAI用13天做出神级机器人：当GPT有了人形

火遍硅谷、OpenAI重金押注的人形机器人Figure01，现在会看会听，能和人类自由对话了。当地时

OpenAI

硅星人 2024-03-14

你还在调戏AI，有的公司已经用ChatGPT开展业务了

ChatGPT

夽谷企业组网 2023-03-10

近期资讯

74亿港元，今年最后一个智驾IPO来了

四个月内第四个智驾IPO。

直通IPO 2024-12-27

投资8年的独角兽上市了，这家深圳VC等到了

一家精品VC的底气。

36氪的朋友们 2024-12-27

最适合初冬独自出行的城市，不是尔滨

秋天太短，还好我去了这座城市

新周刊 2024-12-27

豆包定价一元的野心：字节跳动打响AI突围战

AI赛道的搅局者。

投资者网 2024-12-27

“怕无聊、怕生病、怕没钱”，如何从老年人的担忧中发掘商机？

害怕之所在，商机之所在。

艾年 2024-12-27

山姆：速度与问题并存

近期山姆问题频发或与加速扩张有关。

品智PLSC 2024-12-27

具身智能，汽车商挤上牌桌

本次广汽集团打造的人形机器人融合了四轮足、两轮足两种模式。有观点认为，汽车生产车间不缺机器人，但人形机器人进车间仍需加深场景理解，突破更多的技术边界。

36氪的朋友们 2024-12-27

AI医疗，又诞生一家百亿独角兽

本次融资总规模为10亿元。

猎云网 2024-12-27

飞行汽车Lilium停止运营，全体裁员：曾估值33亿美元，或迎来白衣骑士

Lilium是继亿航和Joby后第三家在美上市的电动航空企业，但资金链一直紧张。

雷帝触网 2024-12-27

刚刚，融了17轮的深圳明星公司IPO了

阿里巴巴CEO吴泳铭是天使投资人。

36氪的朋友们 2024-12-27

用业务数据微调 CodeLlama-13b-hf （失败了）

推荐体验

相关资讯

数学能力超ChatGPT 70B开源大模型火了：用AI微调AI

使用 PyTorch FSDP 微调 Llama 2 70B

数学能力超ChatGPT，70B开源大模型火了：用AI微调AI，微软全华班出品

OpenAI用13天做出神级机器人：当GPT有了人形

你还在调戏AI，有的公司已经用ChatGPT开展业务了

近期资讯

74亿港元，今年最后一个智驾IPO来了

投资8年的独角兽上市了，这家深圳VC等到了

最适合初冬独自出行的城市，不是尔滨

豆包定价一元的野心：字节跳动打响AI突围战

“怕无聊、怕生病、怕没钱”，如何从老年人的担忧中发掘商机？

山姆：速度与问题并存

具身智能，汽车商挤上牌桌

AI医疗，又诞生一家百亿独角兽

飞行汽车Lilium停止运营，全体裁员：曾估值33亿美元，或迎来白衣骑士

刚刚，融了17轮的深圳明星公司IPO了

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响