用业务数据微调 CodeLlama-13b-hf （失败了）

作者：我是王大你是谁发布时间：2024-06-28

通义千问

最近一直做的 txt2sql 的项目，但使用的大模型的是通义千问 api 接口，领导在充了 2000 块之后觉得太贵了，让我开始研究能不能微调下开源 codellama 来替换通义千问，所以才有了下文...【查看原文】

相关资讯

数学能力超ChatGPT 70B开源大模型火了：用AI微调AI

用AI生成的指令微调羊驼大模型，数学能力超ChatGPT——微软最新开源大模型WizardMath来了。如下图所示，经过GSM8k数据集测试，WizardMath数学能力直接击败了ChatGPT、Claude In

ChatGPT Claude 微软

2023-08-14

使用 PyTorch FSDP 微调 Llama 2 70B

## 引言通过本文，你将了解如何使用 PyTorch FSDP 及相关最佳实践微调 Llama 2 70B。在此过程中，我们主要会用到 Hugging Face Transformers、Accel

LLaMA Hugging Face

HuggingFace 2023-12-12

数学能力超ChatGPT，70B开源大模型火了：用AI微调AI，微软全华班出品

GitHub 4.8k星

ChatGPT GitHub 微软

量子位 2023-08-14

OpenAI用13天做出神级机器人：当GPT有了人形

火遍硅谷、OpenAI重金押注的人形机器人Figure01，现在会看会听，能和人类自由对话了。当地时

OpenAI

硅星人 2024-03-14

你还在调戏AI，有的公司已经用ChatGPT开展业务了

ChatGPT

夽谷企业组网 2023-03-10

近期资讯

半导体2024：汽车芯片国产化涌现，AI芯片上市潮，存储芯片市场巨大｜职场红利年终盘点⑥

未来产业里的海水与火焰。

职场Bonus 2024-12-29

Designing Hyper-Deterministic, High-Frequency Trading Systems

Introduction Building a hyper-deterministic high-frequency trading (HFT) platform requires careful a

Richard2012 2024-12-29

佑驾创新在港上市，首日涨超14%

智驾赛道再跑出一个IPO

时代财经 2024-12-29

大消费2024：宠物市场井喷，中腰部主播吃香，保健品逆势增长｜职场红利年终盘点⑤

消费者信心分化，品牌需要第二增长曲线。

职场Bonus 2024-12-29

AI芯片新战役：ASIC登场，GPU失色

AI芯片，不再是英伟达的独角戏。

半导体产业纵横 2024-12-29

数字智能2024：大模型竞争格局确立，脑机接口技术突破，云计算大数据服务转型｜职场红利年终盘点④

明年谁将面临存量厮杀？

职场Bonus 2024-12-29

时代财经 2024-12-29

程序员加班很晚应该怎么锻炼身体？

文章首发到公众号：月伴飞鱼，每天分享程序员职场经验！大家好呀，我是飞鱼。作为程序员，肯定都深受加班的痛苦。我觉得还是得先把觉睡够，然后才是锻炼。睡眠的优先级，不但高于锻炼，甚至高于洗脸洗澡。

程序员飞鱼 2024-12-29

用业务数据微调 CodeLlama-13b-hf （失败了）

推荐体验

相关资讯

数学能力超ChatGPT 70B开源大模型火了：用AI微调AI

使用 PyTorch FSDP 微调 Llama 2 70B

数学能力超ChatGPT，70B开源大模型火了：用AI微调AI，微软全华班出品

OpenAI用13天做出神级机器人：当GPT有了人形

你还在调戏AI，有的公司已经用ChatGPT开展业务了

近期资讯

半导体2024：汽车芯片国产化涌现，AI芯片上市潮，存储芯片市场巨大｜职场红利年终盘点⑥

Designing Hyper-Deterministic, High-Frequency Trading Systems

佑驾创新在港上市，首日涨超14%

大消费2024：宠物市场井喷，中腰部主播吃香，保健品逆势增长｜职场红利年终盘点⑤

AI芯片新战役：ASIC登场，GPU失色

数字智能2024：大模型竞争格局确立，脑机接口技术突破，云计算大数据服务转型｜职场红利年终盘点④

relationship: Star3.2k，牛B啊，小米手机上也在用，这个项目人人都能用得上的开源项目，抓紧收藏起来吧～～～

2024：踏平坎坷成大道，斗罢艰险又出发！

新茶饮2024年行业关键词：养生、出海、IPO

程序员加班很晚应该怎么锻炼身体？

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响