斯坦福开源端侧大模型Octopus v2，2B参数量可在移动端运行，性能超越GPT-4，准确率超Llama7B

作者：努力犯错玩AI发布时间：2024-05-06

斯坦福 GPT-4

前言斯坦福大学研究人员近日推出了开源端侧大模型Octopus v2，引起了广泛关注。Octopus v2拥有20亿参数量，可以在智能手机、车载系统等终端设备上高效运行，在准确性和推理速度方面都超越了...【查看原文】

相关资讯

Defog发布Llama-3-SQLCoder-8B，文本转SQL模型，性能比肩GPT-4，准确率超90%，消费级硬件可运行

前言在计算语言学领域，将自然语言转化为可执行的SQL查询是一个重要的研究方向。这对于让那些没有编程或SQL语法知识的用户也能轻松访问数据库信息至关重要。Defog团队近日发布了基于Llama-3的S

LLaMA GPT-4 编程

努力犯错玩AI 2024-05-24

可在手机上运行的2B LLMs ,看看斯坦福大学的这个项目

项目简介Octopus-V2-2B是由斯坦福大学Nexa AI开发的一种先进的开源大型语言模型，具有20亿参数，专为Android API的功能调用定制。与需要详细描述潜在函数参数的检索增强生成(RAG)方法不同Octopus-V2-2B采用了一种独特的功能性标记(functionaltokens)策略，用于其训练和推理阶段。这种方法不仅使其达到了与GPT-4相当的性能水平，还大幅提高了推理速度，超越了基于RAG的方法，特别适用于边缘计算设备。它能够在设备上直接运行，支持广泛的应用场景，从而推动

斯坦福大语言模型 GPT-4

AI研习所 2024-04-10

中文OCR超越GPT-4V，参数量仅2B，面壁小钢炮拿出了第二弹

大语言模型的效率，正在被这家「清华系」创业公司发展到新高度。从 ChatGPT 到 Sora，生成式 AI 技术遵从《苦涩的教训》、Scaling Law 和...

大语言模型清华 ChatGPT Sora

机器之心 2024-04-15

端侧大模型爆发前夜商汤日日新性能超越GPT-4 Turbo

商汤端侧大模型和端云协同解决方案已在小米SU7落地，小米集团小爱总经理王刚也坦承了大模型的使用成本考量：“一开始将大模型部署到手机上时，一台手机一个生命周期的大模型使用成本是20元，这一投入是巨大的，如今大模…

商汤 GPT-4

IT时报 2024-04-30

首次击败GPT-4？700亿参数Xwin-LM登顶斯坦福AlpacaEval，13B模型吊打ChatGPT

研究人员评估了Xwin-LM在805个问题上与Text-Davinci-003、ChatGPT和GPT-4的胜率。GPT-4的回答是正确的，但Xwin-LM不仅正确回答了问题，还解释了法语表达中「晚上好」的来…

GPT-4 ChatGPT 斯坦福

巴比特资讯 2023-09-23

近期资讯

何小鹏：2025市场竞争更加激烈缺乏竞争力将失去发展机会

快科技12月31日消息，今天是2024年的最后一天，各大科技互联网企业纷纷发表总结致辞。今天上午，小鹏汽车CEO何小鹏也发表了以《2025新征途，穿过暴风雨，继续奔跑！》为主题的内部信。在内部信

2024-12-31

孟晚舟：2024年华为员工飞行33亿多公里绕地球82000多圈

快科技12月31日消息，华为轮值董事长孟晚舟今日发布2025新年致辞，并特别对员工和家属进行了感谢。她表示，在全球各地，每天都有无数华为人奋斗在一线，为全球信息通信事业而绽放火热的青春。

2024-12-31

真相大白！华为红枫影像技术来自东北两位高校教授

快科技12月31日消息，华为轮值董事长孟晚舟今日在2025新年致辞中表示，全球产业链正在重构，供应商伙伴的风雨同舟，给予华为极大的鼓舞与支持。“供应商是我们在新征程上的创新伙伴，与我

2024-12-31

一加Ace 5 Pro评测:最具性价比骁龙8至尊旗舰游戏水桶机皇

一、前言：一加Ace 5 Pro 抢占骁龙8至尊版性能旗舰的先机为了抢占市场先机，往常习惯在年后发布Pro版的一加，今年早早就给我们带来了一加Ace 5 Pro。在一水的骁龙8至尊版顶级旗舰机型面前

2024-12-31

男生近距离投喂松鼠手被抓出血：打疫苗花费千元

快科技12月31日消息，据报道，云南昆明一公园内发生了一起因直接用手喂食松鼠而导致的意外伤害事件。事件发生在12月28日，当时李先生在公园游玩时，观察到其他游客与松鼠进行亲密互动，于是也

2024-12-31

腾讯音乐终审再再被判侵权、赔款！

快科技12月31日消息，今日，中国音乐著作权协会发文称，腾讯音乐集团终审再再被判侵权。中国音乐著作权协会表示，作为一家市场占有率据垄断地位且拥有四大在线音乐平台（QQ音乐、酷狗音乐、酷

2024-12-31

不能挂四个圈奥迪新品牌首车谍照曝光：与上汽联合打造

快科技12月31日消息，上月初，奥迪正式发布新豪华电动品牌AUDI，首款概念车AUDI E也同步首发，据悉，AUDI由奥迪与上汽联合打造，但不能使用四环logo，而是启用了新的车标。据悉，AUDI E概念车

2024-12-31

FSF呼吁2025年继续对微软施压！号召Window用户改用Linux

快科技12月31日消息，据报道，自由软件基金会（FSF）发布了名为 “继续向微软施压（Keep putting pressure on Microsoft）” 的文章，鼓励自由软件支持者在 2025 年继续向微软进行施压

2024-12-31

行业全球排名第一！国内氮化镓半导体第一股诞生

快科技12月31日消息，12月30日，氮化镓功率半导体行业的领军企业英诺赛科（苏州）科技股份有限公司在香港主板成功挂牌上市，开盘市值超过270亿港元，标志着国内“氮化镓半导体”第一股

2024-12-31

华为孟晚舟：5个感谢！

快科技12月31日消息，今天上午，华为轮值董事长孟晚舟今日发布新年致辞《前行路上，你我皆星辰》，对客户、生态伙伴、产业链伙伴、探索者、员工和家属等表达了感谢。她表示，过去六年来，华为

2024-12-31

斯坦福开源端侧大模型Octopus v2，2B参数量可在移动端运行，性能超越GPT-4，准确率超Llama7B

推荐体验

相关资讯

Defog发布Llama-3-SQLCoder-8B，文本转SQL模型，性能比肩GPT-4，准确率超90%，消费级硬件可运行

可在手机上运行的2B LLMs ,看看斯坦福大学的这个项目

中文OCR超越GPT-4V，参数量仅2B，面壁小钢炮拿出了第二弹

端侧大模型爆发前夜商汤日日新性能超越GPT-4 Turbo

首次击败GPT-4？700亿参数Xwin-LM登顶斯坦福AlpacaEval，13B模型吊打ChatGPT

近期资讯

何小鹏：2025市场竞争更加激烈缺乏竞争力将失去发展机会

孟晚舟：2024年华为员工飞行33亿多公里绕地球82000多圈

真相大白！华为红枫影像技术来自东北两位高校教授

一加Ace 5 Pro评测:最具性价比骁龙8至尊旗舰游戏水桶机皇

男生近距离投喂松鼠手被抓出血：打疫苗花费千元

腾讯音乐终审再再被判侵权、赔款！

不能挂四个圈奥迪新品牌首车谍照曝光：与上汽联合打造

FSF呼吁2025年继续对微软施压！号召Window用户改用Linux

行业全球排名第一！国内氮化镓半导体第一股诞生

华为孟晚舟：5个感谢！

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响