斯坦福开源端侧大模型Octopus v2，2B参数量可在移动端运行，性能超越GPT-4，准确率超Llama7B

作者：努力犯错玩AI发布时间：2024-05-06

斯坦福 GPT-4

前言斯坦福大学研究人员近日推出了开源端侧大模型Octopus v2，引起了广泛关注。Octopus v2拥有20亿参数量，可以在智能手机、车载系统等终端设备上高效运行，在准确性和推理速度方面都超越了...【查看原文】

相关资讯

Defog发布Llama-3-SQLCoder-8B，文本转SQL模型，性能比肩GPT-4，准确率超90%，消费级硬件可运行

前言在计算语言学领域，将自然语言转化为可执行的SQL查询是一个重要的研究方向。这对于让那些没有编程或SQL语法知识的用户也能轻松访问数据库信息至关重要。Defog团队近日发布了基于Llama-3的S

LLaMA GPT-4 编程

努力犯错玩AI 2024-05-24

可在手机上运行的2B LLMs ,看看斯坦福大学的这个项目

项目简介Octopus-V2-2B是由斯坦福大学Nexa AI开发的一种先进的开源大型语言模型，具有20亿参数，专为Android API的功能调用定制。与需要详细描述潜在函数参数的检索增强生成(RAG)方法不同Octopus-V2-2B采用了一种独特的功能性标记(functionaltokens)策略，用于其训练和推理阶段。这种方法不仅使其达到了与GPT-4相当的性能水平，还大幅提高了推理速度，超越了基于RAG的方法，特别适用于边缘计算设备。它能够在设备上直接运行，支持广泛的应用场景，从而推动

斯坦福大语言模型 GPT-4

AI研习所 2024-04-10

中文OCR超越GPT-4V，参数量仅2B，面壁小钢炮拿出了第二弹

大语言模型的效率，正在被这家「清华系」创业公司发展到新高度。从 ChatGPT 到 Sora，生成式 AI 技术遵从《苦涩的教训》、Scaling Law 和...

大语言模型清华 ChatGPT Sora

机器之心 2024-04-15

端侧大模型爆发前夜商汤日日新性能超越GPT-4 Turbo

商汤端侧大模型和端云协同解决方案已在小米SU7落地，小米集团小爱总经理王刚也坦承了大模型的使用成本考量：“一开始将大模型部署到手机上时，一台手机一个生命周期的大模型使用成本是20元，这一投入是巨大的，如今大模…

商汤 GPT-4

IT时报 2024-04-30

首次击败GPT-4？700亿参数Xwin-LM登顶斯坦福AlpacaEval，13B模型吊打ChatGPT

研究人员评估了Xwin-LM在805个问题上与Text-Davinci-003、ChatGPT和GPT-4的胜率。GPT-4的回答是正确的，但Xwin-LM不仅正确回答了问题，还解释了法语表达中「晚上好」的来…

GPT-4 ChatGPT 斯坦福

巴比特资讯 2023-09-23

近期资讯

老码小张 2024-12-26

用setTimeout模拟setInterVal有什么优点。那让我们来学习一下几种定时器吧。

用setTimeout模拟setInterVal到底隐藏了哪些知识点。浏览器的事件循环机制。什么是浏览器的事件循环机制（Event loop）呢？我们知道js是单线程的语言。如果是同步执行的话，那

jinzunqinjiu 2024-12-25

Docker-Dockerfile讲解(一)

我们前面讲解了很多docker的操作命令，也使用了几个镜像，但是这些镜像都是我们从仓库里面下载的，具有通用性。如果要满足自己的业务需求，所以我们需要根据自己的需要制作自己的镜像，下面我将讲解下如何制作

dessler 2024-12-25

怎么看技术 Leader 经常说的「技术不重要」？

大家好，我是凌览。如何看待技术Leader常说「技术不重要」这个问题，这里我精选了几位网友的回答让我们一起来看看。第一位网友是的，对于Leader他利用你完成自己的KPI，帮助公司完成盈利，是

程序员凌览 2024-12-25

在 Next.js 中实现 WebRTC 以进行实时聊天

在 Next.js 中实现 WebRTC 以进行实时聊天，视频共享，语音共享，该 API 需要在安全环境（HTTPS）下使用，并且需要用户授权。在实际项目中，要注意在不再需要停止屏幕。

Y11_推特同名 2024-12-26

为什么领导总觉得需求很简单？

这里大都是执行层的程序员，我们经常遇到一个问题，就是领导作为决策层，他们经常拍脑袋想出个什么方向、方案，还要求短时间做出来，给结论。他们觉得很简单，执行层却要做很久，可能做的还不符合执行层的心意，我

小兵张健 2024-12-25

免费、简单、直观的数据库设计工具和 SQL 生成器

前言今天大姚给大家分享一款开源、免费(MIT License)、简单、直观的在线数据库设计工具和 SQL 生成器：drawDB。工具介绍 drawDB是一个开源、简单、直观、强大且用户友好的在线数

追逐时光者 2024-12-25

斯坦福开源端侧大模型Octopus v2，2B参数量可在移动端运行，性能超越GPT-4，准确率超Llama7B

推荐体验

相关资讯

Defog发布Llama-3-SQLCoder-8B，文本转SQL模型，性能比肩GPT-4，准确率超90%，消费级硬件可运行

可在手机上运行的2B LLMs ,看看斯坦福大学的这个项目

中文OCR超越GPT-4V，参数量仅2B，面壁小钢炮拿出了第二弹

端侧大模型爆发前夜商汤日日新性能超越GPT-4 Turbo

首次击败GPT-4？700亿参数Xwin-LM登顶斯坦福AlpacaEval，13B模型吊打ChatGPT

近期资讯

什么？我用 Cursor 一天读懂了上万行代码！

DevOps，CI，CD，自动化简单介绍

ps -ef 与 ps aux

不装了，我实现了一个逼近免费的 bolt，一句话生成一个网页应用！

用setTimeout模拟setInterVal有什么优点。那让我们来学习一下几种定时器吧。

Docker-Dockerfile讲解(一)

怎么看技术 Leader 经常说的「技术不重要」？

在 Next.js 中实现 WebRTC 以进行实时聊天

为什么领导总觉得需求很简单？

免费、简单、直观的数据库设计工具和 SQL 生成器

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响