英伟达被“偷家”？全新AI芯片横空出世速度比GPU快十倍

作者：金融界发布时间：2024-02-20

芯片推理速度较英伟达GPU提高10倍、成本只有其1/10；运行的大模型生成速度接近每秒500tokens，碾压ChatGPT-3.5大约40tokens/秒的速度——短短几天，一家名为Groq的初创公司在AI圈爆火。...【查看原文】

相关资讯

不用GPU！硅谷Groq大模型横空出世，能否挑战英伟达？

人们还没从视频生成模型Sora带来的震撼中回过神来，硅谷AI芯片初创公司Groq的大模型又引发了市场热烈讨论，其主打一个“快”，每秒能输出500个token（注：语言模型中用来表示最小文本单元）。相比之下，ChatGPT-3.5每秒生成速度为40个token。在大模型产品多如牛毛的当下，Groq为何得以爆火？

英伟达 AI芯片 ChatGPT

21世纪经济报道 2024-02-21

英伟达推出ChatGPT专用GPU，处理速度提升十倍

鞭牛士3月22日消息，生成式AI的爆火使得成立近30年的英伟达再次迎来高光时刻。针对算力需求巨大的ChatGPT，英伟达发布了NVIDIAH100NVL，这是一种具有94GB内存和加速Transformer引擎的大语言模型（LLM）专用解决方案，配备了双GPUNVLINK的PCIEH100GPU。

ChatGPT 生成式AI

鞭牛士 2023-03-22

ChatGPT横空出世

普通人的智慧眼瞅着就赶不上ChatGPT了。记得在99年刚会上网的时候，就有这么句话：你不知道对面跟你聊天的是人还是狗。ChatGPT的出现，真的是会让很多人分不清对面到底是不是人了。2023年以后不知道这个AI最终会成为什么样子。

ChatGPT

原feng不動 2023-02-07

Groq大模型横空出世，速度吊打GPT-4

2023年是人工智能进入大众视野的一年，2024年时人们见证人工智能飞跃的一年。开年以来一波未平一波又起，文生视频大模型Sora的热度还未消散，高速语言推理大模型Groq又横空出世。根据介绍，该模型的推理速度相较于英伟达的GPU提高了10倍，但是成本却只有10%。

GPT-4 人工智能英伟达

市值风云 2024-02-20

Sora横空出世影响几何？

中国小康网独家专稿文|《小康》·中国小康网袁凯面对Sora的出现，每一个热爱科技与金融的人，都无法置之不理。因为，这不仅仅是技术领域的一个亮点，它对整个经济、社会的影响，极有可能是一场革命。

Sora 金融

中国小康网 2024-04-09

近期资讯

周鸿祎：每个家庭都会新增 “几十口人”！

快科技12月27日消息，今日360集团创始人、董事长周鸿祎发文预测，未来每个家庭都会新增 “几十口人”，因为家里所有的家电和硬件将一夜之间变为真正智能的AI伙伴。他还提到了英伟达

2024-12-27

英伟达年终大礼，最强AI GPU曝光，全新B300让o1/o3推理性能上天算力爆表

英伟达发布GB300/B300，性能提升50%，供应链重构。

新智元 2024-12-27

12月第二周消费热门事件榜

刺激消费、关注安全、科技热点升温。

世研大消费指数 2024-12-27

为什么说品牌不仅是商场的核心内容，更是运营创新的指引灯塔？

品牌不仅是商品和服务的提供者，它们更代表着不同的生活方式、价值观念和美学追求。

RET睿意德 2024-12-27

洞悉变局中的机会品牌出海构建向上生长之道 | 2024全球化新锐品牌数字营销峰会回顾

中国企业出海增长路径及品牌全球化策略。

未来一氪 2024-12-27

聪明的钱 | 中欧基金：重点关注政策加码，抓住投资AI三大机会

未来利率中枢有望下行，看多算力与AI软硬件应用。

黄绎达 2024-12-27

航运运价迎集中上调，2025年的航运市场将如何运行？

展望2025年，地缘政治依旧是行业最大的变量，在动荡复杂的局势中，保持对市场资讯的持续关注，将是航运赛道的关键。

满投财经 2024-12-27

【OpenHarmony】鸿蒙 UI开发之DanmakuFlameMaster

DanmakuFlameMaster是一款弹幕框架，支持发送纯文本弹幕、设置弹幕在屏幕的显示区域、控制弹幕播放状态等功能

塞尔维亚大汉 2024-12-27

Apifox 12月更新｜接口的测试覆盖情况、测试场景支持修改记录、迭代分支能力升级、自定义项目角色权限、接口可评论

Apifox 新版本上线啦！看看本次版本更新主要涵盖的重点内容，有没有你所关注的功能特性：接口支持查看测试覆盖率测试场景新增「历史记录」功能「迭代分支」优化升级新增主分支保护机制支持迭代分

Apifox 2024-12-27

【算法】课程表 II

难度：中等题目现在你总共有 numCourses 门课需要选，记为 0 到 numCourses - 1。给你一个数组 prerequisites ，其中 prerequisites[i] = [

时清云 2024-12-27

英伟达被“偷家”？全新AI芯片横空出世速度比GPU快十倍

推荐体验

相关资讯

不用GPU！硅谷Groq大模型横空出世，能否挑战英伟达？

英伟达推出ChatGPT专用GPU，处理速度提升十倍

ChatGPT横空出世

Groq大模型横空出世，速度吊打GPT-4

Sora横空出世影响几何？

近期资讯

周鸿祎：每个家庭都会新增 “几十口人”！

英伟达年终大礼，最强AI GPU曝光，全新B300让o1/o3推理性能上天算力爆表

12月第二周消费热门事件榜

为什么说品牌不仅是商场的核心内容，更是运营创新的指引灯塔？

洞悉变局中的机会品牌出海构建向上生长之道 | 2024全球化新锐品牌数字营销峰会回顾

聪明的钱 | 中欧基金：重点关注政策加码，抓住投资AI三大机会

航运运价迎集中上调，2025年的航运市场将如何运行？

【OpenHarmony】鸿蒙 UI开发之DanmakuFlameMaster

Apifox 12月更新｜接口的测试覆盖情况、测试场景支持修改记录、迭代分支能力升级、自定义项目角色权限、接口可评论

【算法】课程表 II

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响

英伟达被“偷家”？全新AI芯片横空出世 速度比GPU快十倍

英伟达被“偷家”？全新AI芯片横空出世速度比GPU快十倍