英伟达被“偷家”？全新AI芯片横空出世速度比GPU快十倍

作者：金融界发布时间：2024-02-20

芯片推理速度较英伟达GPU提高10倍、成本只有其1/10；运行的大模型生成速度接近每秒500tokens，碾压ChatGPT-3.5大约40tokens/秒的速度——短短几天，一家名为Groq的初创公司在AI圈爆火。...【查看原文】

相关资讯

不用GPU！硅谷Groq大模型横空出世，能否挑战英伟达？

人们还没从视频生成模型Sora带来的震撼中回过神来，硅谷AI芯片初创公司Groq的大模型又引发了市场热烈讨论，其主打一个“快”，每秒能输出500个token（注：语言模型中用来表示最小文本单元）。相比之下，ChatGPT-3.5每秒生成速度为40个token。在大模型产品多如牛毛的当下，Groq为何得以爆火？

英伟达 AI芯片 ChatGPT

21世纪经济报道 2024-02-21

英伟达推出ChatGPT专用GPU，处理速度提升十倍

鞭牛士3月22日消息，生成式AI的爆火使得成立近30年的英伟达再次迎来高光时刻。针对算力需求巨大的ChatGPT，英伟达发布了NVIDIAH100NVL，这是一种具有94GB内存和加速Transformer引擎的大语言模型（LLM）专用解决方案，配备了双GPUNVLINK的PCIEH100GPU。

ChatGPT 生成式AI

鞭牛士 2023-03-22

ChatGPT横空出世

普通人的智慧眼瞅着就赶不上ChatGPT了。记得在99年刚会上网的时候，就有这么句话：你不知道对面跟你聊天的是人还是狗。ChatGPT的出现，真的是会让很多人分不清对面到底是不是人了。2023年以后不知道这个AI最终会成为什么样子。

ChatGPT

原feng不動 2023-02-07

Groq大模型横空出世，速度吊打GPT-4

2023年是人工智能进入大众视野的一年，2024年时人们见证人工智能飞跃的一年。开年以来一波未平一波又起，文生视频大模型Sora的热度还未消散，高速语言推理大模型Groq又横空出世。根据介绍，该模型的推理速度相较于英伟达的GPU提高了10倍，但是成本却只有10%。

GPT-4 人工智能英伟达

市值风云 2024-02-20

Sora横空出世影响几何？

中国小康网独家专稿文|《小康》·中国小康网袁凯面对Sora的出现，每一个热爱科技与金融的人，都无法置之不理。因为，这不仅仅是技术领域的一个亮点，它对整个经济、社会的影响，极有可能是一场革命。

Sora 金融

中国小康网 2024-04-09

近期资讯

唐青枫 2024-12-25

2024年，35岁大学班主任工作分享

大一班主任、大二任课老师、大三实习指导老师。3个月娃的爹。高职高专。全年垂直爬升高度8640米，珠穆朗玛峰 8844.43米，除了膝

百万前端向前冲 2024-12-26

如何有效检测与解决 Kafka 中的消息积压问题？

如何识别消息积压？当我们面对消息队列（如 Kafka）时，消息积压的问题可能会对整个系统的性能产生重大影响。那到底怎么判断系统是否出现了消息积压呢？查看 Kafka Consumer Group

齐朋 2024-12-25

Python 抽象基类 ABC ：从实践到优雅

今天我们来聊聊 Python 中的抽象基类（Abstract Base Class，简称 ABC）。

Piper蛋窝 2024-12-25

自动装配原理详解：Spring Boot 是如何让开发更高效的？

Spring Boot 自动装配机制详解：从原理到实战 Spring Boot 被誉为开发者的“神兵利器”，其中最强大的特性之一便是其自动装配机制。自动装配不仅极大地简化了配置流程，还让开发者能够专注

齐朋 2024-12-25

MySQL 核心知识全面解析：从事务到索引的深度探索

在当今数字化时代，数据库作为数据管理与处理的核心，对于各类应用的高效运行起着举足轻重的作用。而 MySQL 作为一款广泛使用的开源数据库管理系统，以其高性能、可靠性和灵活性，深受开发者和企业的青睐。无

快起来别睡了 2024-12-25

中文拼写检测纠正 Read, Listen, and See Leveraging Multimodal Information 论文

# 拼写纠正系列 [NLP 中文拼写检测实现思路](https://houbb.github.io/2020/01/20/nlp-chinese-spelling-correct-01-intro

老马啸西风 2024-12-25

美团后端暑期一面，本来收到感谢信，但又复活了！

今天来分享的是一位读者的美团暑期实习一面面经，主要是一些常规八股，难度还是有的，部分题目确实不太好回答。这位同学回答的不是很好，本来是收到感谢信了。结果，过几天又收到复活赛邀请，复活赛倒是打赢了，已

JavaGuide 2024-12-26

英伟达被“偷家”？全新AI芯片横空出世速度比GPU快十倍

推荐体验

相关资讯

不用GPU！硅谷Groq大模型横空出世，能否挑战英伟达？

英伟达推出ChatGPT专用GPU，处理速度提升十倍

ChatGPT横空出世

Groq大模型横空出世，速度吊打GPT-4

Sora横空出世影响几何？

近期资讯

ElasticSearch 是如何建立索引的？

网页多模态建模思考

Linux 比grep更快的ack命令详解

2024年，35岁大学班主任工作分享

如何有效检测与解决 Kafka 中的消息积压问题？

Python 抽象基类 ABC ：从实践到优雅

自动装配原理详解：Spring Boot 是如何让开发更高效的？

MySQL 核心知识全面解析：从事务到索引的深度探索

中文拼写检测纠正 Read, Listen, and See Leveraging Multimodal Information 论文

美团后端暑期一面，本来收到感谢信，但又复活了！

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响

英伟达被“偷家”？全新AI芯片横空出世 速度比GPU快十倍

英伟达被“偷家”？全新AI芯片横空出世速度比GPU快十倍