初创公司Groq推AI芯片500tokens/秒爆火，贾扬清：Groq成本或是英伟达H100的30倍

作者：钛媒体快报发布时间：2024-02-21

钛媒体App2月21日消息，一家名为Groq的初创公司在AI圈爆火。主要因其自研的LPU芯片在AI推理技术上，通过优化架构和减少内存瓶颈，实现了高效率和低延迟，在处理大模型时的速度远超英伟达GPU，每秒生成速度接近500tokens，而GPT-4仅40tokens。...【查看原文】

相关资讯

英伟达“超级大金矿”！H100 GPU售价是成本的近10倍【附GPU芯片市场发展情况】

随着AI大模型的爆火，英伟达的GPU供不应求，外媒此前表示英伟达的订单迅速增加，乃至已经排到2024年。其中，性能最强的AI训练H100GPU更是成为抢手货，外媒Tomshardware报道，英伟达今年内计划出售超过55万块H100加速卡，不过这种说法还没有被得到英伟达证实。

英伟达 AI大模型

前瞻网 2023-08-18

关注兔英伟达H100至尊版速度提10倍

关注兔靠着满屏的「生成式 AI」，手握一块支撑 ChatGPT 算力、提速 10 倍的 H100 NVLINK 芯片，老黄就差把这几个字写在脸上 ——「我是赢家」。AI 的 iPhone 时刻已经到来，第四次科技革命就要开启，而手握 A100 和 H100 的英伟达，或成最大赢家。在 GTC 大会上，老黄宣布了英伟达在 GPU、加速库、计算光刻、云平台上的亮眼进步，更是放出豪言 —— 英伟达就是要做 AI 圈的台积电！现在已经有人猜测，今天的演讲都是在 H100 上用 AIGC 模型生成的。ChatGPT

ChatGPT AIGC

靛酊嬭翊 2023-03-22

向英伟达发起挑战的Groq是什么来头？简单科普新型AI芯片LPU

在如今的人工智能领域，「GPU is All You Need」已经逐渐成为共识。没有充足的 GPU，连 OpenAI 都不能轻易升级 ChatGPT。

英伟达 OpenAI AI芯片人工智能 ChatGPT

机器之心 2024-03-07

英伟达稳坐AI芯片市场领导地位，A100/H100系列引领风潮

英伟达 AI芯片人工智能

驱动中国 2024-01-31

英伟达H100两大买家变心！要买AMD最新AI芯片

财联社12月7日讯（编辑周子意）Meta、微软和OpenAI公司周三（12月6日）在AMD投资者活动上表态，未来他们将会使用AMD最新的人工智能（AI）芯片Instinct MI300X。图形处理器（GPU）对于创建和部

英伟达微软 OpenAI AI芯片融资

2023-12-07

近期资讯

柯力传感：公司向人形、协作、工业机器人客户供应力矩、六维力传感器

有投资者在投资者互动平台提问：机器人行业与人工智能（AI）和机器学习的结合日益紧密，公司如何利用这些先进技术来提升机器人性能？柯力传感（603662.SH）12月30日在投资者互动平台表示，公司不生产机器人。公司向人形、协作、工业机器人客户供应力矩、六维力传感器。免责声明：本文内容与数据仅供参考，不构成投资建议，使用前核实。

每日经济新闻 2024-12-30

华为nova 13系列：年底出行利器通信可靠拍照出色

（记者王惠绵）临近年末，不少小伙伴都准备去探索新的旅游胜地，给2024来一场旅行告别。它支持双向北斗卫星消息以及北斗卫星图片消息，对于想要去登山看日出、出海探险、极地滑雪旅行的朋友来说，它能够为用户与外界正常的联系增加一层守护，解决在无地面网络或者网络不佳状况下的通信问题。

和讯网 2024-12-31

MAXHUB领效：更懂会议的AI，释放企业新质生产力

生产力的每一次“质的跃升”都与科技革命和产业变革紧密相关，数字世界，正成为新质生产力的沃土。AI时代，MAXHUB领效的沉淀与积累，让“智会”升级，企业发展有了更多可能。

21世纪经济报道 2024-12-31

让2025年第一缕阳光照亮人生 12月31日京东3C数码陪您浪漫跨年

在跨年仪式感和氛围感成为“刚需”的当下，京东3C数码以年轻用户群体的多元化需求为出发点，在12月31日23点，由京东采销携手《心动的信号》嘉宾情侣杨汝晴、侯卓成，以及国家地理合作摄影师陈帆，在祖国最东边的黑龙江省抚远市开启诚意十足内容丰富的“追光”直播，与屏幕前的用户一同见证2025年的第一次日出。

砍柴网 2024-12-30

全国首家全高帧LED影院——华夏电影中心落户北辰荟商业中心

12月30日，全国首家全高帧LED影院——华夏电影中心，在北京市朝阳区北辰荟商业中心举行了落成仪式，这标志着中国电影终端放映产业在科技创新领域迈出了具有里程碑意义的一步。

北京日报 2024-12-30

泰凌微：产品已被谷歌PixelBudPro2智能耳机方案采用

新京报 2024-12-30

腾讯研究院AI速递 20241231

3.英伟达通过AI训练软件、仿真环境和JetsonThor处理器，推动机器人技术发展并支持行业商业化。3.AI视频生成技术竞争升级，PixVerse凭借速度与质量优势，成为市场中性价比高的优选，推动技术普及。3.资本市场对AI领域热情高涨，各类AI初创公司和大厂在融资中表现突出。

腾讯研究院 2024-12-31

华为，突然降价！

研究机构Canalys称，2024年三季度，华为通过首款三折叠机型MateXT的发布进一步强化其技术领导者的形象，并且Pura70系列热度在发布的第二个季度得以延续。

新闻夜航 2024-12-31

跟随华为Mate 70系列，围观四川熊猫的花式过冬姿势

你见过四川熊猫的过冬姿势有多少种？跟随华为Mate70系列，一起来看看顶流熊猫女明星“花花”过冬有多安逸，举手投足尽显优雅从容。华为Mate70系列除了强悍的性能和卓越的通信能力，华为Mate70系列还在影像和AI功能体验方面有重大突破，业界首发红枫原色摄像头，精准还原色彩，记录真实所见。

红星资本局 2024-12-30

产品经理胡馨心开箱REDMI Turbo 4：一眼心动

快科技12月30日消息，今天，REDMI产品经理胡馨心开箱上手REDMITurbo4，她开箱的是Turbo4的主打配色—祥云白，称“一眼心动”。核心配置上，REDMITurbo4首发天玑8400-Ultra处理器，它采用了8个A725全大核，主频最高为3.25GHz，相较于上一代芯片，CPU多核性能提升了41%。

驱动之家 2024-12-30

初创公司Groq推AI芯片500tokens/秒爆火，贾扬清：Groq成本或是英伟达H100的30倍

推荐体验

相关资讯

英伟达“超级大金矿”！H100 GPU售价是成本的近10倍【附GPU芯片市场发展情况】

关注兔英伟达H100至尊版速度提10倍

向英伟达发起挑战的Groq是什么来头？简单科普新型AI芯片LPU

英伟达稳坐AI芯片市场领导地位，A100/H100系列引领风潮

英伟达H100两大买家变心！要买AMD最新AI芯片

近期资讯

柯力传感：公司向人形、协作、工业机器人客户供应力矩、六维力传感器

华为nova 13系列：年底出行利器通信可靠拍照出色

MAXHUB领效：更懂会议的AI，释放企业新质生产力

让2025年第一缕阳光照亮人生 12月31日京东3C数码陪您浪漫跨年

全国首家全高帧LED影院——华夏电影中心落户北辰荟商业中心

泰凌微：产品已被谷歌PixelBudPro2智能耳机方案采用

腾讯研究院AI速递 20241231

华为，突然降价！

跟随华为Mate 70系列，围观四川熊猫的花式过冬姿势

产品经理胡馨心开箱REDMI Turbo 4：一眼心动

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响