初创公司Groq推AI芯片500tokens/秒爆火，贾扬清：Groq成本或是英伟达H100的30倍

作者：钛媒体快报发布时间：2024-02-21

钛媒体App2月21日消息，一家名为Groq的初创公司在AI圈爆火。主要因其自研的LPU芯片在AI推理技术上，通过优化架构和减少内存瓶颈，实现了高效率和低延迟，在处理大模型时的速度远超英伟达GPU，每秒生成速度接近500tokens，而GPT-4仅40tokens。...【查看原文】

相关资讯

英伟达“超级大金矿”！H100 GPU售价是成本的近10倍【附GPU芯片市场发展情况】

随着AI大模型的爆火，英伟达的GPU供不应求，外媒此前表示英伟达的订单迅速增加，乃至已经排到2024年。其中，性能最强的AI训练H100GPU更是成为抢手货，外媒Tomshardware报道，英伟达今年内计划出售超过55万块H100加速卡，不过这种说法还没有被得到英伟达证实。

英伟达 AI大模型

前瞻网 2023-08-18

关注兔英伟达H100至尊版速度提10倍

关注兔靠着满屏的「生成式 AI」，手握一块支撑 ChatGPT 算力、提速 10 倍的 H100 NVLINK 芯片，老黄就差把这几个字写在脸上 ——「我是赢家」。AI 的 iPhone 时刻已经到来，第四次科技革命就要开启，而手握 A100 和 H100 的英伟达，或成最大赢家。在 GTC 大会上，老黄宣布了英伟达在 GPU、加速库、计算光刻、云平台上的亮眼进步，更是放出豪言 —— 英伟达就是要做 AI 圈的台积电！现在已经有人猜测，今天的演讲都是在 H100 上用 AIGC 模型生成的。ChatGPT

ChatGPT AIGC

靛酊嬭翊 2023-03-22

向英伟达发起挑战的Groq是什么来头？简单科普新型AI芯片LPU

在如今的人工智能领域，「GPU is All You Need」已经逐渐成为共识。没有充足的 GPU，连 OpenAI 都不能轻易升级 ChatGPT。

英伟达 OpenAI AI芯片人工智能 ChatGPT

机器之心 2024-03-07

英伟达稳坐AI芯片市场领导地位，A100/H100系列引领风潮

英伟达 AI芯片人工智能

驱动中国 2024-01-31

英伟达H100两大买家变心！要买AMD最新AI芯片

财联社12月7日讯（编辑周子意）Meta、微软和OpenAI公司周三（12月6日）在AMD投资者活动上表态，未来他们将会使用AMD最新的人工智能（AI）芯片Instinct MI300X。图形处理器（GPU）对于创建和部

英伟达微软 OpenAI AI芯片融资

2023-12-07

近期资讯

青岛宥锝台机设备取得一种柔性折弯机的上料定位装置专利，保证加工质量

金融界2024年12月25日消息，国家知识产权局信息显示，青岛宥锝台机设备有限公司取得一项名为“一种柔性折弯机的上料定位装置”的专利，授权公告号CN222198667U，申请日期为2024年4月。

金融界 2024-12-25

江苏博和精密取得多功能冲压治具专利，实现自动冲压同时自动上下料

金融界2024年12月25日消息，国家知识产权局信息显示，江苏博和精密科技有限公司取得一项名为“一种多功能冲压治具”的专利，授权公告号CN222198668U，申请日期为2024年5月。

金融界 2024-12-25

苏州宇浩申请新型超薄玻璃单面减薄方法专利，能够提升减薄效果与质量

金融界2024年12月25日消息，国家知识产权局信息显示，苏州宇浩半导体材料科技有限公司申请一项名为“一种新型超薄玻璃单面减薄方法”的专利，公开号CN119176675A，申请日期为2024年9月。

金融界 2024-12-25

山东恒远利废申请用赤泥与金尾矿协同制备仿玄武岩新材料方法专利，减少仿玄武岩材料对人体肺部造成的危害

金融界2024年12月25日消息，国家知识产权局信息显示，山东恒远利废技术股份有限公司申请一项名为“一种用赤泥与金尾矿协同制备仿玄武岩新材料的方法”的专利，公开号CN119176683A，申请日期为2024年11月。

金融界 2024-12-25

博莱诺（昆山）新能源科技有限公司取得料带送件机构专利，更加方便地调节支座对料带进行限位

金融界2024年12月25日消息，国家知识产权局信息显示，博莱诺（昆山）新能源科技有限公司取得一项名为“一种料带送件机构”的专利，授权公告号CN222198661U，申请日期为2024年5月。

金融界 2024-12-25

科瑞森取得用于滚弧机的板材保护支撑板专利，可有效保护板材且提高安全性

金融界2024年12月25日消息，国家知识产权局信息显示，科瑞森建筑产品（陕西）有限公司取得一项名为“一种用于滚弧机的板材保护支撑板”的专利，授权公告号CN222198663U，申请日期为2024年5月。

金融界 2024-12-25

安徽省全佳智能科技取得一种铝单板折弯设备专利，提高铝单板加工移动时的稳定性

金融界2024年12月25日消息，国家知识产权局信息显示，安徽省全佳智能科技有限公司取得一项名为“一种铝单板折弯设备”的专利，授权公告号CN222198665U，申请日期为2024年6月。专利摘要显示，本实用新型涉及铝单板加工技术领域，尤其涉及一种铝单板折弯设备。

金融界 2024-12-25

江苏恒捷电气取得一种电力铁附件定型装置专利，使装置能够适用于不同规格的单槽夹板

金融界2024年12月25日消息，国家知识产权局信息显示，江苏恒捷电气有限公司取得一项名为“一种电力铁附件定型装置”的专利，授权公告号CN222198664U，申请日期为2024年5月。

金融界 2024-12-25

龙工（江西）机械有限公司取得一种销轴校正夹紧夹具专利，能够快速夹紧校正焊接后变形的销轴板

金融界2024年12月25日消息，国家知识产权局信息显示，龙工（江西）机械有限公司取得一项名为“一种销轴校正夹紧夹具”的专利，授权公告号CN222198662U，申请日期为2024年5月。

金融界 2024-12-25

青岛三诚众合取得模压桥架单张板带料设备专利，解决相关技术中冲压产品图案或花纹易变形问题

金融界2024年12月25日消息，国家知识产权局信息显示，青岛三诚众合智能设备科技有限公司取得一项名为“一种模压桥架单张板带料设备”的专利，授权公告号CN222198671U，申请日期为2024年4月。

金融界 2024-12-25

初创公司Groq推AI芯片500tokens/秒爆火，贾扬清：Groq成本或是英伟达H100的30倍

推荐体验

相关资讯

英伟达“超级大金矿”！H100 GPU售价是成本的近10倍【附GPU芯片市场发展情况】

关注兔英伟达H100至尊版速度提10倍

向英伟达发起挑战的Groq是什么来头？简单科普新型AI芯片LPU

英伟达稳坐AI芯片市场领导地位，A100/H100系列引领风潮

英伟达H100两大买家变心！要买AMD最新AI芯片

近期资讯

青岛宥锝台机设备取得一种柔性折弯机的上料定位装置专利，保证加工质量

江苏博和精密取得多功能冲压治具专利，实现自动冲压同时自动上下料

苏州宇浩申请新型超薄玻璃单面减薄方法专利，能够提升减薄效果与质量

山东恒远利废申请用赤泥与金尾矿协同制备仿玄武岩新材料方法专利，减少仿玄武岩材料对人体肺部造成的危害

博莱诺（昆山）新能源科技有限公司取得料带送件机构专利，更加方便地调节支座对料带进行限位

科瑞森取得用于滚弧机的板材保护支撑板专利，可有效保护板材且提高安全性

安徽省全佳智能科技取得一种铝单板折弯设备专利，提高铝单板加工移动时的稳定性

江苏恒捷电气取得一种电力铁附件定型装置专利，使装置能够适用于不同规格的单槽夹板

龙工（江西）机械有限公司取得一种销轴校正夹紧夹具专利，能够快速夹紧校正焊接后变形的销轴板

青岛三诚众合取得模压桥架单张板带料设备专利，解决相关技术中冲压产品图案或花纹易变形问题

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响