初创公司Groq推AI芯片500tokens/秒爆火，贾扬清：Groq成本或是英伟达H100的30倍

作者：钛媒体快报发布时间：2024-02-21

钛媒体App2月21日消息，一家名为Groq的初创公司在AI圈爆火。主要因其自研的LPU芯片在AI推理技术上，通过优化架构和减少内存瓶颈，实现了高效率和低延迟，在处理大模型时的速度远超英伟达GPU，每秒生成速度接近500tokens，而GPT-4仅40tokens。...【查看原文】

相关资讯

英伟达“超级大金矿”！H100 GPU售价是成本的近10倍【附GPU芯片市场发展情况】

随着AI大模型的爆火，英伟达的GPU供不应求，外媒此前表示英伟达的订单迅速增加，乃至已经排到2024年。其中，性能最强的AI训练H100GPU更是成为抢手货，外媒Tomshardware报道，英伟达今年内计划出售超过55万块H100加速卡，不过这种说法还没有被得到英伟达证实。

英伟达 AI大模型

前瞻网 2023-08-18

关注兔英伟达H100至尊版速度提10倍

关注兔靠着满屏的「生成式 AI」，手握一块支撑 ChatGPT 算力、提速 10 倍的 H100 NVLINK 芯片，老黄就差把这几个字写在脸上 ——「我是赢家」。AI 的 iPhone 时刻已经到来，第四次科技革命就要开启，而手握 A100 和 H100 的英伟达，或成最大赢家。在 GTC 大会上，老黄宣布了英伟达在 GPU、加速库、计算光刻、云平台上的亮眼进步，更是放出豪言 —— 英伟达就是要做 AI 圈的台积电！现在已经有人猜测，今天的演讲都是在 H100 上用 AIGC 模型生成的。ChatGPT

ChatGPT AIGC

靛酊嬭翊 2023-03-22

向英伟达发起挑战的Groq是什么来头？简单科普新型AI芯片LPU

在如今的人工智能领域，「GPU is All You Need」已经逐渐成为共识。没有充足的 GPU，连 OpenAI 都不能轻易升级 ChatGPT。

英伟达 OpenAI AI芯片人工智能 ChatGPT

机器之心 2024-03-07

英伟达稳坐AI芯片市场领导地位，A100/H100系列引领风潮

英伟达 AI芯片人工智能

驱动中国 2024-01-31

英伟达H100两大买家变心！要买AMD最新AI芯片

财联社12月7日讯（编辑周子意）Meta、微软和OpenAI公司周三（12月6日）在AMD投资者活动上表态，未来他们将会使用AMD最新的人工智能（AI）芯片Instinct MI300X。图形处理器（GPU）对于创建和部

英伟达微软 OpenAI AI芯片融资

2023-12-07

近期资讯

IT之家 2024-12-26

如何通过微信号查找手机号：方法与注意事项分析

在这个信息化的时代，微信几乎成了我们生活中不可或缺的一部分。无论是和朋友聊天，还是分享生活点滴，微信都在发挥着巨大的作用。然而，有时候我们可能会遇到这样一个问题：我们知道某个人的微信号，但却不知道他的手机号。如果你也有这样的困扰，不妨跟我一起探讨一下，看看有没有办法解决这个问题。首先，了解一下微信和手机号之间的关系。

新报观察 2024-12-26

广元中孚申请用于电解槽的精准出铝控制方法专利，提高电解槽的出铝效率

金融界2024年12月26日消息，国家知识产权局信息显示，广元中孚高精铝材有限公司申请一项名为“用于电解槽的精准出铝控制方法”的专利，公开号CN119177477A，申请日期为2024年9月。

金融界 2024-12-26

呼和浩特市荣获两项荣誉

近日，2024算力产业生态高质量发展大会在北京举办，呼和浩特市政府和内蒙古和林格尔新区管委会分别荣获“算力产业”集群先锋、“绿色算力”发展先锋两项荣誉。大会期间，《中国智算中心产业发展白皮书(2024年)》重磅发布，“重点区域算力产业考察年度行”暨《全球重点区域算力竞争态势分析报告》启动仪式成功举行。

金台资讯 2024-12-26

按克计算，随便交易就上百万元，这“泼天富贵”怎么接住？

什么东西这么矜贵？石头？陨石！近日，陨石因为定价高昂、交易陷阱等频上热搜。什么样的石头被称为陨石？为什么陨石卖这么贵？会给人类造成什么影响？科学家曾做出估算，陨石降落地球属于高概率事件，年累积有50多吨。近年来，随着人类收集到的陨石数量不断攀升，陨石也逐渐走进人们的视野，甚至披上转运、治病等“外衣”，交易价格也水涨船高。

环球网 2024-12-26

卡萨帝揽光S3洗烘一体机：国补900元，高端智能洗护新体验

#内容带货搜索热词种草计划#卡萨帝作为海尔集团旗下的高端家电品牌，以其卓越的性能和优雅的设计，满足着消费者对生活质感的不断追求。在促销活动期间，参与国家能效补贴计划后，消费者只需支付大约4799元即可将其带回家，直接节省了900元。购买此款洗衣机还可以享受以旧换新的服务，进一步降低了购机成本。

小米地瓜 2024-12-26

从汽车到汽车机器人重庆打响突围战

12月25日，长安数智工厂，全自动装配机器人和视觉检测机器人协作安装前后挡风玻璃。新重庆-重庆日报消息，你说的，它都懂；它做的，就是你想要的；它能像人一样感知、思考、行动……当科幻巨制《变形金刚：起源》引领今年国庆档电影市场，“重庆造”现实版“变形金刚”长安启源E07也正式上市。

上游新闻 2024-12-26

向着高水平科技自立自强一步一个脚印迈进

必须只争朝夕、埋头苦干，一步一个脚印把建成科技强国这一战略目标变为现实。从这个意义上说，2024年的每一项激动人心的自主科技创新成果都是科技强国建设的重要基石，将这些基石垒筑在一起，高水平科技自立自强也就变成了现实。

北青网 2024-12-26

初创公司Groq推AI芯片500tokens/秒爆火，贾扬清：Groq成本或是英伟达H100的30倍

推荐体验

相关资讯

英伟达“超级大金矿”！H100 GPU售价是成本的近10倍【附GPU芯片市场发展情况】

关注兔英伟达H100至尊版速度提10倍

向英伟达发起挑战的Groq是什么来头？简单科普新型AI芯片LPU

英伟达稳坐AI芯片市场领导地位，A100/H100系列引领风潮

英伟达H100两大买家变心！要买AMD最新AI芯片

近期资讯

中泰证券：AI智能眼镜目前可对标2014年智能手表后续放量可期

iPhone 17 Pro屏幕大改：灵动岛大幅缩小，设计向“充满魔力的玻璃”迈进

微软承认 Win11 24H2 BUG：ISO镜像“加料”，安装后导致更新失败

如何通过微信号查找手机号：方法与注意事项分析

广元中孚申请用于电解槽的精准出铝控制方法专利，提高电解槽的出铝效率

呼和浩特市荣获两项荣誉

按克计算，随便交易就上百万元，这“泼天富贵”怎么接住？

卡萨帝揽光S3洗烘一体机：国补900元，高端智能洗护新体验

从汽车到汽车机器人重庆打响突围战

向着高水平科技自立自强一步一个脚印迈进

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响