芯片推理速度较英伟达GPU提高10倍、成本只有其1/10;运行的大模型生成速度接近每秒500tokens,碾压ChatGPT-3.5大约40tokens/秒的速度——短短几天,一家名为Groq的初创公司在AI圈爆火。...【查看原文】
人们还没从视频生成模型Sora带来的震撼中回过神来,硅谷AI芯片初创公司Groq的大模型又引发了市场热烈讨论,其主打一个“快”,每秒能输出500个token(注:语言模型中用来表示最小文本单元)。相比之下,ChatGPT-3.5每秒生成速度为40个token。在大模型产品多如牛毛的当下,Groq为何得以爆火?
英伟达AI芯片ChatGPT
21世纪经济报道 2024-02-21
鞭牛士3月22日消息,生成式AI的爆火使得成立近30年的英伟达再次迎来高光时刻。针对算力需求巨大的ChatGPT,英伟达发布了NVIDIAH100NVL,这是一种具有94GB内存和加速Transformer引擎的大语言模型(LLM)专用解决方案,配备了双GPUNVLINK的PCIEH100GPU。
ChatGPT生成式AI
鞭牛士 2023-03-22
普通人的智慧眼瞅着就赶不上ChatGPT了。记得在99年刚会上网的时候,就有这么句话:你不知道对面跟你聊天的是人还是狗。ChatGPT的出现,真的是会让很多人分不清对面到底是不是人了。2023年以后不知道这个AI最终会成为什么样子。
ChatGPT
原feng不動 2023-02-07
2023年是人工智能进入大众视野的一年,2024年时人们见证人工智能飞跃的一年。开年以来一波未平一波又起,文生视频大模型Sora的热度还未消散,高速语言推理大模型Groq又横空出世。根据介绍,该模型的推理速度相较于英伟达的GPU提高了10倍,但是成本却只有10%。
GPT-4人工智能英伟达
市值风云 2024-02-20
中国小康网独家专稿文|《小康》·中国小康网袁凯面对Sora的出现,每一个热爱科技与金融的人,都无法置之不理。因为,这不仅仅是技术领域的一个亮点,它对整个经济、社会的影响,极有可能是一场革命。
Sora金融
中国小康网 2024-04-09
快科技12月27日消息,360集团董事长周鸿祎昨日发布视频,谈到了自己为何特别反感只会“管理”的管理层,其表示:“我特别反感只打嘴炮或者不干活的管理层,管理层只会动嘴,扮
落木 2024-12-27
快科技12月27日消息,近日,一位博主展示了理想汽车最新的智能驾驶轨迹展示界面,揭示了其车机系统实现端到端驾驶状态的能力。视频该系统通过端到端模型生成轨迹,并基于多种概率选择最可能
王略 2024-12-27
快科技12月27日消息,山姆·阿尔特曼(Sam Altman)的核能公司Oklo宣布了一项重大合作进展,Oklo在12月18日与美国数据中心巨头Switch签署了初步的非约束性协议,标志着清洁能源领域的一次
鹿角 2024-12-27
不知不觉2024年马上就要结束了,不少人想趁年底换个新手机,但可能会纠结要选哪款,建议有需求的朋友可以考虑一下华为nova 13系列。这款手机在10月25日正式首销,目前仅在京东就已收获5万
黑白 2024-12-27
快科技12月27日消息,乐道品牌公布首款车型乐道L60最新数据,其已达成上市100天累计交付超20000台的阶段目标。作为全新的品牌,乐道在产品正式上市后第三个完整交付月即完成产能爬坡,交付速
手游世界中,曾经“腾网哈”三足鼎立的格局正悄然改变。在近日Sensor Tower平台发布的11月中国手游发行商收入排名榜单中,米哈游跌出了前三阵营,前三分别为腾讯、网易、世纪华通旗
2024-12-27
快科技12月27日消息,最近,中国自主DDR5 DRAM内存芯片投产并商用落地的消息,在业内引发震动。慧荣科技总经理苟嘉章坦言,中国产DRAM的市场份额有望快速升至15%,对全球DRAM市场是一个极大的变
上方文Q 2024-12-27
世界首富埃隆·马斯克周三在社交媒体平台X上透露,他正在使用礼来公司的Mounjaro来减肥。马斯克在X上发布了一张他打扮成圣诞老人的照片,照片中他站在一棵圣诞树旁,并配文“Ozemp
快科技12月27日消息,苹果官网显示,安徽第一家苹果零售店——Apple Store合肥万象城将于1月18日上午10点盛大开幕。截至目前,苹果零售店分布在上海、天津、河南郑州、浙江宁波、浙
振亭 2024-12-27
快科技12月27日消息,还有5天就要迎来2025年了,在2024年的尾声,网易云音乐今天正式发布2024年度听歌报告,回顾了用户过去一年听歌“足迹”。大家可以在网易云音乐App搜索“年
拾柒 2024-12-27
Copyright © 2026 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1