芯片推理速度较英伟达GPU提高10倍、成本只有其1/10;运行的大模型生成速度接近每秒500tokens,碾压ChatGPT-3.5大约40tokens/秒的速度——短短几天,一家名为Groq的初创公司在AI圈爆火。...【查看原文】
人们还没从视频生成模型Sora带来的震撼中回过神来,硅谷AI芯片初创公司Groq的大模型又引发了市场热烈讨论,其主打一个“快”,每秒能输出500个token(注:语言模型中用来表示最小文本单元)。相比之下,ChatGPT-3.5每秒生成速度为40个token。在大模型产品多如牛毛的当下,Groq为何得以爆火?
英伟达AI芯片ChatGPT
21世纪经济报道 2024-02-21
鞭牛士3月22日消息,生成式AI的爆火使得成立近30年的英伟达再次迎来高光时刻。针对算力需求巨大的ChatGPT,英伟达发布了NVIDIAH100NVL,这是一种具有94GB内存和加速Transformer引擎的大语言模型(LLM)专用解决方案,配备了双GPUNVLINK的PCIEH100GPU。
ChatGPT生成式AI
鞭牛士 2023-03-22
普通人的智慧眼瞅着就赶不上ChatGPT了。记得在99年刚会上网的时候,就有这么句话:你不知道对面跟你聊天的是人还是狗。ChatGPT的出现,真的是会让很多人分不清对面到底是不是人了。2023年以后不知道这个AI最终会成为什么样子。
ChatGPT
原feng不動 2023-02-07
2023年是人工智能进入大众视野的一年,2024年时人们见证人工智能飞跃的一年。开年以来一波未平一波又起,文生视频大模型Sora的热度还未消散,高速语言推理大模型Groq又横空出世。根据介绍,该模型的推理速度相较于英伟达的GPU提高了10倍,但是成本却只有10%。
GPT-4人工智能英伟达
市值风云 2024-02-20
中国小康网独家专稿文|《小康》·中国小康网袁凯面对Sora的出现,每一个热爱科技与金融的人,都无法置之不理。因为,这不仅仅是技术领域的一个亮点,它对整个经济、社会的影响,极有可能是一场革命。
Sora金融
中国小康网 2024-04-09
快科技12月29日消息,据报道,多位网友日前爆料称,自己抢到了海南航空明年1月4日从成都飞往北京的机票,票价3元,外加70元的机建燃油费,总费用仅为73元,起飞时间为晚上8点半。此事引起
2024-12-29
快科技12月29日消息,日前,数码博主“定焦数码”爆料,称华为畅享70X预计下周亮相,节后发布,新机售价预计在1500元~2000元左右。结合已知爆料,华为畅享70X两个最大亮点是麒麟芯片
金融界2024年12月28日消息,国家知识产权局信息显示,上海瀚宇光纤通信技术有限公司取得一项名为“一种环形腔光纤激光器”的专利,授权公告号CN222214785U,申请日期为2024年5月。
金融界 2024-12-28
武器科技 2024-12-28
正当你准备坐在沙发上,享受一场精彩的比赛,或者追一部心仪的剧集时,突然屏幕上跳出“无信号”的提示,真的是让人很沮丧。很多时候,电视会自动切换信号源,如果你不小心按到了遥控器上的某个按钮,可能就切换到了错误的信号源。
新报观察 2024-12-29
快科技12月29日消息,近日,据官方获悉,南宁至珠海高铁南宁至玉林段(南玉段)将于12月30日开通运营,这标志着广西玉林迈入高铁时代。南宁与玉林间铁路最快旅行时间由1小时44分钟缩短至48分钟,
简单而有效
神译局 2024-12-29
金融界2024年12月28日消息,国家知识产权局信息显示,天津七六四通信导航技术有限公司取得一项名为“一种便于携带的避雷针”的专利,授权公告号CN222214789U,申请日期为2024年4月。专利摘要显示,本实用新型公开了一种便于携带的避雷针,涉及火花隙技术领域。
科技老房 2024-12-28
Copyright © 2026 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1