GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

作者：机器之心发布时间：2023-11-06

大模型业务到底多烧钱？前段时间，华尔街日报的一则报道给出了参考答案。报道显示，微软的 GitHub Copilot 业务（背后由 OpenAI 的 GPT 大模型支撑）虽然每月收费 10 美元，但平...【查看原文】

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

机器之心发布作者：宁雪妃、周紫轩（无问芯穹TechView）近年来，大语言模型（LargeLanguageModels,LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、Copilot等）的发展。

清华大语言模型人工智能 ChatGPT Copilot

机器之心Pro 2024-06-14

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

钛媒体获悉，10月30日上午，王小川创立的AI大模型公司“百川智能”宣布，推出Baichuan2-192K大模型，其上下文窗口长度高达192K，能够处理约35万个汉字。目前百川智能已经启动该大模型的API内测，并开放给法律、媒体、金融等行业的核心合作伙伴。

王小川 GPT-4 AI大模型法律金融

钛媒体APP 2023-10-30

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

近年来，大语言模型（Large Language Models, LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、

清华大语言模型人工智能 ChatGPT

机器之心 2024-06-13

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

IT之家4月24日消息，4月23日，商汤科技发布了日日新5.0大模型。据介绍，该模型采用MOE混合专家架构，在知识、数学、推理和代码能力方面大幅提升。该模型基于超过10TBtokens训练，具备200K推理上…

商汤 GPT-4 编程

IT之家 2024-04-24

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

ChatGPT一夜间再次进化，OpenAI一口气推出大量更新！最核心的是API新增函数调用（Function calling）能力，与网页版的插件类似，API也能使用外部工具了。这个能力被交到开发者手上，ChatG

ChatGPT OpenAI

2023-06-14

近期资讯

解禁摩令吗！国标限速25km/h 电动自行车要取代燃油摩托车

快科技12月25日消息，爱玛科技集团副总裁宁华山近日接受媒体采访时表示，电动两轮车已经进入到了一个深度调整期，尤其在新国标出台后，对整个行业的产品技术标准和未来走向都会产生深度影响，将

雪花 2024-12-25

一博主长期侵犯华为权益被判公开致歉：拒不执行被法院公示

快科技12月25日消息，《南方日报》今日刊登了一份“华为技术有限公司、华为终端有限公司起诉余明亮名誉权纠纷案件判决内容公告”，据悉，是被告人败诉后拒不公开致歉，因此被东莞市第

落木 2024-12-25

特斯拉CyberCab再现颠覆式设计！游戏手柄替代方向盘

快科技12月25日消息，特斯拉的无人驾驶出租车CyberCab的最新细节被外媒披露，该车型可以通过类似游戏手柄的控制器进行操控。在彼得森汽车博物馆展示CyberCab时，工作人员展示了如何通过有线连

王略 2024-12-25

年前屯一波！洽洽瓜子官旗8.66元/斤大促：四种口味随便选

天猫【洽洽食品官方旗舰店】洽洽瓜子 500g*3 袋日常售价为 33.9 元，今日百亿补贴价为 25.98 元。* 无视券已失效提示，若未自动跳转，可点击详情页【百亿补贴】卡片下单。购买链接：天猫(

2024-12-25

价格屠夫！小米米家面板灯众筹：89元起自带人在传感器

快科技12月25日消息，前段时间，领普人体存在平板灯LP1已经被视为“神灯”，129元起就能获得一款自带人体存在传感器的平板灯，在卫生间、厨房使用非常合适。今天小米米家面板灯系列

建嘉 2024-12-25

奇瑞iCAR总经理：开V23别人都得仰视我、看他人像小乌龟壳

快科技12月25日消息，奇瑞iCar V23上市后热度非常高，近日，iCAR总经理章红玉在直播中着重强调了V23的情绪价值。其表示：开着V23停在斑马线前等红灯时，两边车子里的人、骑电动车人和路上的

落木 2024-12-25

影视飓风2024年度相机颁奖：iPhone 16 Pro Max获最佳手机

快科技12月25日消息，B站千万粉UP主“影视飓风”公布了2024年度相机颁奖。其中“最佳手机视频”的桂冠颁给了苹果iPhone 16 Pro Max。影视飓风表示，之所以颁给iPhone 1

随心 2024-12-25

快科技2024年度评奖：硬盘篇

今年的硬盘市场，既可以说波澜不惊，也可以说暗流涌动。去年大热的PCIe 5.0 SSD今年突然冷静了下来，各家都没有大规模推出产品，还是在PCIe 4.0 SSD市场上激烈搏杀。去年被视作PCIe 5.0 SSD主

万俟雨休 2024-12-25

快科技2024年度评奖：内存篇

2024年已要过完，回顾今年的内存市场，除了高频率依然是绕不开的话题，低时序也得到了广泛重视。各个厂商的DDR5-8000MHz内存不断涌现，还有不少产品甚至可以在室温空冷的情况下，就能超频到10

黑白 2024-12-25

博主曝有人招募水军恶意刷蔚来差评：一条评论5毛钱

快科技12月25日消息，日前，有博主爆料称，微信群中有人招募网络水军，向蔚来汽车恶意刷差评，一条评论5毛钱。聊天截屏显示，招募的水军要求，直接复制评论大量刷就行，一条0.5元。招募人还

若风 2024-12-25

GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

推荐体验

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

近期资讯

解禁摩令吗！国标限速25km/h 电动自行车要取代燃油摩托车

一博主长期侵犯华为权益被判公开致歉：拒不执行被法院公示

特斯拉CyberCab再现颠覆式设计！游戏手柄替代方向盘

年前屯一波！洽洽瓜子官旗8.66元/斤大促：四种口味随便选

价格屠夫！小米米家面板灯众筹：89元起自带人在传感器

奇瑞iCAR总经理：开V23别人都得仰视我、看他人像小乌龟壳

影视飓风2024年度相机颁奖：iPhone 16 Pro Max获最佳手机

快科技2024年度评奖：硬盘篇

快科技2024年度评奖：内存篇

博主曝有人招募水军恶意刷蔚来差评：一条评论5毛钱

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响