GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

作者：机器之心发布时间：2023-11-06

大模型业务到底多烧钱？前段时间，华尔街日报的一则报道给出了参考答案。报道显示，微软的 GitHub Copilot 业务（背后由 OpenAI 的 GPT 大模型支撑）虽然每月收费 10 美元，但平...【查看原文】

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

机器之心发布作者：宁雪妃、周紫轩（无问芯穹TechView）近年来，大语言模型（LargeLanguageModels,LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、Copilot等）的发展。

清华大语言模型人工智能 ChatGPT Copilot

机器之心Pro 2024-06-14

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

钛媒体获悉，10月30日上午，王小川创立的AI大模型公司“百川智能”宣布，推出Baichuan2-192K大模型，其上下文窗口长度高达192K，能够处理约35万个汉字。目前百川智能已经启动该大模型的API内测，并开放给法律、媒体、金融等行业的核心合作伙伴。

王小川 GPT-4 AI大模型法律金融

钛媒体APP 2023-10-30

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

近年来，大语言模型（Large Language Models, LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、

清华大语言模型人工智能 ChatGPT

机器之心 2024-06-13

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

IT之家4月24日消息，4月23日，商汤科技发布了日日新5.0大模型。据介绍，该模型采用MOE混合专家架构，在知识、数学、推理和代码能力方面大幅提升。该模型基于超过10TBtokens训练，具备200K推理上…

商汤 GPT-4 编程

IT之家 2024-04-24

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

ChatGPT一夜间再次进化，OpenAI一口气推出大量更新！最核心的是API新增函数调用（Function calling）能力，与网页版的插件类似，API也能使用外部工具了。这个能力被交到开发者手上，ChatG

ChatGPT OpenAI

2023-06-14

近期资讯

王腾称REDMI Turbo 4全面升级：无一短板直追旗舰

快科技12月30日消息，REDMI Turbo 4今天已经正式官宣，将于1月2日发布。王腾发文表示，Turbo 4是REDMI新一年继续高歌猛进的第一款作品，定位潮流性能小旗舰，颜值高、性能强。他透露了新机的

建嘉 2024-12-30

REDMI Turbo 4外观公布：“祥云白”配色首次亮相精致利落

快科技12月30日消息，REDMI Turbo 4已经官宣1月2日发布，官方刚刚还公布了新机外观，首次采用的“祥云白”正式亮相。从图片来看，新机采用了直角中框设计，但与背壳过度比较自然，采

建嘉 2024-12-30

韩国空难举世皆惊：近6年波音飞机事故已造成525人死亡

快科技12月30日消息，当地时间12月29日9时7分左右，一架正在着陆的飞机在韩国全罗南道的务安国际机场偏离跑道，撞上了围栏外墙，随后客机起火，机上181人中，仅2人获救。这场突如其来的空难事

落木 2024-12-30

1499元！华为FreeBuds Pro 4蛇年典藏版预售：金蛇绕币设计

快科技12月30日消息，华为官方今天官宣FreeBuds Pro 4蛇年典藏版，10:08正式开启预售，将于1月1日10:08正式开售，定价1499元。从商城页面得知，这次的FreeBuds Pro 4蛇年典藏版有两种配色，分

建嘉 2024-12-30

原价301元：温碧泉烟酰胺洁面乳2支29.9元大促

天猫温碧泉旗舰店，温碧泉烟酰胺洁面乳100g*2 支原价301元，立减40元，领取231元券，到手29.9元2支。添加烟酰胺、二裂酵母发酵产物滤液、荞麦籽提取物。亚洲苏打温泉水 + 透明质酸钠 + 甘油葡

小晖 2024-12-30

官方放话：公务用车原则上100%采购新能源汽车！

12月30日消息，据国内媒体报道称，财政部给出的最新要求显示，严格实行公务用车编制管理，按规逐步扩大新能源汽车配比。财政部办公厅关于进一步明确新能源汽车政府采购比例要求的通知。主管预

雪花 2024-12-30

济州航空股价重挫16% 五年缴纳罚金37亿3800万韩元

快科技12月30日消息，据媒体综合报道，当地时间12月29日，韩国济州航空一架载有181人的客机在务安机场失事造成179人遇难，成为韩国史上最严重空难。受此消息影响，济州航空股价重挫16%，触及纪

秋白 2024-12-30

德国病假侦探生意兴隆：病假持续增加老板被迫请病假侦探

快科技12月30日消息，据报道，持续上升的病假率让越来越多德国企业开始雇用私家侦探，以查清请病假的员工是不是真的病了。私家侦探马库斯向媒体透露，“若一个人一年请了30天、40天，甚至

若风 2024-12-30

官方电脑禁用Intel、AMD！加速国产CPU替代

快科技12月30日消息，据国内媒体报道，从中国电子信息产业集团有限公司获悉，中国电子飞腾系列国产CPU总销量近日突破1000万片。据悉，这些芯片广泛应用于国家重点工程和关键行业，为从端到云的

朝晖 2024-12-30

Intel入门级CPU酷睿Ultra 3 205现身：仅一个型号

快科技12月30日消息，英特尔的入门级桌面处理器即将迎来新成员，酷睿Ultra 3 205近日在泄露的“Arrow Lake-S”规格表中被发现，确认了这款CPU的存在，并将取代“酷睿i3”系

黑白 2024-12-30

GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

推荐体验

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

近期资讯

王腾称REDMI Turbo 4全面升级：无一短板直追旗舰

REDMI Turbo 4外观公布：“祥云白”配色首次亮相精致利落

韩国空难举世皆惊：近6年波音飞机事故已造成525人死亡

1499元！华为FreeBuds Pro 4蛇年典藏版预售：金蛇绕币设计

原价301元：温碧泉烟酰胺洁面乳2支29.9元大促

官方放话：公务用车原则上100%采购新能源汽车！

济州航空股价重挫16% 五年缴纳罚金37亿3800万韩元

德国病假侦探生意兴隆：病假持续增加老板被迫请病假侦探

官方电脑禁用Intel、AMD！加速国产CPU替代

Intel入门级CPU酷睿Ultra 3 205现身：仅一个型号

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响