GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

作者：机器之心发布时间：2023-11-06

大模型业务到底多烧钱？前段时间，华尔街日报的一则报道给出了参考答案。报道显示，微软的 GitHub Copilot 业务（背后由 OpenAI 的 GPT 大模型支撑）虽然每月收费 10 美元，但平...【查看原文】

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

机器之心发布作者：宁雪妃、周紫轩（无问芯穹TechView）近年来，大语言模型（LargeLanguageModels,LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、Copilot等）的发展。

清华大语言模型人工智能 ChatGPT Copilot

机器之心Pro 2024-06-14

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

钛媒体获悉，10月30日上午，王小川创立的AI大模型公司“百川智能”宣布，推出Baichuan2-192K大模型，其上下文窗口长度高达192K，能够处理约35万个汉字。目前百川智能已经启动该大模型的API内测，并开放给法律、媒体、金融等行业的核心合作伙伴。

王小川 GPT-4 AI大模型法律金融

钛媒体APP 2023-10-30

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

近年来，大语言模型（Large Language Models, LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、

清华大语言模型人工智能 ChatGPT

机器之心 2024-06-13

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

IT之家4月24日消息，4月23日，商汤科技发布了日日新5.0大模型。据介绍，该模型采用MOE混合专家架构，在知识、数学、推理和代码能力方面大幅提升。该模型基于超过10TBtokens训练，具备200K推理上…

商汤 GPT-4 编程

IT之家 2024-04-24

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

ChatGPT一夜间再次进化，OpenAI一口气推出大量更新！最核心的是API新增函数调用（Function calling）能力，与网页版的插件类似，API也能使用外部工具了。这个能力被交到开发者手上，ChatG

ChatGPT OpenAI

2023-06-14

近期资讯

巴里坤大河机场正式校飞

12月23日13时33分，伴随着巨大的轰鸣声，一架从新疆奇台江布拉克机场起飞的“奖状C560”校验飞机平稳降落在巴里坤大河机场。从2023年3月开工建设至今，巴里坤大河机场终于迎来了第一架飞机的降落，这标志着巴里坤大河机场校飞工作正式启动，机场正式从“建起来”迈入“飞起来”的新阶段。

央广网 2024-12-26

松下XQB100-1U2R10公斤波轮洗衣机，国补800元下的性价比之选

#内容带货搜索热词种草计划#松下波轮洗衣机以其先进的技术和卓越性能在全球家电市场中享有盛誉。松下波轮洗衣机的技术优势在于其创新的水氧泡沫净洗技术，该技术通过持续发泡，形成细腻丰富的泡沫，能够迅速渗透衣物纤维，深层瓦解顽固污渍，让衣物洁净如新。

小米地瓜 2024-12-25

首个科学计算基座大模型 BBT-Neutron 开源，突破大科学装置数据分析瓶颈

大语言模型能否解决传统大语言模型在大规模数值数据分析中的局限性问题，助力科学界大科学装置设计、高能物理领域科学计算？近期，arXiv上更新了一篇名为《ScalingParticleCollisionDataAnalysis》的论文。近年来大语言模型在文本处理、常识问答等任务上取得了显著进展，但在处理大规模数值数据方面依然面临挑战。

IT之家 2024-12-25

OPPO Reno 13 标准版手机将推出“超级纯正的白色”版本

IT之家12月25日消息，OPPOReno13系列手机发布于今年11月，包括Pro和标准版，均搭载天玑8350处理器，售价2699元起。OPPOReno系列产品发言人账号@Reno-girls今日发布视频，就Reno13系列新机相关问题进行了解答。

IT之家 2024-12-25

美的集团获得实用新型专利授权：“调节装置和制冷设备”

证券之星消息，根据天眼查APP数据显示美的集团（000333）新获得一项实用新型专利授权，专利名为“调节装置和制冷设备”，专利申请号为CN202420139821.2，授权日为2024年12月24日。专利摘要：本实用新型涉及家用器具技术领域，尤其涉及调节装置和制冷设备。

证券之星 2024-12-26

海天瑞声：IoT端侧语音转写等数据需求增长

金融界12月25日消息，海天瑞声披露投资者关系活动记录表显示公司观察到，在IoT硬件厂商的端侧应用中，数据需求呈现新的共性特点，包括语音转写、文档修饰、改写、生成摘要、短信自动回复、图片和视频自动处理等。此外，办公场景中通过OCR技术改进财务办公类应用的发票处理数据需求也在增加。

金融界 2024-12-25

“千帆思享会”：百度智能云发布交通大模型SaaS系列，包括信控、智能问答、道路隐患排查平台

12月20日，在由交通安全行为科学实验室、海口交警支队指导，百度智能云、赛文交通网联合主办的“交通大模型SaaS模式实战研讨会”上，百度智能云重磅发布大模型SaaS系列产品“智能信控SaaS平台、交通智能问答SaaS平台、道路隐患排查SaaS平台”。这是百度智能云基于“千帆行业增强版大模型”能力基础上在交通领域做的又一次创新尝试。

华尔街见闻 2024-12-25

中康科技、扬子江药业集团发布糖尿病并发症疾病研究白皮书

校对盛媛媛…

扬子晚报 2024-12-25

中国科学家发现准粒子禁闭与非禁闭的开关密码

中国科学家近日首次观测到准粒子禁闭到非禁闭之间转化的微观动力学过程，发现调控其禁闭与非禁闭状态的开关密码。虽然夸克是组成物质的基本粒子，但无法在自然界中观测到单个夸克，即便是在高能粒子碰撞机中，粒子碰撞碎片中的夸克瞬间就形成了新的复合粒子。

央广网 2024-12-26

如何巧妙藏手机：保护隐私与安全的实用技巧与创意方法

无论是工作、学习，还是娱乐、社交，手机都扮演着重要的角色。今天就聊聊怎么藏手机，既要实用，又要有趣。说到藏手机，首先要考虑的是藏在哪里。

新报观察 2024-12-26

GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

推荐体验

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

近期资讯

巴里坤大河机场正式校飞

松下XQB100-1U2R10公斤波轮洗衣机，国补800元下的性价比之选

首个科学计算基座大模型 BBT-Neutron 开源，突破大科学装置数据分析瓶颈

OPPO Reno 13 标准版手机将推出“超级纯正的白色”版本

美的集团获得实用新型专利授权：“调节装置和制冷设备”

海天瑞声：IoT端侧语音转写等数据需求增长

“千帆思享会”：百度智能云发布交通大模型SaaS系列，包括信控、智能问答、道路隐患排查平台

中康科技、扬子江药业集团发布糖尿病并发症疾病研究白皮书

中国科学家发现准粒子禁闭与非禁闭的开关密码

如何巧妙藏手机：保护隐私与安全的实用技巧与创意方法

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响