GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

作者：机器之心发布时间：2023-11-06

大模型业务到底多烧钱？前段时间，华尔街日报的一则报道给出了参考答案。报道显示，微软的 GitHub Copilot 业务（背后由 OpenAI 的 GPT 大模型支撑）虽然每月收费 10 美元，但平...【查看原文】

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

机器之心发布作者：宁雪妃、周紫轩（无问芯穹TechView）近年来，大语言模型（LargeLanguageModels,LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、Copilot等）的发展。

清华大语言模型人工智能 ChatGPT Copilot

机器之心Pro 2024-06-14

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

钛媒体获悉，10月30日上午，王小川创立的AI大模型公司“百川智能”宣布，推出Baichuan2-192K大模型，其上下文窗口长度高达192K，能够处理约35万个汉字。目前百川智能已经启动该大模型的API内测，并开放给法律、媒体、金融等行业的核心合作伙伴。

王小川 GPT-4 AI大模型法律金融

钛媒体APP 2023-10-30

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

近年来，大语言模型（Large Language Models, LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、

清华大语言模型人工智能 ChatGPT

机器之心 2024-06-13

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

IT之家4月24日消息，4月23日，商汤科技发布了日日新5.0大模型。据介绍，该模型采用MOE混合专家架构，在知识、数学、推理和代码能力方面大幅提升。该模型基于超过10TBtokens训练，具备200K推理上…

商汤 GPT-4 编程

IT之家 2024-04-24

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

ChatGPT一夜间再次进化，OpenAI一口气推出大量更新！最核心的是API新增函数调用（Function calling）能力，与网页版的插件类似，API也能使用外部工具了。这个能力被交到开发者手上，ChatG

ChatGPT OpenAI

2023-06-14

近期资讯

古井贡酒获得实用新型专利授权：“一种方形玻璃瓶罐抓瓶机构”

证券之星消息，根据天眼查APP数据显示古井贡酒（000596）新获得一项实用新型专利授权，专利名为“一种方形玻璃瓶罐抓瓶机构”，专利申请号为CN202421165189.5，授权日为2024年12月27日。

证券之星 2024-12-28

充分利用微信：提升生活质量的多功能指南与社交技巧分享

无论是与朋友聊天，还是分享生活点滴，亦或是获取各种信息，微信都为我们提供了一个便利的平台。但是，你有没有想过，怎么才能充分利用好这个工具呢？

新报观察 2024-12-28

如何优化手机应用设置提升使用体验与隐私保护

在现在这个数字化的时代，手机应用程序已经成为我们生活中不可或缺的一部分。无论是社交、购物还是学习，我们总能在应用商店找到一款合适的app来满足自己的需求。

新报观察 2024-12-28

太钢不锈获得发明专利授权：“一种发动机高压共轨用不锈钢精炼的方法”

证券之星消息，根据天眼查APP数据显示太钢不锈（000825）新获得一项发明专利授权，专利名为“一种发动机高压共轨用不锈钢精炼的方法”，专利申请号为CN202211520704.2，授权日为2024年12月27日。

证券之星 2024-12-28

如何为视频添加字幕以提升观众体验与传播效果

在这个信息爆炸的时代，视频已经成为我们获取信息和娱乐的重要方式。无论是YouTube上的短视频，还是社交媒体上的直播，字幕的作用都显得尤为重要。添加字幕不仅能帮助听障人士理解视频内容，还能吸引更多的观众。今天，我们就来聊聊视频怎么添加字幕，让你的作品更加易于理解和传播。说到添加字幕，首先要明确的是字幕的类型。

新报观察 2024-12-28

初次使用苹果手机的开机与基本功能指南，助你轻松上手！

苹果手机作为现代人生活中不可或缺的工具，无论是用来打电话、发信息，还是上网、玩游戏，功能都非常强大。如果你用的是iPhoneX及更新型号，电源键和音量键的位置会有所不同，但是只要你找到那个按钮，接下来的步骤就简单多了。

新报观察 2024-12-28

宏昌科技获得实用新型专利授权：“一种结构简单的减压阀”

证券之星消息，根据天眼查APP数据显示宏昌科技（301008）新获得一项实用新型专利授权，专利名为“一种结构简单的减压阀”，专利申请号为CN202420787900.4，授权日为2024年12月27日。

证券之星 2024-12-28

轻松掌握Photoshop笔刷安装与使用技巧，提升设计效果！

很多刚接触Photoshop的朋友可能会觉得这方面比较复杂，其实安装笔刷并没有那么难，只要掌握几个步骤，你就能轻松搞定。有些朋友可能会问，那如果我下载的笔刷是一个压缩包呢？

新报观察 2024-12-28

广合科技获得发明专利授权：“PCB板的防铜皱工艺以及PCB板”

证券之星消息，根据天眼查APP数据显示广合科技（001389）新获得一项发明专利授权，专利名为“PCB板的防铜皱工艺以及PCB板”，专利申请号为CN202211272033.2，授权日为2024年12月27日。

证券之星 2024-12-28

盟固利获得发明专利授权：“一种固态锂离子电池用复合隔膜及其制备方法和固态锂离子电池”

证券之星消息，根据天眼查APP数据显示盟固利（301487）新获得一项发明专利授权，专利名为“一种固态锂离子电池用复合隔膜及其制备方法和固态锂离子电池”，专利申请号为CN202411162721.2，授权日为2024年12月27日。

证券之星 2024-12-28

GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

推荐体验

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

近期资讯

古井贡酒获得实用新型专利授权：“一种方形玻璃瓶罐抓瓶机构”

充分利用微信：提升生活质量的多功能指南与社交技巧分享

如何优化手机应用设置提升使用体验与隐私保护

太钢不锈获得发明专利授权：“一种发动机高压共轨用不锈钢精炼的方法”

如何为视频添加字幕以提升观众体验与传播效果

初次使用苹果手机的开机与基本功能指南，助你轻松上手！

宏昌科技获得实用新型专利授权：“一种结构简单的减压阀”

轻松掌握Photoshop笔刷安装与使用技巧，提升设计效果！

广合科技获得发明专利授权：“PCB板的防铜皱工艺以及PCB板”

盟固利获得发明专利授权：“一种固态锂离子电池用复合隔膜及其制备方法和固态锂离子电池”

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响