GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

作者：机器之心发布时间：2023-11-06

大模型业务到底多烧钱？前段时间，华尔街日报的一则报道给出了参考答案。报道显示，微软的 GitHub Copilot 业务（背后由 OpenAI 的 GPT 大模型支撑）虽然每月收费 10 美元，但平...【查看原文】

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

机器之心发布作者：宁雪妃、周紫轩（无问芯穹TechView）近年来，大语言模型（LargeLanguageModels,LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、Copilot等）的发展。

清华大语言模型人工智能 ChatGPT Copilot

机器之心Pro 2024-06-14

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

钛媒体获悉，10月30日上午，王小川创立的AI大模型公司“百川智能”宣布，推出Baichuan2-192K大模型，其上下文窗口长度高达192K，能够处理约35万个汉字。目前百川智能已经启动该大模型的API内测，并开放给法律、媒体、金融等行业的核心合作伙伴。

王小川 GPT-4 AI大模型法律金融

钛媒体APP 2023-10-30

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

近年来，大语言模型（Large Language Models, LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、

清华大语言模型人工智能 ChatGPT

机器之心 2024-06-13

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

IT之家4月24日消息，4月23日，商汤科技发布了日日新5.0大模型。据介绍，该模型采用MOE混合专家架构，在知识、数学、推理和代码能力方面大幅提升。该模型基于超过10TBtokens训练，具备200K推理上…

商汤 GPT-4 编程

IT之家 2024-04-24

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

ChatGPT一夜间再次进化，OpenAI一口气推出大量更新！最核心的是API新增函数调用（Function calling）能力，与网页版的插件类似，API也能使用外部工具了。这个能力被交到开发者手上，ChatG

ChatGPT OpenAI

2023-06-14

近期资讯

我的2024年度总结：领证、买房、裁员、面试找工作、未来...

大家好啊，我是summo，2024也接近尾声了，是时候需要总结和反思一下了。今年发生了太多的事情，而且每一件都是人生大事，比如领证、买房、裁员、面试找工作等等，有些事情思考了很久才做如领证、买房，有

summo 2024-12-31

uni-cli 工程转换为 HBuilderX 工程

1.uniapp的开发方式有两种 1.1 HBuilderX：可视化，应用工具优点 HBuildX属于推荐开发工具，当公司存在多个项目都为HBuildX时，方便管理可以转换为HBuildX工程。项

新兵蛋子CodeLiu 2024-12-31

fastapi3全栈班2025年001 第一个fastapi3接口

前言在这里,我假设大家已经有了一定的基础,假设你没有基础. 那么我们学习fastapi,先学习什么呢? 肯定是先学习fastapi的基础. 安装fastapi 首先, 我们安装国产化的fastapi

Python私教 2024-12-31

萌萌酱 2024-12-31

一文搞懂Java中的泛型擦除

在 Java 开发的日常中，大家想必都用过泛型。像创建一个只能存放字符串的集合：List list = new ArrayList();，这里的泛型让代码看起来就很 “靠谱”

J2K 2024-12-31

从时区数据库的角度理解时区和夏令时

本文将从时区数据库出发，探究时区和夏令时的原理，结合 Python 内建 datetime 模块的代码实例，尝试说清楚时区和夏令时到底是什么。

VeSync技术 2024-12-31

揭秘职场薪资秘密：用Python全面解读BOSS直聘招聘数据

揭秘职场薪资秘密：用Python全面解读BOSS直聘招聘数据前言随着求职市场的数字化转型和数据分析的广泛应用，从招聘网站获取数据并进行分析已经成为个人职业发展和企业招聘的重要工具。在本系列博客中

Java移动技术栈 2024-12-31

MyBatis执行一条sql语句的流程（源码解析）

MyBatis执行sql语句的流程加载配置文件我们进入处的方法的：我们发现一个陌生的对象classLoaderWrapper，看着像一个类加载器，我们进入这个类中查看：发现这个对象包含两

轻浮j 2024-12-31

GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

推荐体验

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

近期资讯

我的2024年度总结：领证、买房、裁员、面试找工作、未来...

uni-cli 工程转换为 HBuilderX 工程

fastapi3全栈班2025年001 第一个fastapi3接口

2000 多位开发者测评通义灵码后，我们发现了大家「去班味」的原因

【JVM系列】垃圾收集器介绍

Kubernetes: NetworkPolicy 的实践应用

一文搞懂Java中的泛型擦除

从时区数据库的角度理解时区和夏令时

揭秘职场薪资秘密：用Python全面解读BOSS直聘招聘数据

MyBatis执行一条sql语句的流程（源码解析）

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响