GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

作者：机器之心发布时间：2023-11-06

大模型业务到底多烧钱？前段时间，华尔街日报的一则报道给出了参考答案。报道显示，微软的 GitHub Copilot 业务（背后由 OpenAI 的 GPT 大模型支撑）虽然每月收费 10 美元，但平...【查看原文】

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

机器之心发布作者：宁雪妃、周紫轩（无问芯穹TechView）近年来，大语言模型（LargeLanguageModels,LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、Copilot等）的发展。

清华大语言模型人工智能 ChatGPT Copilot

机器之心Pro 2024-06-14

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

钛媒体获悉，10月30日上午，王小川创立的AI大模型公司“百川智能”宣布，推出Baichuan2-192K大模型，其上下文窗口长度高达192K，能够处理约35万个汉字。目前百川智能已经启动该大模型的API内测，并开放给法律、媒体、金融等行业的核心合作伙伴。

王小川 GPT-4 AI大模型法律金融

钛媒体APP 2023-10-30

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

近年来，大语言模型（Large Language Models, LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、

清华大语言模型人工智能 ChatGPT

机器之心 2024-06-13

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

IT之家4月24日消息，4月23日，商汤科技发布了日日新5.0大模型。据介绍，该模型采用MOE混合专家架构，在知识、数学、推理和代码能力方面大幅提升。该模型基于超过10TBtokens训练，具备200K推理上…

商汤 GPT-4 编程

IT之家 2024-04-24

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

ChatGPT一夜间再次进化，OpenAI一口气推出大量更新！最核心的是API新增函数调用（Function calling）能力，与网页版的插件类似，API也能使用外部工具了。这个能力被交到开发者手上，ChatG

ChatGPT OpenAI

2023-06-14

近期资讯

第四代自升自航式风电安装船“铁建风电2000”在烟台交付

2024年12月28日，第四代自升自航式风电安装船“铁建风电2000”在中集来福士山东烟台建造基地交付。该船装备了起吊能力达2000吨的全回转起重机，可在水深80米的海域进行20兆瓦以上各型海上风机的安装施工，满足了海上风电行业深远海、大兆瓦的趋势，实现了该领域“国船国造国用”的目标。

金台资讯 2024-12-29

网安公司也中招！多家公司Chrome扩展被攻击对用户投毒

快科技12月29日消息，据媒体报道，近日，多家公司的Chrome浏览器扩展功能遭到黑客攻击，导致用户敏感数据面临泄露风险。其中，美国加州的数据安全初创公司Cyberhaven成为受害者之一，该公司已对外证实遭受恶意网络攻击。

快科技 2024-12-29

HMD Ridge 5G 手机曝光：展锐 T760 + 6G + 128G

IT之家12月29日消息，拥有良好爆料记录的消息源HMDMeme（smashx_60）目前曝光了HMDRidge5G手机，该机号称是HMD首款可负担的5G手机，虽然曝光图看起来像是折叠手机，不过实际上该机并非折叠手机，据称定价低于180欧元（IT之家备注：当前约1370元人民币）。

IT之家 2024-12-29

光明网 2024-12-29

高德地图新增三大功能！直连北斗卫星无网求救

快科技12月29日消息，今年8月28日，高德地图卫星求救功能上线，在2025年到来前，高德地图宣布卫星求救新增三大功能，分别为北斗卫星短报文求救、位置同显和救援小结。此外，在进入救援聊天室时，对于求救者来说，地图页面上会直观的显示你当前的位置、与救援队的距离以及位置的最后更新时间。

驱动之家 2024-12-29

提升摄影作品质量的技巧：模糊背景处理方法与注意事项总结

要达到这种效果，有几种方法可以尝试，不管是使用相机还是后期处理软件，都能实现模糊背景的效果。如果你有一支大光圈的镜头，比如f/1.8或f/2.8的镜头，效果会更明显。

新报观察 2024-12-29

国家安全部：关注智能手机使用安全把好手机“保密关”

值得注意的是，随着技术的飞速发展，手机安全问题也日益凸显，可能造成信息泄露，对国家安全构成威胁。

千龙网 2024-12-29

实地探访“数字普陀”，海纳小镇Citywalk展示智慧城市新成果

12月26日至27日，“数字寻踪·普陀印象”海纳小镇城市数字化转型体验Citywalk活动举办。一支由各界人士组成的考察团沿着“海纳新城”与“普陀新篇”两条线路，实地探访了普陀区内多个具有代表性的智慧城市建设优秀案例。

东方网 2024-12-29

GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

推荐体验

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

王小川公布最新大模型，号称全球最长上下文，是GPT-4的14倍｜钛媒体焦点

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

商汤发布日日新5.0大模型：推理上下文窗口200K，对标GPT-4 Turbo

ChatGPT大更新！新增杀手级能力还降价：新模型、4倍上下文

近期资讯

第四代自升自航式风电安装船“铁建风电2000”在烟台交付

网安公司也中招！多家公司Chrome扩展被攻击对用户投毒

HMD Ridge 5G 手机曝光：展锐 T760 + 6G + 128G

韩国客机碰撞起火事故事发机型为波音737-800

PS5可能延续PS4生命周期：将在2027年推出

美团：将逐步取消骑手超时扣款

高德地图新增三大功能！直连北斗卫星无网求救

提升摄影作品质量的技巧：模糊背景处理方法与注意事项总结

国家安全部：关注智能手机使用安全把好手机“保密关”

实地探访“数字普陀”，海纳小镇Citywalk展示智慧城市新成果

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响