量化后仅 2GB 内存,端侧友好~...【查看原文】
量化后仅 2GB 内存,端侧友好~
褚杏娟 2024-09-11
|原文章发布于2024年09月09日端侧 ChatGPT 时刻到来!旗舰端侧模型面壁「小钢炮」系列进化为全新 MiniCPM 3.0 基座模型,再次以小博大,以 4B 参数,带来超越 GPT-3.5 的性能,强得不像端侧模型。并且,量化后仅 2GB 内存,端侧友好。这还是一款瑞士军刀般全面开挂的基座模型,一口气带来:·无限长文本,榜单性能超越 Kimi,超长文本也不崩;·Function Calling,性能比肩 GPT-4o 的端侧最强 Function Calling;·超强 RAG 外挂三件套,中文
ChatGPT
OpenBMB 2024-10-09
[图片] 开发者朋友们大家好: 这里是 「RTE 开发者日报」 ,每天和大家一起看新闻、聊八卦。我们的社区编辑团队会整理分享 RTE(Real-Time Engagement) 领域内「有话题的 新闻 」、「有态度的 观点 」、「有意思的 数据 」、「有思考的 文章 」、「有看点的 会议 」,但内容仅代表编辑的个人观点,欢迎大家留言、跟帖、讨论。 本期编辑:@SSN,@鲍勃 01 有话题的新闻 1、面壁智能推出小钢炮开源 MiniCPM3-4B AI 模型,宣称「端侧 ChatGPT 时刻到来」
RTE开发者社区 2024-09-06
以小博大的励志故事不只发生在创业历史上,也发生在端侧大模型上。今年2月份,面壁智能正式发布了2B旗舰端侧大模型面壁MiniCPM,不仅超越了来自「欧洲版OpenAI」的性能标杆之作,同时整体领先于GoogleGemma2B量级,还越级比肩7B、13B量级模型,如Llama2-13B等。
融资OpenAI
AppSo 2024-04-11
IT之家9月6日消息,面壁智能官方公众号昨日(9月5日)发布博文,宣布推出开源MiniCPM3-4BAI模型,声称“端侧ChatGPT时刻到来”。MiniCPM3-4B是MiniCPM系列的第三代产品,整体性能超过了Phi-3.5-mini-Instruct和GPT-3.5-Turbo-0125,媲美多款70亿~90亿参数的AI模型。
IT之家 2024-09-06
开卖冲泡奶茶。
时代财经 2024-12-27
新股东进场,创始人退任董事会主席。
前言 使用C#调用C++代码是一个很常见的需求,因此本文以知名的C++机器视觉库OpenCV为例,说明在C#中如何通过使用P/Invoke(平台调用)来调用C++代码。只是以OpenCV为例,实际上在
mingupup 2024-12-27
超火爆!100位美国达人,100位东南亚达人,现场选品、品牌种草、纯佣合作!
未来一氪 2024-12-27
analysis.Pass 中有一个 TypesInfo 字段,这个字段的保存这语法类型相关的信息 analysis.Pass.TypesInfo: Types:把每个合法表达式与其类型关联起来,比如
uccs 2024-12-27
Tesseract Tesseract 是一个开源的光学字符识别(OCR)引擎,最初由 Hewlett-Packard(惠普)实验室开发,后来由 Google 收购并继续维护和开源贡献。Tessera
十几年前,在还能因“PHP 是最好的语言”而争论起来、还能在上海举办 PHPCon 的那个时代,记得看到过 0x00+2=4 这么一个有关十六进制加法的 Bug……
胡译胡说 2024-12-27
## 写在前面 `springboot`遵从约定大于配置的原则,极大程度的解决了配置繁琐的
Seven97 2024-12-26
一键部署 Agent,自动采集 Docker 相关的日志、指标等数据, 在观测云平台一键开启监控 Dashboard 和监控器,实时观测容器运行情况,使容器可观测性变的方便、快捷、高效。
可观测性用观测云 2024-12-27
现代前端开发中,随着技术的不断更新和业务复杂度提升,代码质量逐渐成为我们关注的焦点。一个好的前端项目不仅要满足当前的业务需求,还得容易维护,这样才能快速适应未来的变化。然而在实际开发中经常会遇到...
转转技术团队 2024-12-27
Copyright © 2026 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1